Обчислення на GPU: своя ферма чи хмара?
Привіт, народ!
Зараз зіткнулися з проблемою нестачі потужностей для навчання моделей. Почали рахувати, у що обійдеться закупівля професійних відеокарт, і цифри, чесно кажучи, лякають. Плюс, залізо старіє миттєво, а навантаження у нас нерівномірне: сьогодні треба рендерити добу без упину, а завтра все простоює.
Почав копати в бік оренди і натрапив на матеріал, де описується Роль GPU в сучасній хмарній інфраструктурі https://www.kramatorsk.info/view/343136 і це виглядає як розумна альтернатива. Там якраз піднімається питання, що для змінного навантаження купувати своє залізо — це закопування грошей.
Хто вже перейшов на хмарні GPU для ML або рендерингу? Чи реально це виходить дешевше на дистанції, якщо врахувати всі приховані платежі за трафік і зберігання даних?
Додайте перший коментар!
тут обговорюємо питання щодо створення та роботи ОСББ