Залізо для AI: купувати своє чи орендувати потужності?
Привіт, народ!
Зараз прораховую кошторис для нового проекту, плануємо тренувати нейронки. Глянув на ціни топових відеокарт і, м'яко кажучи, офігів. Вкладати десятки тисяч доларів у залізо, яке за рік-два застаріє — це величезний ризик для бюджету.
Почав вивчати тему оренди і натрапив на цікаві роздуми про Машинне навчання https://rama.com.ua/mashinne-navchannja-i-gpu-koli-obchislennja-stajut-servisom/ і те, як GPU-обчислення перетворюються на звичайний сервіс, як електрика в розетці. Тобто ти не купуєш електростанцію, а просто платиш за спожиті кіловати.
Хтось уже перейшов повністю на хмарні GPU? Чи є сенс тримати хоча б тестовий стенд у себе в офісі, чи це вже економічно невигідно порівняно з хмарою?
Додайте перший коментар!
тут обговорюємо питання щодо створення та роботи ОСББ