Генеральний директор OpenAI Сем Альтман висловив думку, що використання великих обсягів оперативної пам'яті (DRAM) у персональних комп'ютерах є неефективним з погляду глобального розподілу ресурсів. На його переконання, дата-центри можуть використовувати ті самі ресурси значно ефективніше і забезпечувати вищу продуктивність.
Альтман зазначив, що локальне виконання моделей штучного інтелекту, яке набуває популярності як альтернатива хмарним сервісам, часто залишає значну частину пам'яті невикористаною. За його словами, дорогий ресурс DRAM у таких випадках використовується лише на 5% свого потенціалу. Він назвав цей показник «досить жахливим» з точки зору оптимального використання обмежених світових запасів. На його думку, пам'ять отримала б краще застосування в централізованих дата-центрах, де вона могла б безперервно обслуговувати численних користувачів і різноманітні робочі навантаження.
Водночас аргументація Альтмана стосується насамперед локального ШІ-інференсу і не враховує інших причин, через які користувачі потребують оперативної пам'яті. Серед них запуск сучасних відеоігор, робота з багатозадачністю та повсякденні програми, які також потребують значних обсягів RAM для коректної роботи. Обмеження обсягу пам'яті в персональних пристроях може суттєво вплинути на користувацький досвід саме в цих сферах.
Позиція керівника OpenAI узгоджується з бізнес-моделлю компанії. Хоча OpenAI пропонує окремі моделі з відкритим кодом, її основні продукти є закритими моделями, які працюють у дата-центрах і доступні через підписки та хмарні сервіси. Ширше впровадження локальних моделей ШІ могло б зменшити залежність користувачів від хмарних платформ, хоча дата-центри залишаться необхідними для навчання великих і складних моделей.
Заяви Альтмана з'являються на тлі посилення конкуренції між постачальниками інфраструктури ШІ за обмежені запаси пам'яті. Виробники пам'яті пріоритетно задовольняють попит з боку дата-центрів, що створює додатковий тиск на ринок споживчих товарів і сприяє зростанню цін на персональні комп'ютери та інше обладнання.
Коментарі Альтмана підсилюють дебати про те, чи мають обмежені світові запаси DRAM концентруватися у великих дата-центрах для потреб ШІ, чи залишатися доступними для індивідуальних користувачів. Питання полягає в тому, які пріоритети слід ставити перед ринком пам'яті: масштабування інфраструктури штучного інтелекту чи доступність комплектуючих для звичайних споживачів.
7
