ChatGPT стоит разработчикам более $700 тысяч в сутки

Это объясняется потребностью в огромных вычислительных мощностях для обработки пользовательских запросов и высокой стоимостью этой инфраструктуры.

«Бо́льшая часть затрат связана с дороговизной серверов, которые они требуют», — говорят в SemiAnalysis.

И речь идёт даже не о новейшей версии моделей в основе ChatGPT — подсчёты проводились для GPT-3. Аналитики полагают, что затраты на GPT-4 ещё выше.

Тренировка языковых моделей — недешёвое удовольствие, которое может стоить десятки миллионов долларов. Однако именно их развертывание в масштабе и функционирование, то есть операционные издержки, гораздо дороже.

Чтобы снизить эти издержки, Microsoft разрабатывает кастомный ИИ-чип под кодовым именем Athena. Проект стартовал в 2019 году — спустя год после того, как Microsoft вложила $1 млрд в OpenAI, а та обязалась использовать для работы своих моделей исключительно облачные серверы Microsoft Azure. Сейчас на проекте занято около 300 человек. Чип может появиться уже в следующем году и будет использоваться внутри Microsoft и OpenAI.