OpenAI придумала новый комитет по безопасности ИИ и не включила туда Альтмана

Новая структура получила право приостанавливать релизы ИИ-моделей по соображениям безопасности. В комиссию вошли Зико Колтер, Адам д’Анджело, Пол Накасоне, Николь Селигман, которые также входят в состав совета директоров компании. При этом в списке членов нет гендиректора OpenAI Сэма Альтмана.

Комиссия уже провела проверку безопасности новой модели o1. Орган вместе с советом директоров будет осуществлять надзор за разработкой новых ИИ-моделей. Совет директоров будет получать периодические брифинги по вопросам безопасности систем.

Изменения в структуре компании произошли после того, как стартап лишился почти половины сотрудников, которые отвечали за долгосрочные риски ИИ. Многие из них перешли в Safe Superintelligence — стартап одного из основателей OpenAI Ильи Суцкевера, который ранее также уволился из компании.

По данным СМИ, OpenAI готовится к новому раунду финансирования в размере около $6,5 миллиарда при оценке компании в $150 миллиардов. Для повышения стоимости на рынке руководство стартапа планирует полностью изменить корпоративную структуру компании и отказаться от некоммерческой составляющей.