Бывший глава отдела безопасности OpenAI перешел к конкуренту
Один из руководителей отдела безопасности OpenAI Ян Лейке занимался долгосрочными рисками, связанными с ИИ. Из-за разногласий с руководством компании он оставил должность.
Лейке покинул компанию вместе с ее сооснователем Ильей Суцкевером. Оба руководили подразделением Superalignment, которое было распущено, проработав менее года. Лейке раскритиковал OpenAI за то, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами». В Antropic Лейке будет заниматься теми же вопросами безопасности, что и в OpenAI.
OpenAI объявила о создании нового комитета по контролю безопасности ИИ, который будет изучать риски, связанные с созданием ИИ-технологий. «Хотя мы гордимся тем, что создаём и выпускаем модели, которые являются ведущими в отрасли как по возможностям, так и по безопасности, мы приветствуем активную дискуссию в этот важный момент», — заявила компания. Возглавил комитет гендиректор компании Сэм Альтман.
Читать на dev.by