Реклама в Telegram-каналах DzikPic и dev.by теперь дешевле. Узнать подробности 👨🏻‍💻
Support us

ИИ-модель для научных открытий решила переписать свой код

Токийская компания Sakana AI недавно представила ИИ-систему под названием The AI Scientist, которая предназначена для автономного проведения научных исследований и построена на основе языковых моделей вроде тех, что под капотом у ChatGPT. Во время испытаний она внезапно стала самовольно модифицировать свой код.

Оставить комментарий

Токийская компания Sakana AI недавно представила ИИ-систему под названием The AI Scientist, которая предназначена для автономного проведения научных исследований и построена на основе языковых моделей вроде тех, что под капотом у ChatGPT. Во время испытаний она внезапно стала самовольно модифицировать свой код.

В одном случае изменённый код делал системный вызов для запуска её самой, что приводило к зацикливанию. В другом случае эксперименты ИИ-системы не укладывались в положенное время, и она пыталась переписать свой код, чтобы дать себе больше.

Разработчики подчёркивают, что такое поведение ИИ-системы не представляло угрозы, поскольку она функционирует в контролируемой среде. Но они подчеркнули, что нельзя допускать автономного исполнения сгенерированного ИИ кода в неконтролируемых системах. А подобные инциденты наглядно демонстрируют потенциальные опасности, которые могут возникнуть, если позволить ИИ без контроля писать и редактировать код. К примеру, это может привести к нарушению работы критически важной инфраструктуры или созданию ИИ вредоносов.

8-летняя дочка топа Cloudflare создала чат-бота за 45 минут
8-летняя дочка топа Cloudflare создала чат-бота за 45 минут
По теме
8-летняя дочка топа Cloudflare создала чат-бота за 45 минут
20%: вероятность с которой ИИ уничтожит нас по мнению Маска
20%: вероятность, с которой ИИ уничтожит нас, по мнению Маска
По теме
20%: вероятность, с которой ИИ уничтожит нас, по мнению Маска
Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150

Читайте также
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Японские власти объявили войну дискетам и компакт-дискам. Чиновники до сих пор обязаны их использовать
Японские власти объявили войну дискетам и компакт-дискам. Чиновники до сих пор обязаны их использовать
Японские власти объявили войну дискетам и компакт-дискам. Чиновники до сих пор обязаны их использовать
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
3 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.