OpenAI получила первый иск за «галлюцинации» у ChatGPT

Радиоведущий из штата Джорджия Марк Уолтерс решил обратиться в суд после того, как ChatGPT «обвинила» его в мошенничестве и растрате средств некоммерческой организации. Текст был сгенерирован в ответ на запрос журналиста по имени Фред Рил. Уотерс хочет получить с разработчиков денежную компенсацию, её размер не уточняется.

Запрос Рила был связан с реальным судебным разбирательством. Он дал чатботу ссылку на PDF-документ по нему и попросил резюмировать. Составленное чатботом резюме было подробным и убедительным, но факты там оказались смешаны с ложными обвинениями в адрес Уолтерса. В частности, он якобы присвоил более $5 млн, принадлежавших некоммерческой организации Second Amendment Foundation, которая занимается вопросами прав на ношение оружия. В реальности ничего подобного радиоведущему никогда не предъявляли.

Рил сгенерированные чатботом обвинения не публиковал, но решил проверить. Как именно Уолтерс узнал о них, из материалов дела не ясно.

Получится ли привлечь компанию к ответственности за то, что её ИИ-система выдала ложь и клевету, неизвестно. Американское законодательство снимает с интернет-компаний ответственность за информацию третьих лиц, размещаемую на их платформах — вопрос в том, применимо ли это к ИИ-системам, которые не просто размещают ссылки, а на базе сторонней создают новую информацию, отмечает The Verge.

Юристы сомневаются, что дело Уолтерса завершится в его пользу. Прежде чем подать в суд, он не обратился с возникшей проблемой к OpenAI и не дал разработчикам шанс удалить ложные заявления чатбота. Также обвинения чатбота не нанесли ему фактического ущерба.

OpenAI, с одной стороны, на главной веб-странице ChatGPT предупреждает, что система иногда может выдавать некорректную информацию. Но с другой, позиционирует чатбота как источник надёжных данных, который позволяет получать ответы и узнавать что-то новое. Гендиректор OpenAI Сэм Альтман даже заявлял, что предпочитает черпать информацию из ChatGPT, чем из книг.