OpenAI получила первый иск за «галлюцинации» у ChatGPT

Радиоведущий из штата Джорджия Марк Уолтерс решил обратиться в суд после того, как ChatGPT «обвинила» его в мошенничестве и растрате средств некоммерческой организации. Текст был сгенерирован в ответ на запрос журналиста по имени Фред Рил. Уотерс хочет получить с разработчиков денежную компенсацию, её размер не уточняется.

Запрос Рила был связан с реальным судебным разбирательством. Он дал чатботу ссылку на PDF-документ по нему и попросил резюмировать. Составленное чатботом резюме было подробным и убедительным, но факты там оказались смешаны с ложными обвинениями в адрес Уолтерса. В частности, он якобы присвоил более $5 млн, принадлежавших некоммерческой организации Second Amendment Foundation, которая занимается вопросами прав на ношение оружия. В реальности ничего подобного радиоведущему никогда не предъявляли.

Рил сгенерированные чатботом обвинения не публиковал, но решил проверить. Как именно Уолтерс узнал о них, из материалов дела не ясно.

Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались

По теме

Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались

Получится ли привлечь компанию к ответственности за то, что её ИИ-система выдала ложь и клевету, неизвестно. Американское законодательство снимает с интернет-компаний ответственность за информацию третьих лиц, размещаемую на их платформах — вопрос в том, применимо ли это к ИИ-системам, которые не просто размещают ссылки, а на базе сторонней создают новую информацию, отмечает The Verge.

Юристы сомневаются, что дело Уолтерса завершится в его пользу. Прежде чем подать в суд, он не обратился с возникшей проблемой к OpenAI и не дал разработчикам шанс удалить ложные заявления чатбота. Также обвинения чатбота не нанесли ему фактического ущерба.

OpenAI, с одной стороны, на главной веб-странице ChatGPT предупреждает, что система иногда может выдавать некорректную информацию. Но с другой, позиционирует чатбота как источник надёжных данных, который позволяет получать ответы и узнавать что-то новое. Гендиректор OpenAI Сэм Альтман даже заявлял, что предпочитает черпать информацию из ChatGPT, чем из книг.

Apple запретила сотрудникам пользоваться ChatGPT

По теме

Apple запретила сотрудникам пользоваться ChatGPT

Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого

По теме

Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого

Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150