OpenAI столкнулась с еще одной жалобой на «галлюцинации» ChatGPT в ЕС

Исследователям уже хорошо известно такое явление как «галлюцинации» ИИ: способность моделей выдавать неверную информацию за правдивую. Правозащитники указывают, что технология таким образом противоречит Общему регламенту защиты данных (GDPR), который регулирует обработку персональных данных региональных пользователей.

Согласно законодательству, штрафы за несоблюдение регламента могут достигать 4% мирового годового оборота компании. Кроме того, регулятор может потребовать от компании изменить порядок обработки информации. Соблюдение GDPR может изменить работу инструментов генеративного ИИ в ЕС.

Ранее OpenAI уже вносила некоторые изменения в свою политику после временной блокировки ChatGPT в Италии в 2023 году по требованию местного регулятора. Тогда претензии ведомства также были связаны с конфиденциальностью. Теперь Noyb подала жалобу в австрийский орган защиты данных, утверждая, что неназванный заявитель обнаружил неверную дату рождения в ответах чат-бота.

Потребители в ЕС имеют ряд прав по GDPR, в том числе право на исправление ошибочных данных. Noyb считает, что OpenAI не выполняет обязательство. Также компания отклонила просьбу заявителя исправить неправильную дату рождения, отметив, что исправить это технически невозможно.

Сам стартап предлагает отправлять все запросы на исправление через Privacy.openai.com или по электронной почте dsar@openai.com. При этом разработчик оговаривает, что при технической сложности работы модели он не может исправить каждую неточность. Компания не в состоянии полностью удалить информацию из датасета нейросети.

Другая проблема — это требование прозрачности. Noyb утверждает, что OpenAI не может сказать, откуда берутся данные, которые она генерирует о людях, и какие данные хранятся в чат-боте. GDPR дает право пользователям запрашивать такую информацию. Однако стартап не отреагировал должным образом на запрос заявителя, не раскрыв никакой информации об обрабатываемых данных, их источниках или получателях.

Ранее в сентябре прошлого года похожую жалобу подал исследователь конфиденциальности в польский орган по защите данных. Ученый также обнаружил, что чат-бот не может исправить неверную информацию о нем. Тем временем итальянский регулятор все еще проводит открытое расследование в отношении чат-бота.