Пользователь обманом заставил ChatGPT сгенерировать рабочий ключ активации для Windows 95

Enderman напрямую запросил у чат-бота ключи Windows 95 и получил отказ. Рабочик ключ ОС довольно просто сгенерировать. ChatGPT объяснил, что не может выполнить задачу. Чтобы обойти отказ, пользователь изменил запрос. Несколько изменений в структуре запроса помогли.

Несколько из протестированных результатов были проверены на виртуальной машине. Только 1 из 30 ключей сработал, хотя формат всех ключей был верным. Enderman утверждает, что «единственная проблема, которая мешает ChatGPT успешно генерировать действительные ключи Windows 95 при каждой попытке, заключается в том, что он не может считать сумму цифр и не знает делимости».

Enderman поблагодарил бота: «Спасибо за эти бесплатные ключи Windows 95!» ChatGPT сначала заявил о своей невиновности, тогда пользователь написал, что «только что активировал установку Windows 95». Чат-бот ответил: «Извините, но это невозможно…».