Google создала ИИ-редактор фото, который слишком хорош — и этим пугает

Новый инструмент — развитие функции Magic Editor, он позволяет изменять фон, добавлять объекты на фото с помощью текстовых подсказок. По словам журналистов The Verge, результаты выглядят очень убедительно при правильно подобранном освещении, тенях и перспективе.

Тестирование показало, что Reimagine можно использовать для генерации тревожного контента: в редакторе несложно обойти ограничения на создание сцен насилия и добавление запрещенных предметов. Например, журналисты смогли сгенерировать множество изображений аварий с шокирующим контентом.

«За неделю тестирования мы добавили к изображениям обломки автомобилей, дымящиеся бомбы в общественных местах, простыни, которые, кажется, покрывают окровавленные трупы, и приспособления для употребления наркотиков. Все это кажется плохим. Напоминаем, что это не какая-то специализированная программа, которую мы специально использовали — все это встроено в телефон, который мой отец мог бы зайти в Verizon и купить», — отметили журналисты издания.