Азиатка попросила ИИ сделать из своего фото «профессиональное». На выходе получилась не азиатка

24-летняя Рона Ванг экспериментировала с ИИ-генератором Playground AI. Изображениями она поделилась в Twitter. На первом собственно Ванг в бордовом фирменном джемпере вуза, который был загружен на платформу. А на втором на выходе — голубоглазая девушка явно европеоидной внешности и с осветлённой кожей.

Ванг к ситуации отнеслась с юмором. Но и рада, что её пост спровоцировал дискуссию в сети по поводу предвзятостей ИИ — а также того, кто представлен, а кто нет, в новых технологиях. Девушка отмечает, что проблема расового перекоса может иметь более серьёзные последствия, если, например, компании начнут просить ИИ отобрать наиболее «профессиональных» соискателей, и система будет склонна делать выбор в пользу белокожих людей. Она считает, что разработчикам ИИ-инструментов следует уделить больше внимания вопросу.

На пост Ванг отреагировал основатель Playground AI Сухаил Доши. Он пояснил, что модели опираются на текстовый запрос пользователя и не всегда работают, как ожидается. Доши добавил, что расстроен случившимся и надеется, что проблема будет решена.

Недавно исследователи Hugging Face выпустили работу о генераторе картинок DALL-E2, в которой рассказали о заложенном в нём расовом и гендерном дисбалансе. По запросам типа «директор» и «СЕО» он в 97% случаев выдают изображения белокожих мужчин. Авторы объясняют это неоднородным составом датасетов, на которых обучались эти инструменты и из-за которых есть сдвиг в результатах моделей.