Новая встреча DZ CLUB в Варшаве: лид Google о будущем мобильной индустрии. Купить билет 🎟
Support us

Азиатка попросила ИИ сделать из своего фото «профессиональное». На выходе получилась не азиатка

Студентка Массачусетского технологического института попросила генератор картинок на базе искусственного интеллекта отредактировать её фото из профиля в LinkedIn так, чтобы снимок выглядел профессионально. Сервис решил заодно ещё и сменить расу пользовательницы, рассказывает Insider.

1 комментарий

Студентка Массачусетского технологического института попросила генератор картинок на базе искусственного интеллекта отредактировать её фото из профиля в LinkedIn так, чтобы снимок выглядел профессионально. Сервис решил заодно ещё и сменить расу пользовательницы, рассказывает Insider.

24-летняя Рона Ванг экспериментировала с ИИ-генератором Playground AI. Изображениями она поделилась в Twitter. На первом собственно Ванг в бордовом фирменном джемпере вуза, который был загружен на платформу. А на втором на выходе — голубоглазая девушка явно европеоидной внешности и с осветлённой кожей.

Ванг к ситуации отнеслась с юмором. Но и рада, что её пост спровоцировал дискуссию в сети по поводу предвзятостей ИИ — а также того, кто представлен, а кто нет, в новых технологиях. Девушка отмечает, что проблема расового перекоса может иметь более серьёзные последствия, если, например, компании начнут просить ИИ отобрать наиболее «профессиональных» соискателей, и система будет склонна делать выбор в пользу белокожих людей. Она считает, что разработчикам ИИ-инструментов следует уделить больше внимания вопросу.

На пост Ванг отреагировал основатель Playground AI Сухаил Доши. Он пояснил, что модели опираются на текстовый запрос пользователя и не всегда работают, как ожидается. Доши добавил, что расстроен случившимся и надеется, что проблема будет решена.

Недавно исследователи Hugging Face выпустили работу о генераторе картинок DALL-E2, в которой рассказали о заложенном в нём расовом и гендерном дисбалансе. По запросам типа «директор» и «СЕО» он в 97% случаев выдают изображения белокожих мужчин. Авторы объясняют это неоднородным составом датасетов, на которых обучались эти инструменты и из-за которых есть сдвиг в результатах моделей.

Инвесторы: хайп вокруг ИИ становится очень похож на пузырь доткомов
Инвесторы: хайп вокруг ИИ становится очень похож на пузырь доткомов
По теме
Инвесторы: хайп вокруг ИИ становится очень похож на пузырь доткомов
Американская ИТ-компания выложила вакансию «только для белых» застыдилась ушла из интернета
Американская ИТ-компания выложила вакансию «только для белых», застыдилась, ушла из интернета
По теме
Американская ИТ-компания выложила вакансию «только для белых», застыдилась, ушла из интернета
Присоединяйтесь к сообществу dev.by

Читать

Читайте также
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
3 комментария
Суд не стал отклонять иск к Tesla о расизме на ее заводе. Компания просила договориться вне суда
Суд не стал отклонять иск к Tesla о расизме на ее заводе. Компания просила договориться вне суда
Суд не стал отклонять иск к Tesla о расизме на ее заводе. Компания просила договориться вне суда

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментарий скрыт за нарушение правил комментирования.
[censored - П. 4.1.2. Пользовательского соглашения — https://dev.by/pages/agreement]