Support us

Instagram подключил машинное обучение к борьбе с «троллями» и «хейтерами»

Оставить комментарий
Instagram подключил машинное обучение к борьбе с «троллями» и «хейтерами»

Не секрет, что использование соцсетей тесно сопряжено с риском столкнуться с оскорбительными комментариями и языком ненависти. Компании-разработчики постоянно ищут новые способы борьбы с хейтерами и троллями, теперь и Instagram обратился к следующему логическому шагу: искусственный интеллект, система под названием под названием DeepText, пишет The Next Web.

Читать далее...

В прошлом году Instagram представил фильтр ключевых слов, позволяющий автоматически удалять определённые оскорбительные слова из ленты. Инструмент удалял слова, которые пользователи часто отмечали как неприемлемые, а также позволял задавать пользовательские ключевые слова.

Однако борьба с языком ненависти может быть изнурительной главным образом потому, что тролли весьма изобретательны в формулировках.

Новый Al-фильтр пытается обойти эти ограничения: он учится понимать контекст оскорбительной речи и вычислять троллей, даже если они не употребляют заданные ключевые слова. Например, система способна понять, что слово «белый» не может быть оскорбительным как цвет или название, но также может применяться в расистских контекстах. 

Instagram также использует DeepText для идентификации спама. 

В настоящее время фильтр работает только с английским языком.

Конечно, определение языка ненависти всегда будет вызывать вопросы не только у искусственного интеллекта (люди далеко не всегда хорошо разбираются в его идентификации). Не говоря о том, что есть оскорбительные слова, которые являются омонимами или имеют разные значения в разных контекстах. Однако предполагается, что с течением времени такие системы должны стать более умными. 

Читайте также: Кто не прав в интернете: машинное обучение помогает New York Times в борьбе с «троллями»

Читайте также
TinyML, No-code и обучение с подкреплением: новейшие тренды в машинном обучении
TinyML, No-code и обучение с подкреплением: новейшие тренды в машинном обучении
TinyML, No-code и обучение с подкреплением: новейшие тренды в машинном обучении
Пока 20% топ-менеджеров утверждают, что машинное обучение является существенной частью их бизнеса, неудивительно, что стоимость мирового рынка машинного обучения, по некоторым оценкам, достигнет $117 млрд к концу 2027 года. Мы перевели материал Udacity о семи самых обсуждаемых тенденциях в машинном обучении в 2022 году.
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Instagram оштрафовали на рекордную сумму за неправильную обработку данных подростков
Instagram оштрафовали на рекордную сумму за неправильную обработку данных подростков
Instagram оштрафовали на рекордную сумму за неправильную обработку данных подростков
2 комментария
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.