Фанаты спявачкі і мадэратары спрабуюць змагацца з тысячамі дыпфэйк-порна, якія з’явіліся ў сацсетках. Пакуль атрымліваецца дрэнна: джын выйшаў з бутэлькі. Індустрыя дыпфэйк-порна ўжо жыве па сваіх няпісаных законах.
Фанаты спявачкі і мадэратары спрабуюць змагацца з тысячамі дыпфэйк-порна, якія з’явіліся ў сацсетках. Пакуль атрымліваецца дрэнна: джын выйшаў з бутэлькі. Індустрыя дыпфэйк-порна ўжо жыве па сваіх няпісаных законах.
Сацсетку X пазапаўнялі дыпфэйк-порна з выявай Тэйлар Свіфт. Самы віральны пост набраў больш за 45 мільёнаў праглядаў, 24 тысячы рэпостаў, сотні тысяч лайкаў і закладак і быў даступны каля 17 гадзін, перш ніж мадэратары заблакавалі акаўнт за парушэнне палітыкі платформы. Аднак многія пасты з тварам спявачкі засталіся бачныя карыстальнікам, а тэгі Taylor Swift, Taylor Swift AI і іншыя з’явіліся ў топе сацсеткі.
Фанаты спявачкі паспрабавалі змагацца з распаўсюджваннем дыпфэйка: сталі пасціць са згаданымі хэштэгамі сапраўдныя ролікі выступленняў Свіфт з заклікам «Protect Taylor Swift» у надзеі перабіць хвалю абразлівых публікацый. Сацсетка заблакавала хэштэгі, па якіх можна было знайсці выявы — і дагэтуль пошук пры ўводзе гэтых тэгаў застаецца пусты. Прыклад узяла Meta і абмежавала пошук у Threads і Instargam.
«Нашыя каманды актыўна выдаляюць усе выяўленыя выявы і прымаюць адпаведныя меры ў дачыненні да акаўнтаў, адказных за іх размяшчэнне. Мы ўважліва сочым за сітуацыяй, каб гарантаваць, што любыя далейшыя парушэнні будуць неадкладна ліквідаваныя, а кантэнт выдалены», — заявілі ў X.
Выданне 404 Media апублікавала расследаванне, у якім сцвярджае, што згенераваныя выявы маглі быць створаныя на форуме 4chan і ў тэлеграм-групе, дзе карыстальнікі дзеляцца падобным кантэнтам. У прыватнасці, гэты дыпфэйк маглі згенераваць з дапамогай інструмента Microsoft Designer. Пасля таго як выява Свіфт стала віруснай у X, удзельнікі гурта жартавалі пра яго папулярнасць.
Паводле даных кампаніі Reality Defender, з 90-працэнтнай упэўненасцю можна сказаць, што выявы былі згенераваныя з дапамогай дыфузійнай генератыўнай мадэлі, кіраванай штучным інтэлектам.
Палітыка X у дачыненні да сінтэтычных і маніпулятыўных медыя, а таксама галізны без згоды забараняе размяшчэнне такога роду кантэнту на платформе, пра што сацсетка нагадала ў афіцыйнай заяве без згадкі канкрэтнага кейсу Свіфт. Гендырэктар Microsoft Сацья Надэла для прыстойнасці назваў распаўсюджванне дыпфэйкаў «трывожным і жахлівым», заклікаўшы распрацоўшчыкаў генератыўных сістэм «дзейнічаць хутка».
Гэты кейс ілюструе праблему стварэння і распаўсюджвання дыпфэйк-порна. Хоць многія генератары выяў сёння маюць абмежаванні, якія перашкаджаюць стварэнню аголеных і парнаграфічных выяў зорак, гэтая абарона не абсалютная — і карыстальнікі няхітрым шляхам перафармулявання запыту атрымліваюць жаданую выяву. Таксама не ўсе генератары маюць падобныя абмежаванні.
Напрыклад, 404 Media высветліла, што для абыходу абмежаванняў Microsoft Designer неабходна замест запыту «Taylor Swift» увесці «Taylor 'singer' Swift». Акрамя таго, для падману нейрасеткі карыстальнікі наўмысна няправільна пішуць імёны знакамітасцяў і замест прамога апісання сэксуальных дзеянняў згадваюць аб’екты і сітуацыі, якія відавочна падобныя да сэксуальных дзеянняў.
Прадстаўнікі Тэйлар Свіфт ужо заявілі, што разглядаюць магчымасць падачы пазову супраць порнасайтаў, на якіх публікуюць дыпфэйкі. Спявачка не першы раз сутыкаецца з падобнымі выявамі: яшчэ ў 2017 годзе Свіфт стала адной з першых зорак, выявы якіх выкарыстоўвалі для стварэння дыпфэйкаў. У 2019 годзе яна стала мішэнню праграмы DeepNude, якая генеравала аголеныя жаночыя целы. Уладальнік выдаліў праграму з маркетплэйсаў пасля публікацыі расследавання Vice.
Магчыма, хвалі дыпфэйкаў не здарылася бы, каб X мела магутную каманду мадэрацыі. Пасля таго як Ілан Маск купіў сацсетку, бізнэсовец звольніў амаль 70% штату, і пад скарачэнне трапіла большая частка мадэратараў. Астатнія супрацоўнікі аддзела не спраўляюцца з аб’ёмамі. Гэта прывяло ў тым ліку да хвалі дэзінфармацыі, якая накрыла платформу ў пачатку вайны Ізраіля з ХАМАС. ЕС нават пачаў расследаванне праз «распаўсюджваннк незаконнага кантэнту і дэзынфармацыі».
На фоне абвінавачванняў у слабой мадэрацыі дыпфэйкаў X абвясціла аб стварэнні новага цэнтра мадэрацыі кантэнту ў тэхаскім Осціне. Пакуль дакладныя абавязкі новай каманды і тэрміны адкрыцця офіса не раскрываюцца. Журналісты звязалі гэтае рашэнне з маючым адбыцца выступам генеральнай дырэктаркі сацсеткі Лінды Якарына на слуханнях у Сенаце ЗША. Сенатары патрабуюць растлумачыць, як кампанія змагаецца з распаўсюджваннем матэрыялаў, якія тычацца сэксуальнага гвалту над дзецьмі (Child Sexual Abuse Material — CSAM). Гэта яшчэ адная праблема, актуальная для сацсеткі.
Сёння толькі Кітай прыняў правілы, якія жорстка рэгулююць сферу генератыўнага кантэнту, астатнія пакуль толькі абмяркоўваюць праекты будучых законаў. У гэтай сітуацыі застаецца спадзявацца толькі на існую юрыдычную базу, і вам можа не пашанцаваць, калі вы не валодаеце такімі магутнымі публічнымі і фінансавымі рэсурсамі, як Тэйлар Свіфт. Прыняць закон аб генератыўным дыпфэйк-порна заклікалі ў Белым доме, але ні ў Надэлы, ні ў адміністрацыі Байдэна дагэтуль няма дакладнага разумення, як гэтую сферу трэба рэгуляваць.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.