Звездата на Teen Marvel Xochitl Gomez е последната жертва на deepfake порно. Въпреки това, след като откри неконсенсусните явни сексуални дълбоки фейкове, циркулиращи в X, бивш Twitter, тя беше объркана, когато платформата не успя да предприеме действия и да ги премахне.
Много проблеми възникнаха заедно с възхода на изкуствения интелект, но дълбоко фалшивото порно е един от най-тревожните. Докато deepfakes съществуват от доста време, напредъкът в технологиите ги направи по-достъпни и убедителни. В резултат на това много хора, особено жени, са открили, че тяхната прилика е взета или пресъздадена без тяхно съгласие и използвана в порнографско съдържание. Това се превърна в огромен проблем за жените знаменитости, но също и за обикновените жени, които са преживели подобието им да бъде използвано в сексуално открито съдържание за отмъщение порно, тормоз и малтретиране. Съществува и голямо безпокойство относно използването на deepfakes за изобразяване на насилие над деца.
За съжаление понастоящем няма федерални закони срещу дълбоко фалшиво порно без съгласие и само няколко щата имат законодателство, което защитава гражданите от него. Много жени, които са станали жертви на фалшива порнография, са се оказали без възможности да се борят с нея поради липсата на регулация и беззаконието в интернет. Повечето нямат финансови ресурси, за да предприемат правни действия. Дори знаменитости като Скарлет Йохансон обявиха, че е безполезно да се опитваме да се борим срещу дълбоките фалшификати.
Едно малко ниво на защита, което жените имат, идва от социалните медийни платформи, които са забранили deepfake и порно, генерирано от AI. Ако тези сайтове наложат такива забрани, това ще затрудни разпространението на това вредно съдържание. Опитът на Гомес обаче показва, че социалните медии не налагат своите правила.
Xochitl Gomez разказва за своя опит с deepfake порно
(Аксел/Бауер-Грифин/Гети)
Докато се появяваше в подкаста на Тейлър Лаутнър и съпругата му, Стискането , Xochitl Gomez (a.k.a. Америка Чавес) разказа за преживяванията си като жертва на deepfake порнография. 17-годишната разкри, че е открила сексуално явен материал, циркулиращ в X, бивш Twitter, но изпитва изключително трудно време да го премахне. X забрани порнографията, генерирана от изкуствен интелект, още през 2018 г. и има политики срещу сексуално явни дълбоки фалшиви изображения и видеоклипове, както и подвеждащи медии и голота без съгласие. Като се има предвид, че изображенията на Гомес явно нарушават правилата на X и че това съдържание включва непълнолетно лице, човек би си помислил, че платформата незабавно ще предприеме действия.
Гомес обаче беше шокирана, когато установи, че екипът й вече се е опитал да предприеме действия срещу съдържанието, но безуспешно. Новини на NBC докладвани че до 19 януари 2024 г. снимките все още могат да бъдат намерени на X, който не отговори на искания за коментар. Гомес обясни, че съдържанието я е направило странна и отчаяно е искала да бъде премахнато, тъй като не изглежда добре за нея. Тя попита: Защо е толкова трудно да се свали? Това беше цялата ми мисъл по въпроса, беше „Защо това е позволено?“
В крайна сметка обаче тя се примири да приеме, че съдържанието просто не може да бъде свалено, разкривайки, че просто се опитва да не мисли за това и оставя телефона си настрана, за да се справи с проблема. И все пак въпросите, които зададе, остават много актуални. Защо толкова ли е трудно това съдържание да бъде премахнато? Морално осъдително и отвратително е, когато дълбоко фалшивото порно се прави от всеки несъгласен човек. Направо е ужасяващо, когато става въпрос за непълнолетно лице. Има действителна детска порнография, която циркулира в X, а платформата, странно, не прави нищо по въпроса, въпреки че това трябва да е най-неотложният проблем, с който трябва да се справите.
Едва ли звучи като сложна ситуация, ако дадено лице съобщи за сексуално явен материал и уведоми платформата, че не е дало съгласие за това. Материалът противоречи на множество правила на уебсайта. Какво друго има за преглед или определяне? Вече е достатъчно травмиращо за индивида да намери такъв вид съдържание в социалните медии; най-малкото, което тези платформи биха могли да направят, е да се придържат към исканията си за премахването му. Никое лице, особено непълнолетно лице, не трябва просто да приема, че съдържанието е там, защото X и други социални медийни платформи упорито и объркващо отказват да защитят своите потребители.
(изложено изображение: Axelle/Bauer-Griffin/FilmMagic / Getty)
