AI бот, който прави фалшиви голи жени, процъфтява в Telegram

Основен Наука И Технологии

Със силата на технологиите, най-големите умове в света имат способността да постигнат почти всичко. Но докато някои работят, за да улеснят живота на хората с увреждания или да помогнат за прекратяване на глобална пандемия, други са фокусирани върху по-малко благородна кауза: малтретиране и обективиране на жените.





Скот Кембъл (татуист)

Миналата година анонимен програмист пусна приложение, наречено DeepNude, което използва технология deepfake за премахване на дрехи от снимки на жени. Описано е като предлагане на суперсилата, която винаги сте искали, позволяваща на потребителите да качват снимки на жени (технологията не работи при мъжете), които след това да се съблече и да се превърне в правдоподобни фалшиви голи. Изтеглянето на различни магазини за приложения струва 50 долара.

Приложението беше преместено офлайн само часове по-късно от създателя му, с причудлив гръб. Не искаме да печелим пари по този начин, пишат те декларация . Светът все още не е готов за DeepNude.



Една година след това приложението нараства експоненциално по популярност и употреба. Софтуерът е открит в Telegram, където е бил използван като част от „дълбоко фалшива екосистема“, в която са създадени над 104 000 фалшиви голи жени. Екосистемата се фокусира върху бот с изкуствен интелект, който генерира голи изображения при поискване, изпращайки галерии с нови изображения на десетки хиляди абонати всеки ден. Членовете на чата могат да отправят конкретни заявки на бота в неговите групи за съобщения. Смята се, че на някои от снимките са изобразени непълнолетни момичета.



Sensity, компания за дълбоко фалшифициране, публикува своите констатации по този въпрос през октомври. Говорейки с Dazed, Джорджо Патрини, главен изпълнителен директор и главен учен на компанията, казва: Не сме наблюдавали технологията DeepNude, вградена в бот за чат досега, с нейния драматичен потенциал за достъпност на потребителите и мащаб на производството. Всъщност това е най-големият инцидент от този вид за броя на жертвите.

Изследователите съобщават, че броят на фалшивите голи тела в Telegram е нараснал с 198 процента между април и юни 2020 г. Тази статистика е в съответствие с новината, че отмъстителното порно нараства по време на заключване, като случаите на злоупотреба с интимни изображения се увеличават с 22 процента тази година. В своя доклад Sensity се обърна към по-широката заплаха, че „събличаните“ изображения на лица могат да се споделят в частни или публични канали извън Telegram като част от публични измами или атаки, основани на изнудване.



Въпреки че Sensity изчислява, че над 104 000 жени са били насочени от бота, действителният брой вероятно ще бъде много по-голям. Това се дължи на простотата на технологията. Всичко, което потребителите трябва да направят, за да генерират фалшив гол, е да изпратят изпратеното от тях изображение на бота, който ще изпрати обратно безплатно изображение безплатно. След това тези снимки се споделят с свързани канали на Telegram. Анонимно допитване, проведено в един от тези канали, установи, че 70 процента от потребителите са от Русия, Украйна, Беларус, Казахстан и страните от бившия СССР; мнозина казаха, че са открили бота от руската социална мрежа VK.

Не е настъпила намеса или сваляне и с това не знаем кой все още днес може да притежава или е споделял изображенията, създадени от бота - Джорджо Патрини, Sensity

Въпреки че стана публично достояние с констатациите си преди почти два месеца, Sensity казва, че никога не е получил отговор от Telegram. Тези канали все още са активни на платформата, продължава Патрини, въпреки че повечето сега избягват откритата реклама на бота или неговите творения. Важно е обаче, че самият бот все още функционира както преди. Не е настъпила намеса или сваляне и с това не знаем кой все още днес може да притежава или е споделял изображенията, създадени от бота.

Редица групи са сменили имената си, за да могат да избегнат да бъдат идентифицирани, докато други канали са изчезнали напълно или са премахнали споделените в тях голи изображения. Както съобщава WIRED , в края на октомври ботът стана недостъпен за iPhone и iPad, което показа съобщение за грешка, в което се казва, че нарушава указанията на Apple.

Патрини казва, че ботът е успял да процъфтява специално в Telegram, благодарение на платформата, позволяваща лесно интегрирането на ботове и други автоматизации в техните чат стаи, като обяснява, че основната причина е техническа.

Въпреки че вярва, че в момента можете да различите фалшивите голи от истинските, Патрини заявява, че това няма да продължи дълго. Технологиите се усъвършенстват и се комодифицират с ускоряващи се темпове, продължава той. Не е нужно да сте изследовател на машинно обучение, за да го управлявате; софтуерът е с отворен код и се предлага с уроци и големи общности от разработчици.

Процесът на фалшиви голи голове, които се разпространяват в Telegram отAI ботЧрез чувствителност

Възможните печалби, свързани с този вид технология за дълбоко фалшифициране, също могат да подтикнат повече хора да злоупотребяват с нея. Хората стават гениални по отношение на разбирането как технологията за дълбоко фалшифициране може да се превърне в бизнес възможност с легитимна или незаконна конотация, обяснява Патрини. Например ботът в нашето разследване е монетизиращ, като предоставя на платените потребители по-бързо създаване на изображения без никакви водни знаци върху тях.

С подобряването на софтуера на deepfake обаче се подобрява и технологията за откриване. Патрини казва, че технологията за откриване ще играе по-фундаментална роля в бъдеще, като ни помага да разберем какво виждаме и при автоматичното откриване на дълбоки фалшификати онлайн. Тъй като жените участват в 96 процента от всички дълбоки видеоклипове, превантивната и реактивна технология за спиране на създаването на тези снимки и видеоклипове е жизненоважна за продължаващата борба за равенство между половете.

Това е проблем, който за съжаление ще засегне всеки от нас като частни лица, заключава Патрини. Чертите на лицето ни могат да бъдат откраднати и пренастроени във визуален материал, който атакува репутацията ни и може да бъде обезвластен за публично позор, изнудване или изнудване.

Важно е всеки от нас да е наясно, че всяко изображение или видео, което публикуваме онлайн, може да бъде видимо за целия свят и че лошите актьори може да ги използват.