Дипфејк порно: нова генерација на сексуално насилство

Пред некој ден стигнав од информацијата дека извесен лик, односно трол-профил има моја фотографија на профилна слика на Фејсбук. Всушност, кога го најдов профилот сфатив дека не станува збор за фотографија, туку скриншот од видеoто „Изолација и мастурбација“ од Meduza talks. Ликот и неговите два, тројца фанови кои се јавија на фотографијата очигледно знаат која сум и веројатно го изгледале (или погледнале видеото на Медуза), со оглед на тоа што во коментари на сликата се исмејуваа со темите на емисијата.

Во моментов, за жал, нема што многу да се направи со ваквите профили. Јас и сите мои пријатели го пријавивме профилот на Фејсбук, но сликата од мене е сè уште таму. Профилот го пријавив и Секторот за компјутерски криминал, од каде добив одговор дека не се во можност да отстрануваат и бришат профили на социјални мрежи каде што се забележани злоупотреби на лични податоци. Да бидам искрена, го пријавив ради реда, односно, за да направам некаква институционална меморија на вакво навидум безопасно вознемирување.

Оваа случка временски ми се совпадна со гледањето на овој документарец на Vox на темата Deepfakes. Ако не сте слушнале за феноменонот, тогаш би ве потсетила на ова видео каде Обама вели: President Trump is a total and complete deepshit.

За што поточно зборуваме кога зборуваме за дипфејкс?

Корените на дипфејкс се во „компјутерски генерирани слики“, односно комбинација на вештачка интелигенција и компјутерско учење со цел замена на лицето на субјектот со друг. Дипфејк технологијата скренира по интернет за достапни слики од лицето на внесениот субјект, најчесто преку социјални медиуми или други мрежи за пребарување, и е во состојба автоматски да се развива кога ќе се појават нови слики. Ова ѝ овозможува на технологијата да создава сè пореални видеа и слики.

Едноставно, „дипфејк“ претставува аудио и видео, манипулирано да изгледа и звучи како вистинска личност, користејќи различни техники, како менување на лицето, поставување израз на лицето врз лице на друга личност, или синхронизирање на движењето на усните.

Според организацијата Deeptrace, од октомври 2019 па навака има над 15, 000 дипфејк видеа онлајн и пораст од над 80% во споредба со 2018. Овој тип на видеа се сметаат за новиот бран и закана во епидемијата на лажни вести и нормално, најголемата грижа е дека ќе се користат за политчки цели, па повеќето напори кон детектирање на оваа технологија се насочени во таа насока. Сепак, мажот на интернетот реши оваа технологија доминантно да ја користи за други „повисоки“ цели: вознемирување и уценување на жени преку дипфејк порно.

Според истражувањето на Deeptrace, дури 96% од дипфејкс се со порнографска содржина, а во 100% од детектираните случаи субејктот е жена – најчесто се работи за јавни личности, но сè повеќе и за жртви на одмаздничко порно.

Дипфејкс и сексуалното насилство

Гледам барем неколку точки кои исклучително многу ме вознемируваат во врска со овој тренд, па би почнала со злоупотребата на лични податоци. Слично како што ни покажа и нашиот локален скандал „Јавна соба“, за девојките и жените станува особено ризично да споделуваат фотографии онлајн. Како да не беше доволно по сто пати да се мислиш дали е безбедно да му пратиш nude на својот љубовен партнер/ка или сексуален интерес, па вечно да се прашуваш дали таа слика можеби ќе заврши во грешни раце (телефони); сега треба и да се прашуваш дали вреди воопшто да ставиш слика од себе онлајн, кога знаеш дека си на само неколку клика од одмазничко порно.

Кога зборуваме за начинот на кој се користи оваа технологија, вреди да се задржиме на опсесијата на одземање на сексуалниот идентитет, контрола врз сопственото тело, и согласноста, од рацете на жените. Станува збор за класичен систем на дискрепанца во моќта, кога „гледачот“ и „креаторот“ се супериорни во однос на „гледаната“. Па така, жените т.е. субјектите во овие видеа се сведени на пасивни, безгласни, голи марионетки кои не располагаат со никаква можност да се одбранат од сексуално насилство, дури ни во рамките на правниот систем кој не држи темпо со новите технологии.

Креаторите, заштитниците и фановите на дипфејкс често коментираат дека не наштетуваат никому, со оглед на тоа што видеата се, како што налага и самиот назив, фејк. Меѓутоа, таквото гледање на нештата е премногу тесно и игнорантно, за еден комплексен и повеќеслоен проблем како овој, кој отвара низа етички и морални прашања и им наштетува на менталното здравје, угледот и безбедноста на жените, а неретко се користи за замолчување, заплашување и уцени. Во суштина, не е важно дали телото во видеото е твое или не, важно е дека си насилно соблечна од целата своја телесна автономија. Индиската новинарка Rana Ayyub била жртва на дипфекјс во 2018 година кога јавно барала правда за малолетна жртва на групно силување. Новинарката била вознемирувана на социјалните мрежи подолг период, кое кулминирало со дипфејк порно. Видеото станало вирално за кратко време на сите социјални мрежи, проследено со постојано сексуално вознемирување.

„Беше одвратно. Едноставно не можев да го покажам лицето во јавност. Може да се наречеш себеси новинарка, може да се наречеш феминистка, но во тој момент, едноставно не можев да го надминам тоа понижување.“ – сподели таа во едно интервју. Кратко потоа била примена во болница со срцеви проблеми и зголемена анкциозност. Ваков тип на искуство во потрадиционални средини како Индија е дополнително трауматично, но верувам дека и искуствата на Холивудските жени кои се примарни жртви на дипфејкс, се далеку од позитивни.

Од друга страна, овој тип на видеа се негативни и за порно актерките, чии тела се буквално манипулирани во овој процес. Порно актерката Ela Darling вели дека самата идеја нејзиното тело да биде „користено“ за дипфејк е пообјективирачко од било кој друг аспект од порно индустријата кој луѓето го гледаат како проблематичен, со оглед на тоа што би ја претвориле во алатказа да наштетат на друга жена.

Користењето на туѓи фотографии дури и за вакви цели многу често не е регулирано правно, а доколку е регулирано правно, не се гледа низ призмата на тоа што е: сексуално насилство, туку злоупотреба на лични податоци. Тоа прави еден вакум во легислативата, каде е прифатливо женските тела (и на порно актерките и на „посакуваните субјекти“) се користат, без никаква согласност, за нечие сексуално задоволство или пак за одмазда, понижување и наштетување.

За жал, најлесниот начин за да понижиш една жена е да ја прикажеш во сексуално сценарио, што само говори за ненадминливата стигма која и ден денес ја обележува женската сексуалност како срамна и недолична. Проблемот со дипфеј технологијата не е што се користи во порнографска смила, проблемот е што тоа се прави на малициозен, сексистички и насилнички начин. И додека на големите порно страни и продукции дипфејкс се забранети и постојат начини да се детектираат, постојат мал милион помали страни кои произведуваат и објавуваат токму вакви видеа, каде сè што треба да направиш за да добиеш порно видео од некоја жена е да споделиш нејзини фотографии и/или лични податоци.

Ова нема да се реши со наоѓање на ефективни начини за детектирање на овие видеа (иако тоа секако треба да се прави за поправање на штетата), туку со фокус на поголемата слика на родово-базирано и сексуално насилство како корен на овој проблем. Слично како и со случајот со секс-роботките кои беа силувани и малтретирани до распад, и ова е етички проблем во чија срж е нормализираната злоупотреба на женските тела во сите сфери на нашето постоење, со тоа што, овде зборуваме за вистински жени, а не роботи или вештачка интелигенција. Па така, дигиталниот простор кој е реален аспект од нашето живеење и постоње, не смее да биде изоставен од дискусијата за согласност, безбедност и соодветна заштита на жените.

И додека во моментов сите напори се насочени кон минимизирање на можноста да се прават политички спинови преку дипфејкс, другата штета е направена. Илјадници жени се веќе жртви на оваа технологија, нарачките за нови видеа постојано растат, а технологијата се подобрува и станува полесна за користење. Истовремено, инстутуциите и компаниите не се доволни брзи, или можеби заинтересирани, да почнат да го решаваат овој проблем, кој е само порадикална форма на другите форми на онлајн булинг, како што преземање туѓи фотграфии без согласност и злоупотреба на истите, сексуално вознемирување во приватни пораки или јавно, циркулирање на приватни и интимни фотографии без согласност, одмаздничко порно, creepshots, итн. Сите овие примери се различни лица на сексуалното насилство, кое сè додека се толерира офлајн, и те како ќе цвета онлајн.