Во екот на пандемијата во 2020-та година, летниот одмор со тогашниот партнер го поминавме уживајќи во природните убавини на нашата земја. Заминувајќи од село Зович, наидовме на еден овчар кој не можеше да престане да зборува. Се испостави дека тој неколку месеци е со овците во мариовскиот предел, без телефон и телекомуникациска мрежа, па прилика за разговор со луѓе има не почесто од еднаш месечно.
Освен ако и вие не сте се изолирале на планина последниве години, шансите да не сте налетале на термините вештачка интелигенција, машинско учење и невронска мрежа се нула. AI, ML, Neural Networks, Data science и слични фрази станаа дел од нашето секојдневие во последниве години, особено после појавата на чат ботот ChatGPT на OpenAI, базиран на голем јазичен модел GPT-4o. Иако ВИ последниве години силно се популаризира, всушност ние ја користиме веќе подолг период (автономните возила како Тесла, преведувачот на Гугл, автоматската корекција на правопис на нашите телефони, препораките за филмови на Нетфликс итн.) и таа веќе извесно време, директно или индиректно, влијае врз нашите животи.
Што е што
За да знаеме какви можности и ризици ни носи новата технологија, мора да го тргнеме превезот на мистериозност што можеби овие термини го носат за оние што не се директно вклучени во ИТ секторот. За точна дефиниција на вештачка интелигенција сѐ уште се кршат копја, но сите дефиниции се усогласени дека се работи за технологии со извесна автономност да постигнат цел која е зададена од човек, а како резулатат на нивната употреба има некаков исход кој инаку би се постигнал со човечка когнитивност (решение на проблем, носење одлука, генерирана содржина и сл.). Машинското учење е една подкатегорија на ВИ која се фокусира на употреба на многу податоци и алгоритми со цел машините со ВИ технологија да го имитираат човековиот начин на учење и постепено да ја зголемуваат својата прецизност. Алгоритмите ги „чешлаат“ податоците, наоѓаат корелација, па се доведуваат до точка да можат „наученото“ да го пресликаат врз нови податоци. Модел, пак, е програмот што ги извршува алгоритмите кога тие се доволно истренирани да ја завршат работата, односно „научиле“ доволно за да ни го испорачаат исходот што го бараме. Понатаму, моделот е спремен да биде вграден во соодветни ВИ системи кои можат да се користат за разнолики цели, односно системи кои го ставаат моделот во извесен контекст.
Површински гледано изгледа дека технологијата го презела целиот процес, но човечкиот фактор останува клучен. Изборот на податоци врз кои ќе се тренира моделот, пишувањето на алгоритмите, поставувањето на цели за кои се тренира моделот, како и за што ќе се употребува системот со ВИ – сето тоа е свесна човекова одлука. ВИ нема свои вродени когнитивни способности, морален компас и емоции. ВИ е огледало на нејзините создавачи и тука се отвора огромна јама новите технологии да ги пресликаат предрасудите и стереотипите на нашето општество. Па така, знаејќи го општествениот контекст во кој живееме, не е изненадување што ВИ неретко го засилува стариот, добар патријархат.
Сакаш работа? Учи од Сирма Војвода.
Вештачката интелигенција игра сѐ поголема улога во одлуките за вработување. За прегледување на апликациите за работа, компаниите во огромна мера се ослонуваат на т.н. „АТС“ системи за следење кандидати. Би било супер кога примената на овие системи базирани на ВИ би резултирала само со поголема ефикасност и правичност во процесот, но праксата вели дека „АТС“ само ги продолжуваат предрасудите кои долго време претставуваа (и, до некаде, сѐ уште претставуваат) бариера за жените на работното место. На пример, систем за ВИ обучен на историски податоци за вработување може да „научи“ дека мажите се поуспешни во одредени професии, едноставно затоа што мажите биле несразмерно ангажирани во таа професија во минатото. Ова значи дека кога се обработуваат резимеата на жените, алгоритмот ќе го потцени нивниот потенцијал и врз основа на застарени стереотипи ќе фаворизира кандидат маж. Употребата на вакви ВИ системи кои ги репродуцираат историските обрасци нѐ заглавува во циклус на дискриминација. „АТС“ се типичен пример за тоа како употреба на „технолошки решенија“ сама по себе не подразбира и пофер процес на селекција на кандидати.
Ова не се измислени стравови на феминациTM, туку ситуации од вистинскиот живот со кои се соочиле и најголемите технолошки гиганти, како Амазон. Моделот кој тие го користеле за разгледување на резимеата бил трениран на податоци за вработувања во Амазон во последните десет години. На ничие изненадување, повеќето од вработените во денецијата чии податоци се користеле при тренирање на моделот биле мажи, па алгоритамот научил дека успешен кандидат за работа подразбира да се биде маж. Така, резимеата што вклучувале некоја варијанта на зборот „жена“ биле пониско вреднувани, дури и кога контекстот бил: „Раководев со организацијата на жени- програмерки“ или „Победив на женскиот шампионат во шах“.
Сите ја знаеме приказната за македонската Мулан – војводата Сирма, која за да може да се приклучи на четата и да се бори против тиранијата била принудена да се преправа дека е маж. Човек би рекол дека после два века работите ќе се сменат на подобро за жените, но се чини дека единствената промена е компјутеризацијата. Сега не мора да се облекуваме како мажи и да одиме по ридови, но ако сакаме да бидеме повикани на интервју за работа најпаметно е од нашите резимеа да ги изоставиме сите податоци кои укажуваат дека сме жени.
Внимание, опасно по живот!
За жал, стереотипите кои сме ги пренеле на ВИ не резултираат само со економска дискриминација врз жените, како во случајот погоре, сексуално насилство, како во случајот со deep fakes, засилен надзор, дискриминација во образованието и домувањето, туку и врз дискриминација која е животoзагрозувачка.
Во автомобилската индустрија, дизајнот на безбедносните појаси, потпирачите за глава и воздушните перничиња традиционално се засновал на податоци за машка анатомија. Женските анатомски разлики како поголеми гради, труднички стомак, висина и слично не биле земани предвид. Овој „привид“ го зголемува ризикот од повреда кај жените при сообраќајна незгода за 47%, а ризикот за смрт за 17%.
Како овој традиционален ризик да не беше доволен, паметните и автономни возила донесоа нови ризици. Автономните автомобили се тренирани да ги препознаваат опасностите на патот, како пешак кој би истрчал пред автомобилот. Но, што правиме ако податоците од кои учела машината вклучувале еднообразни личности? Тука не зборувам само за вклучување жени во податоците за тренирање, туку и луѓе со различна боја на кожа, различни возрасти, различен хендикеп (луѓе со штаки, ампутирани екстремитети, во количка). За среќа, во пракса сѐ уште не се случил инцидент поради автомобил „полн стереотипи“ за тоа како изгледа еден „просечен“ човек, но истражувањата покажуваат дека стереотипите постојат и освен ако сериозно не се пристапи во нивно искоренување, прашање на време е кога ќе се случи трагедија.
Дискриминацијата против жените е животозагрозувачки проблем и во здравствениот сектор. Кардиоваскуларните болести се водечка причина за смрт во светот со 17,9 милиони случаи годишно. Тие се традиционално перцепирани како „машка болест“ и оваа заблуда води до недоволно дијагностицирање кај жените. За илустрација, жените имаат 50% поголема веројатност да добијат погрешна дијагноза за срцев удар во однос на мажите. Каква врска има ова со ВИ? Па, замислете преоптеретен ургентен центар кој користи софтвер за помош при тријажа. Можете да погодите при иста состојба кај маж и жена, но симптоми специфични за својот пол, кого софтверот ќе го означи како поризичен пациент кој бара итна акција. Скромните истражувања на оваа тема веќе покажуваат дека како и реалните доктори, така и виртуелните, во принцип посериозно ги сфаќаат симптомите кај мажите.
Чаре?
Кога би било возможно во еден пасус да се сумира како да се одбраниме од ризиците на ВИ, тие ризици веројатно веќе не би ни постоеле.
Многу држави, организации и сојузи се обидудуваат да фатат чекор со брзиот развој на технологијата и да ги зауздаат нејзините негативни последици без сериозно да го попречат нејзиниот развој. Речиси сите документи за доброволно или задолжително регулирање на ВИ, на еден или друг начин вклучуваат принципи на недискриминација, центрираност околку човекот, забрана за нанесување штета и сл. Мерките што организациите кои произведуваат или употребуваат ВИ треба да ги преземат вклучуваат инклузија на малцинства во тимовите (инжињерски, правни, човечки ресурси, раководни), пропорционална селекција на податоци за тренирање на моделите, како и можност за целосно гаснење на системот доколку преставува екстремен ризик. Секако, од време на време има и чекор назад (ве поздравуваат Трамп и Гугл).
Декларативни заложби и задолжителни закони можат да доведат до побезбедена и пофер примена на технологиите, па нејзините придобивки да ги ползуваме сите подеднакво. Но, останува фактот дека ВИ според самиот дизајн е свртена кон минатото, таа се раѓа од податоците, навиките, знаењата и околностите што човештвото веќе ги има произведено. Таа не почнува од нулта точка, и не е магично стапче кое ќе ги избрише мааните вкоренети во системот. Колку и да звучи недостижно, единствената патека до ВИ која ги почитува достоинството и интегритетот на сите луѓе мора да вклучува најпрво создавање и одржување на такво општество.
