Нећемо ни приметити када светом завлада вештачка интелигенција

БРИТАНСКА компанија Cambridge Analytica помогла је Доналду Трампу да победи на председничким изборима у САД уз помоћ технологија Биг Дата и циљане рекламе на интернету. Пре тога је иста фирма сарађивала са присталицама Брегзита у Британији, а сада је потписала уговор са француским Националним фронтом.

Да ли је истина да су неочекивани резултати гласања у различитим земљама нису фијаско социологије, већ је победа социологије нове врсте?

Михал Косински, чија су истраживања индиректно повезана са радом Cambridge Analytica сматра да је то претеривање, али да технологије Биг Дата и сужавање приватности могу да донесу свету глобалне промене.

Још крајем септембра, у јеку америчких председничких избора, наступајући у Њујорку на самиту Concordia – годишњем догађају за утицајне политичаре и бизнисмене из читавог света, оснивач Cambridge Analytica Александар Никс испричао је да је нова технологија омогућила да се повећа ефикасност кампање Теда Круза – супарника Трампа у републиканској номинацији – који пре почетка предизборне трке, практично никоме није био познат.

Ник је, например, испричао како људима са различитим карактерима треба на различите начине „сервирати“ мишљење кандидата у вези закона о слободном ношењу оружја: плашљивим људима са високим нивоом неуротичности оружје може да се представи као извор безбедности, а богатим конзервативцима и екстравертним типовима може да се покаже слика лова на патке.

Касније је Cambridge Analytica помагала и самом Трампу, при чему, према проценама Никса, за позамашан хонорар, од укупно око 15 милиона долара.

Уз помоћ анализе података које корисници интернета остављају у мрежи, стручњаци компаније су дошли до не тако очигледних веза и шаблона (например: људи који преферирају возила америчке производње – гласаће за Трампа) и почели су да их користе за циљану рекламу у интернету, за персонализовање порука из изборног штаба републиканског кандидата.

Становницима кварта Мали Хаити у Мајамију показивали су како је Хилари Клинтон одбила да учествује у ликвидацији последица земљотреса на Хаитију, Афроамериканцима – видео, где Клинтонова упоређује тамнопуте мушкарце са предаторима.

Волонтери Трампа добили су детаљан профил становника зграда у којима су водили директну агитацију.

Тешко је рећи колико је велики утицај који је делатност Cambridge Analytica имала на резултате избора у САД, међутим, ова кампања није једини пример, када су у улози победника управо они, који су користили услуге ове фирме.

Тако је 2015. године услуге Cambridge Analytica почео да користи радикални присталица Брегзит – Најџел Фараџ. Швајцарско издање Das Magasin, које је недавно објавило истраживање о делатности Cambridge Analytica, каже да је сада компанија добила уговор са француским Националним фронтом, осим тога за сарадњу су заинтересоване и неке политичке снаге у Швајцарској, Немачкој и, могуће, у Италији.

Један од хероја публикације Das Magasin – Михал Косински, истраживач пољског порекла, у прошлости – заменик директора центра за психометрију Универзитета у Кембриџу, а тренутно – доцент на Универзитету у Стенфорду, САД.

Током неколико година, Косински је са колегама из Кембриџа радио на систему који на основу активности корисника на друштвеним мрежама израђује детаљни психолошки профил човека. Систем може не само да опише нарав већ и, између осталог, да предвиђа пол, сексуалну оријентацију, боју коже и чак, политичке приоритете корисника.

Швајцарски новинари кажу да се почетком 2014. године Косинском обратио колега, Александар Коган, и предложио младом истраживачу да искористе тај модел за анализу неколико милиона профила америчких грађана по наруџбини неке компаније. Како се касније показало, та компанија је била повезана са Cambridge Analytica.

Косински је одбио сарадњу, међутим, методе које Cambridge Analytica користила у току референдума у Британији и председничких избора у САД, ако ништа друго подсећају на моделе, осмишљене Михалом Косинским.

• Шта је психометрија? Чиме се, као истраживач, бавите?

– У причи о Cambridge Analytica о којој је писало издање Das Magasin није важно то што је компанија помогла Трампу да победи у предизборној  трци. То је комерцијална фирма, они поседују технологију, они желе да зарађују, све је јасно. Важно је то што сте раније  – ако сте раније желели да направите нечији психолошки профил – морали да замолите човека да попуни упитник, да уради тест, па је испитанику било јасно да управо неко снима његове психолошке карактеристике. А сада се може исто то урадити, а да човек и не зна да се његове најинтимније особине управо процењују и мере.

Довољно је да погледамо дигитални траг: записе на друштвеним мрежама, лајкове, историју прегледа страница на интернету, историју претрага. На основу тих података може да се направи невероватно тачан психолошки портрет. Са једне стране, то изгледа застрашујуће, са друге – у томе има и доста користи.

Например, нека интернет платформа може да понуди посао који највише одговара вашем менталном склопу или да вам препоручи филм, који ће вам се сигурно допасти. То је нормално. Међутим, када отварате вашу страницу на Фејсбуку и видите тамо рекламу која је циљана, намењена вама на основу вашег детаљног психолошког профила, који је направљен без вашег знања и сагласности, то више није нормално.

• Да ли бисте ви лично могли да направите мој психолошки профил, знајући само моје име, на основу трага који сам оставио на интернету?

–  Ја сам научник и једноставно се тиме не бих бавио. Да сте добровољно пристали да помогнете мом истраживању и дали ми своје податке, ја бих са задовољством прикључио те податке својој бази, учинио бих те податке анонимним и обећао да их нећу никоме продавати нити давати. Међутим, многе компаније стално прикупљају информације о вама без питања и користе их, например, за циљану рекламу.

• Ова се информација наравно не чува на једном месту – једној компанији су познати подаци моје геолокације, другој – финансијске трансакције, трећој  лајкови на Фејсбуку. Може ли се све ово скупити на једном месту?

– Обично је, да би се изградио прецизан профил, довољно нешто једно – ваша интересовања на Фејсбуку, например, или историја отварања страница из браузера. Као друго, компаније које скупљају информацију о вама, обично размењују такве информације између себе или их једноставно продају на заједничком тржишту података.

Постоје пројекти, као што је Acxiom који скупљају све на једном месту и продају фирмама попут Cambridge Analyticа. Можеш једноставно да дођеш и да кажеш: требају ми подаци о 10 милиона Американаца из тог и тог региона, и они ће вам такве податке са задовољством продати. Као треће, да би се водила кампања са персоналним таргетирањем, није обавезно имати баш индивидуалне податке корисника. Може да се користи такозвано таргетирање понашања.

• Да ли постоје компаније које покушавају да направе психолошки профил читавог човечанства, у сваком случају свих који остављају дигиталне трагове?

– Сумњам да неко мисли у тако глобалним категоријама, међутим у некој мери се тиме баве Facebook, Google, Microsoft, Visa, Mastercard, исти тај Acxiom. Могуће је све те податке купити на тржишту.

• Значи, негде на тржишту се продаје, например, и мој психолошки профил, и вероватно доста тачан. Рекли сте у коментару за издање Das Magazin да је довољно свега неколико лајкова на Фејсбуку, да би вас систем упознао боље, него ваш најближи друг. Да ли је то стварно тако?

– Да, на ову тему је било занимљиво истраживање. Довољно је десет лајкова (интереса) како би систем упознао вашу личност боље, него колега на послу, а са 230-240 лајкова компјутер ће знати о вас више него ваш супруг или супруга.

• Шта тачно мислите под „знаће више“?

– То значи да ако замолимо рачунар да попуни уместо вас психолошки упитник, он ће погрешити мање, него ваша жена.

• Да ли је Александар Коган који према тврдњама Das Magazin предложио Cambridge Analytica технологију психолошког профајлинга, ваш бивши колега?

– Тако је, он је био мој колега, а тачније био је доцент на факултету психологије Универзитета у Кембриџу када сам ја био тамо аспирант. Али, наши су се путеви одавно разишли, он је основао малу компанију и, колико сам разумео из штампе, продавао је Cambridge Analytica податке, ја сам остао у академском свету.

• Шта мислите, да ли Cambridge Analytica стварно могла да утиче на резултате америчких председничких избора?

– Искрено, не знам. Јасно је да Cambridge Analytica заинтересована да што гласније труби о свом успеху, али на крају резултате избора не одређују методе Биг Дата, већ кандидати и, како се добро показало, бирачи, који не иду на изборе. Могуће је да је рад Cambridge Analytica био последња кап која је одредила коначан резултат, али, највероватније у то ни сам Александар Никс није сигуран. Са друге стране, морамо да будемо свесни да технологија постоји и да је практично немогуће да се од ње заштитимо.

Михал Косински

Ви можете да престанете да користите Фејсбук, али ћете и даље писати електронска писма. Ако одлучите да користите голуба писмоношу – нећете моћи без кредитне картице. Можда би земље могле да усвајају законе који ограничавају такве методе, али и то тешко може да упали. Узгред, не знам тачно, али сам чуо да је оно што Cambridge Analytica урадила за Трампа у супротности са америчким законодавством и зато су непосредну анализу података радили у Британији.

Знате, ја сам научник, бавим се психометријом, нисам стручњак за политику, демократију и слободе, али ми се чини да морамо да прихватимо чињеницу да нема више никакве приватности. Уместо тога да се увлачимо у неку битку за приватност, треба признати да је рат већ изгубљен, и боље је да се побринемо за то, да учинимо свет пријатном средином за човека, који нема приватност.

•  Мени се идеја психолошког профајлинга на основу дигиталног трага чини довољно природном, убеђен сам да је већ многи користе у рекламама. Наш свет се, могуће је, много променио, ми то једноставно још нисмо приметили.

– Вероватно, и ја те промене поздрављам. Имали смо изуме и страшније од Биг Дата, изашли смо на крај са нуклеарном енергијом – изаћи ћемо на крај и са овим, мада, највероватније, не без жртава. Како сам већ рекао, мени се чини да је рат за приватност већ изгубљен, ми живимо у свету постприватности, а то значи да треба да уложимо напоре како би сви имали једнака права и могућности, да нико нема жељу да било шта сакрива. Надам се, да ће већа толеранција решити проблем недостатка приватности.

• Да ли смо далеко од тренутка, када ће неки такав систем који је измакао контроли, који је недоступан нашем схватању, почети нуклеарни рат?

– Знате, тренутно Доналд Трамп има веће могућности да уништи човечанство него Биг Дата, али у будућности… Погледајте, имате голубове и мраве, мислите да они знају да светом управља човек? Да ли они наслућују да Доналд Трамп може да притисне црвено дугме? Наравно да не знају. Треба да имамо на уму да када светом буде владала вештачка интелигенција, ми можемо да то и не приметимо. Ми нећемо моћи да осмислимо и анализирамо оне обиме података, које сами и производимо – и морамо да се поверимо рачунару.

Ви можете да питате машину: да ли можеш нешто да предвидиш на основу ових података? Она ће одговорити: наравно, Ви ћете питати: а како ти то радиш? Она ће да каже: извини, нећеш то разумети.

Да ли знате да амерички судови користе компјутерске системе, приликом доношења одлука о условном превременом пуштању затвореника на слободу? Компјутери одлучују да ли да вам дају кредит или не. Компјутер приземљује авионе, и то је супер, јер живи људи могу да погреше. Живот 800 путника „Боинга-787“ – у рукама је компјутера а не човека. То је данашња реалност.