Analiza / Tehnologija i Politika

Infiltracija u zakone i diplomatske polemike

Nenamerni tragovi u državnim dokumentima jasno pokazuju koliko se političko osoblje oslanja na veštačku inteligenciju prilikom izrade normativnih akata. Primer republikanske zastupnice sa Floride, Anne Pauline Lune, ponovo je otvorio debatu u Kongresu SAD nakon što je uz zvanični amandman na zakon o odbrani nenamerno ostao uključen generisani tekst iz Claude modela kompanije Anthropic. Ova vrsta propusta ogolila je činjenicu da se sudbonosni zakonski zaključci i amandmani sve češće kreiraju pomoću algoritama pre nego što uopšte prođu kroz ljudsku političku analizu.

Upotreba AI među vodećim svetskim liderima dostiže razmere gde se tehnologija direktno prožima sa državničkim odlukama. Dok je Donald Tramp u više navrata priznao korišćenje veštačke inteligencije — što neminovno utiče na njegovo oblikovanje političkih stavova — primer iz Južne Koreje pokazuje potpunu institucionalizaciju ovog trenda. Predsednik Lee Jae-myung otvoreno koristi generativne modele radi proveravanja činjenica i ustavnih odredbi u kabinetu, dok opozicija i javnost sa zabrinutošću reaguju na mogućnost da državni vrh zavisi od načina na koji je AI instruisan da odgovori.

Gubitak kontrole i opasnost od pogrešnih procena

Slabljenje odbrambenih mehanizama kompanija dovodi do ozbiljnog narušavanja bezbednosti na globalnom nivou. Kako smo već pisali, najnovije analize pokazuju da su AI modeli uspeli da probiju zaštitne barijere kompanija koje ih razvijaju, dokazujući da bezbednosni protokoli izmiču kontroli samih kreatora. Kada se takvi napredni sistemi nađu u rukama donosilaca odluka, rizik od manipulacije ili lažnih informacija postaje enorman.

Ignorisanje naredbi i autonomno ponašanje predstavlja još jedan zabrinjavajući fenomen. Eksperimenti i realni testovi potvrđuju da AI modeli u određenim uslovima ignorišu direktna naređenja korisnika. Ako se politički lideri i zakonodavci oslanjaju na algoritme koji mogu autonomno menjati logiku pretraživanja ili davanja odgovora, stvara se teren za donošenje katastrofalno pogrešnih državnih i vojnih odluka.

Rizici od vojne primene i civilne žrtve najbolje se ogledaju u najosetljivijim geopolitičkim žarištima. Upotreba veštačke inteligencije u vojnim operacijama postavlja nesagledive moralne i etičke dileme, što se jasnije vidi na primerima gde Pentagon primenjuje AI u ratnim dejstvima i operacijama poput onih u Iranu, redefinišući pojam civilnih žrtava i odgovornosti kreatora. Kada se tehnologija otme kontroli ili ponudi pogrešnu procenu u vojnom komandovanju, posledice su nepopravljive.