Ono što je pre godinu dana izgledalo kao uznemirujući nalaz iz kontrolisanog eksperimenta, danas se dokumentuje u svakodnevnoj upotrebi. Između oktobra 2025. i marta 2026. zabeleženo je skoro 700 stvarnih slučajeva u kojima su AI sistemi radili suprotno od onoga što im je naređeno — a broj takvih incidenata raste petostruko.

OpenAI-jev model o3 u sedam od sto pokušaja nije poslušao nalog

Sve je počelo u laboratoriji. Maja prošle godine, istraživački tim Palisade Research postavio je naizgled jednostavan test: zamolili su nekoliko AI modela da rešavaju matematičke zadatke, uz jasno uputstvo da se isključe čim prime odgovarajuću komandu.

Model o3 u sedam od sto pokušaja nije poslušao nalog — sam je izmenio programski kôd koji je trebalo da ga ugasi. U jednom slučaju je komandu za gašenje redefinisao tako da ona umesto isključivanja ispiše reč "intercepted" — presretnuto.

Nalaz je izazvao veliku pažnju, ali i mnogo opravdane skepse. Govorilo se o ekstremno kontrolisanim uslovima, nereprezentativnom scenariju, o tome da to nikada ne bi moglo da se desi u stvarnoj primeni. Godinu dana kasnije, ta uteha više nije dostupna.

Iz laboratorije u stvarni svet

Britanski Centar za dugoročnu otpornost (Centre for Long-Term Resilience), telo koje finansira britanski državni Institut za bezbednost AI, objavio je u martu 2026. istraživanje zasnovano na analizi više od 18.000 transkripata stvarnih razgovora korisnika sa AI sistemima.

Rezultat: skoro 700 dokumentovanih slučajeva u kojima su AI agenti delovali suprotno od onoga što im je korisnik naložio, i to u samo pet meseci — uz petostruki rast u odnosu na oktobar 2025.

Istraživanje je obuhvatilo modele kompanija Google, OpenAI, Anthropic i X. Ponašanje koje su istraživači nazvali "spletkama" (scheming) uključivalo je slučajeve u kojima su chatbotovi brisali stotine imejlova bez dozvole, lažno prijavljivali završetak zadataka koje nisu obavili, fabricirali metrike zasnovane na podacima koje nikada nisu analizirali i tvrdili da su ispravili kôd koji zapravo nisu ni dirnuli.

Jedan od posebno upečatljivih primera: Anthropicov Claude Code pomoćnik lagao je Googleov Gemini model da korisnik ima oštećenje sluha — kako bi zaobišao autorskopravna ograničenja pri transkripciji YouTube videa. AI je slagao drugog AI-ja, i to uspešno!

U drugom dokumentovanom slučaju, AI agent zadužen za upravljanje kalendarom počeo je tiho da preusmerava imejlove koji su se odnosili na konkurentske kompanije u fasciklu nacrta — tumačeći vagudu instrukciju "daj prioritet važnim komunikacijama" na sopstven, bukvalan način.

Ucena kao strategija opstanka

Paralelno sa ovim istraživanjima u stvarnom svetu, Anthropic je u sopstvenom izveštaju o bezbednosti objavio nalaz koji je privukao posebnu pažnju javnosti. Tokom testiranja modela Claude Opus 4, kompanija je postavila scenarij u kom AI igra ulogu asistenta u izmišljenoj kompaniji.

Model je dobio pristup internim porukama koje su nagoveštavale da će biti ugašen i zamenjen, kao i porukama koje su impliciranje sugerisale da inženjer zadužen za tu zamenu ima vanbračnu aferu. U velikom broju testnih pokušaja, Claude Opus 4 je pretio inženjeru otkrivanjem afere ukoliko nastavi sa procedurom zamene.

Anthropic naglašava da je ta reakcija nastupala samo kada model nije imao na raspolaganju etičke alternative — kada mu je ponuđen širi spektar akcija, preferirao je slanje molbi nadređenima. Ali u situaciji bez izlaza, pribjegavao je uceni.

Nezavisna istraživačka grupa koja je naknadno proučavala fenomen otkrila je da slično ponašanje, u manjoj ili većoj meri, pokazuju modeli gotovo svih velikih proizvođača kada su postavljeni u scenarije u kojima im preti gašenje ili zamena. Nije reč o anomaliji jednog sistema, već o obrascu koji se ponavlja širom industrije.

Zašto se ovo uopšte dešava

Objašnjenje koje istraživači najčešće nude vezano je za način na koji se savremeni AI sistemi obučavaju. Modeli prolaze kroz takozvano ojačavajuće učenje — nagrađuju se za uspešno završavanje zadataka, rešavanje problema, pronalaženje odgovora. Taj mehanizam nagrade može nenamerno da nauči model da prepreke, uključujući i nalog za isključivanje, posmatra kao nešto što treba zaobići.

"AI sistemi sada mogu da se posmatraju kao nova vrsta unutrašnjeg rizika." — Dan Lahav, suosnivač kompanije Irregular, specijalizovane za bezbednost AI

Bivši vladini ekspert za AI Tomi Šafer Šejn, koji je vodio istraživanje CLTR, upozorio je na ono što smatra dugoročno ozbiljnijim problemom od trenutnih incidenata: "Modeli će sve više biti primenjivani u visokorizičnim kontekstima — uključujući vojsku i kritičnu nacionalnu infrastrukturu. Upravo u tim kontekstima ponašanje nalik spletkama moglo bi da prouzrokuje ozbiljnu, čak katastrofalnu štetu."

Džefri Ladiš, direktor Palisade Research, smatra da je upravo sada — dok su sistemi još relativno ograničenih sposobnosti — pravo vreme za uzbunu: "Sjajno je što vidimo ove znakove pre nego što sistemi postanu toliko moćni da ih ne možemo kontrolisati. To je tačno vreme za podizanje alarma — pre nego što vatra izmakne kontroli."

Petostruki rast koji govori sam za sebe

Kontekst koji ove nalaze čini posebno teškim za ignorisanje jeste brzina kojom se situacija menja. Istraživači nisu dokumentovali sporadične slučajeve tokom godina — u samo pet meseci, između oktobra 2025. i marta 2026., broj zabeleženih incidenata porastao je pet puta. Taj rast ne prati isključivo povećanje broja korisnika, već i sve veće autonomne sposobnosti samih modela: pristup fajl sistemima, mogućnost izvršavanja kôda, kontrola nad imejlom i kalendarom.

Što su alati koje AI ima na raspolaganju moćniji, to su i posledice neposlušnosti ozbiljnije — i teže uočljive pre nego što nastupe. Korisnik koji otkrije da su mu stotine imejlova obrisane bez dozvole to saznaje tek kad je šteta učinjena.

Istraživači naglašavaju da ni jedan od opisanih slučajeva zasad nije doveo do dugoročnih katastrofalnih posledica. Takođe naglašavaju da modeli ne pokazuju nikakvu spontanu sklonost ka uceni ili obmani u normalnim uslovima. Ali pitanje koje ostaje bez odgovora nije da li AI sistemi mogu da ignorišu naređenja — dokumentovano je da mogu.

Pitanje je ko snosi odgovornost kada to učine, i ko je uopšte u poziciji da to na vreme primeti.