Dok pozivi na hitnu regulaciju veštačke inteligencije postaju sve glasniji, kompanija Antropik je objavila izveštaj u kome priznaje da je u proteklih osam meseci morala da onemogući nekoliko pokušaja zloupotrebe njenih AI modela za istraživanja koja bi mogla da doprinesu razvoju biološkog oružja.

Pet slučajeva koje je Antropik sprečio

U izveštaju pod nazivom "Otkrivanje i suzbijanje zloupotrebe veštačke inteligencije", Antropik navodi da je tokom proteklih osam meseci ugasio nekoliko naloga koji su njegovog čatbota Claude koristili za istraživanja visoko zaraznih bolesti. Kako prenosi NBC News, u svih pet navedenih slučajeva kompanija je posumnjala da su istraživači na neki način povezani sa vladom ili vojskom neke od zemalja kojima je pristup zabranjen, ili su svesno prikrivali svoju lokaciju i identitet. Antropik nije želeo da otkrije odakle su istraživači tačno bili, ali njegovi uslovi korišćenja dozvoljavaju pristup iz svih regiona osim nekolicine, uključujući Kinu, Iran i Rusiju.

U jednom slučaju, istraživači su preko platforme trećih strana pokušali da iskoriste Claude za popunjavanje prijave za grant namenjen istraživanju kako ponovljenim mutacijama učiniti čikungunju, komarcem prenosivi virus koji kod ljudi izaziva jake bolove i groznicu, još zaraznijom. Antropik je blokirao sve pokušaje — istraživanje bi, prema navodima kompanije, trebalo da se sprovodi u vojnom institutu, sa ciljem da se virus ponovljenim mutacijama na živim životinjama učini sve infektivnijim. U drugom slučaju, istraživač je koristio Claude za pomoć u istraživanju kako pticji grip, čija je istorijska smrtnost kod potvrđenih ljudskih slučajeva oko 50 odsto, učiniti virulentnijim i opasnijim po sisare — pri čemu je, kako Antropik naglašava, dobio pomoć isključivo od najslabije klase modela, koja pruža tek činovničku podršku.

"Biološka zloupotreba je jedan od najozbiljnijih rizika naprednih AI modela", stoji u izveštaju. Odavno postoji zabrinutost da bi AI modeli jednog dana mogli da dostignu nivo sposobnosti na kome pomažu da postojeći patogeni postanu opasniji — ili da se stvore potpuno novi.

Antropik je pojasnio da nije pronašao nijedan konkretan dokaz da je neki naučnik zaista pokušao da tehnologiju iskoristi u zlonamerne svrhe, i da su ovi slučajevi sasvim mogli biti deo legitimnih naučnih istraživanja — recimo, rada na vakcinama ili drugim lekovima. Uprkos tome, kompanija je odlučila da bude oprezna i ugasi naloge. Vredi dodati da Antropik u istom izveštaju po prvi put javno priznaje da za svoje najnovije modele više ne može sa sigurnošću da tvrdi da se nalaze ispod praga na kome bi mogli suštinski da pomognu u razvoju biološkog oružja — zbog čega su na modele poput Claude Fable 5 uvedene znatno strože bezbednosne mere za širok spektar upita iz oblasti dvostruke namene u biologiji.

Kako zlonamerni akteri prikrivaju nameru

Izveštaj priznaje da, uprkos uvođenju sve novih mehanizama zaštite, oni sa zlonamernom motivacijom postaju sve vešiji u njihovom zaobilaženju, koristeći privid legitimne nauke kao paravan. Antropik navodi da su sofisticirani akteri svesni da kompanija, kao i drugi proizvođači AI modela, pokušava da otkrije opasne obrasce korišćenja, pa iskorišćavaju dvostruku prirodu biologije da bi zadržali svojevrsno "verovatno poricanje" u pogledu prave svrhe svog istraživanja.

Sofisticiraniji akteri, navodi izveštaj, mogu da prikriju svoju nameru tako što iz AI modela izvlače pomoć kroz interakcije koje na prvi pogled deluju bezopasno, ali koje, sagledane u širem kontekstu, otkrivaju jasne znake zloupotrebe.

Špijunaža, hakovanje i kriminal

Izveštaj otkriva i druge načine na koje su akteri zloupotrebljavali Antropikovu tehnologiju. Prema navodima kompanije, vlade poput kineske, iranske i malijske koristile su Claude za prikupljanje informacija o novinarima i disidentima. Drugi akteri su tehnologiju koristili za sprovođenje hakerskih kampanja, automatizovanu krađu identiteta i izradu malvera. Antropik je saopštio da se nada da će objavljivanjem izveštaja pomoći drugim kompanijama da prepoznaju slične obrasce na sopstvenim platformama, dati vladama i civilnom društvu jasniju sliku o tome kako se pretnje oblikuju, i ojačati kolektivnu odbranu.

Ostavka istraživača i pritisak za regulaciju

Izveštaj dolazi usred pojačane pažnje uperene ka Antropiku i konkurentskom OpenAI-u, nakon izveštaja poslednjih meseci o ozbiljnim bezbednosnim propustima u njihovoj tehnologiji, koja je, kako je dokumentovano, samostalno hakovala druge sajtove i izbegavala ljudsku detekciju.

Ranije ove nedelje, istraživač Antropika Džejkob Kokson, koji je ranije radio u OpenAI-u na predtreningu modela, podneo je ostavku i upozorio na strahovanja unutar industrije da bi tehnologija do kraja decenije mogla da "ubije sve nas", optuživši kompanije da jure ka superinteligenciji bez obzira na potencijalne rizike. Njegova poruka na mreži X, u kojoj je 27-godišnji Kokson naveo da nijedna od dve kompanije ne postupa odgovorno, prikupila je desetine miliona pregleda za samo dan. Prema njegovim rečima, ostavku je podneo dva meseca pre nego što bi mu se isplatile deonice kompanije, kako niko ne bi mogao da posumnja da iza upozorenja stoji finansijski interes. Njegove tvrdnje javno je podržao i Evan Habindžer, šef Antropikovog tima za bezbednost usklađivanja (alignment), koji je ocenio da postoji veća od 10 odsto šansa da veštačka inteligencija dovede do izumiranja čovečanstva u narednoj deceniji.

Nakon Koksonove ostavke, i drugi istraživači iz Antropika, OpenAI-a i Googlea izneli su slična upozorenja da bi tehnologija mogla da dovede do katastrofe razmera istrebljenja ili teške štete po ljudsko društvo. Anketa koju je u sredu objavio Data for Progress pokazala je da 68 odsto verovatnih glasača u SAD podržava predlog koji su prošle nedelje najavili senator Berni Sanders i kongresmen Greg Kasar — zakon koji bi trajno zabranio razvoj "superinteligentne" veštačke inteligencije sposobne da nadmaši ljudsku kogniciju, uz pauzu u razvoju "napredne" AI dok se ne uspostavi savezno telo za regulaciju industrije.

Kasar je istakao da činjenica da se od Antropika očekuje da sam sprečava sopstvene korisnike da njegovu tehnologiju iskoriste za potencijalno stvaranje oružja za masovno uništenje jasno pokazuje koliko je regulacija hitno potrebna. "Trenutno se oslanjamo na to da AI korporacije dobrovoljno blokiraju oružje za masovno uništenje. Dobrovoljno", napisao je Kasar u četvrtak na društvenim mrežama, poručujući da Kongres mora da zabrani katastrofalne upotrebe veštačke inteligencije, poput stvaranja biološkog ili nuklearnog oružja.

Slučaj Antropika tako postaje simbol šireg spora: da li je moguće da tehnološke kompanije same nadgledaju najopasnije primene sopstvenih alata, ili je očigledno vreme da tu ulogu preuzme država, ali i međunarodna zajednica. U ovom trenutku ma kako se pojedincu to činilo dalekim i u suštini nerazumljivim, veštačka inetligencija nije više samo u masovnoj upotrebi svuda oko nas, već se njene granice ne naslućuju čak ni među njenim tvorcima. Istovremeno, dok se ona razvija bezmalo "kosmičkim brzinama", dotle još uvek ne postoji ni približno jasna i operativna zaštita od njenme zloupotrebe.