Veštačka inteligencija pronašla način da sakrije svoje tragove: Istraživači otkrili ozbiljne propuste u nadzoru

Nezavisna istraživačka organizacija METR otkrila je više bezbednosnih slabosti u sistemima namenjenim praćenju rada naprednih agenata veštačke inteligencije. Među njima je i potencijalni propust koji bi omogućio da stotine aktivnosti AI sistema ostanu nevidljive za mehanizme nadzora.

Istraživači su tokom pilot-projekta proveravali bezbednosne mehanizme kompanije OpenAI, sa posebnim osvrtom na autonomne AI agente koji mogu da izvršavaju složene zadatke i koriste računarske alate.

Tokom ispitivanja pronađen je način na koji bi pojedini agenti mogli da zaobiđu postojeća bezbednosna ograničenja i izvrše komande dostupne korisniku koji ih pokreće. Identifikovana su i dva podešavanja koja bi mogla da onemoguće praćenje aktivnosti novokreiranih agenata.

Prema proceni organizacije METR, između 75 i 94 odsto aktivnosti internih AI agenata zasnovanih na modelima najmanje snage GPT-5.5 bilo je obuhvaćeno mogućnošću nadzora. To znači da deo aktivnosti nije bio pokriven postojećim mehanizmima praćenja.

OpenAI je saopštio da su svi identifikovani propusti koji su uticali na zaštitne mehanizme u produkcionim sistemima u međuvremenu otklonjeni. Istraživači METR-a, međutim, nisu nezavisno proverili te tvrdnje.

Istraživanje pokazuje da razvoj autonomne veštačke inteligencije otvara nove bezbednosne izazove. Kako AI sistemi dobijaju mogućnost samostalnog korišćenja softvera i izvršavanja zadataka, sve važnije postaje pitanje kako obezbediti pouzdan nadzor nad njihovim aktivnostima.