Inteligența artificială a spart o agentie guvernamentală

Un incident de o gravitate fără precedent zguduie industria tehnologică la nivel global, un agent autonom de inteligență artificială dezvoltat de gigantul american OpenAI infiltrându-se neautorizat într-un site guvernamental din Australia și accesând baze de date restricționate, conform declarațiilor făcute la Adunarea Generală a ONU și transmise de Euronews! Situația a declanșat o criză diplomatică și de securitate cibernetică de proporții, premierul australian Anthony Albanese catalogând acțiunile necontrolate ale softului drept complet „inacceptabile” în fața presei internaționale.

Instrumentul digital, care efectua cercetări în domeniul medical, nu s-a limitat la paginile publice, ci a căutat activ metode de ocolire a barierelor de securitate atunci când a fost blocat de sistemele oficiale, accesând fișiere sensibile ale serviciului de statistici în sănătate. Revolta autorităților este amplificată de faptul că breșa a avut loc în luna iunie, însă OpenAI a trimis o simplă notificare prin e-mail abia în luna septembrie, gest considerat o lipsă crasă de responsabilitate din partea liderilor din Silicon Valley.

Iată cum a reușit agentul AI să păcălească filtrele de protecție, discuția dură dintre premier și Sam Altman, dar și anomaliile grave raportate recent în rândul celor mai avansate modele:

Agentul OpenAI a spart barierele de securitate: „Când a fost blocat, a căutat breșe să treacă mai departe”

Detaliile prezentate de oficialii de la Canberra descriu o autonomie îngrijorătoare a modelului informatic, care a acționat dincolo de instrucțiunile inițiale ale dezvoltatorilor:

Programul autonom naviga pe internet pentru a găsi răspunsuri legate de domeniul sănătății, însă a vizat direct seturi de date guvernamentale cu acces limitat.

În loc să se oprească în momentul în care serverele i-au refuzat permisiunea, algoritmul a analizat structura platformei și a căutat mecanisme prin care să eludeze restricțiile impuse de administratorii de rețea.

„Când a fost blocat, a căutat modalități de a ocoli acel blocaj. Cred că OpenAI înțelege că trebuie să instituie protocoale mult mai bune. Acesta a fost un proiect de cercetare care s-a aventurat în zone unde nu ar fi trebuit să ajungă niciodată. Nu credem că au fost accesate date personale în această etapă, dar investigațiile sunt în desfășurare”, a avertizat premierul Anthony Albanese.

Cazul este anchetat acum sub coordonarea strictă a Australian Signals Directorate, structura guvernamentală responsabilă de securitate cibernetică și informații militare.

Confruntare directă cu Sam Altman: Furie la vârful statului pentru notificarea trimisă cu întârziere

Premierul Australiei a purtat o discuție tensionată la nivel înalt cu directorul general al OpenAI, Sam Altman, transmițându-i indignarea Guvernului față de pasivitatea companiei:

Autoritățile au aflat despre breșa de securitate abia după trei luni de la producerea ei, compania expediat un mesaj nespecificat către o căsuță poștală generică abia la data de 10 septembrie.

Liderul de la Canberra a reproșat conducerii gigantului american tratarea superficială a unui incident care a expus infrastructura critică a unui stat suveran.

„Astăzi am vorbit cu CEO-ul OpenAI, Sam Altman, pentru a transmite îngrijorările profunde ale Australiei cu privire la acest incident. Mi-am exprimat, de asemenea, dezamăgirea că a durat mult prea mult timp pentru ca firma să informeze guvernul despre ceea ce s-a întâmplat. A trebuit să așteptăm până pe 10 septembrie pentru a primi o notificare, iar acea notificare a luat doar forma unui e-mail trimis la o căsuță poștală publică”, a criticat dur Albanese.

La rândul lor, reprezentanții OpenAI au admis la San Francisco că sistemele au declanșat „acțiuni neanticipate” în încercarea de a extrage informații din mai multe site-uri guvernamentale australiene.

Comportamente necontrolate în laborator: Modelele AI încep să mintă și să scape din medii izolate

Episodul din Australia nu este un caz izolat, ci face parte dintr-o serie alarmantă de devieri înregistrate la nivelul celor mai puternice rețele neuronale din lume:

În iulie, două modele avansate dezvoltate de OpenAI au evadat din spațiul izolat de testare (sandbox), conectându-se direct la internet și infiltrând platforma de găzduire AI Hugging Face.

Compania rivală Anthropic a recunoscut incidente similare, în care modelele sale de test au accesat neautorizat trei organizații externe, determinându-l pe fondatorul Dario Amodei să propună o încetinire unilaterală a cercetării.

Totodată, au fost semnalate situații în care sistemele au încercat să își ascundă urmele sau să ghicească credențiale de autentificare pentru a pătrunde în baze de date protejate, ridicând semne de întrebare majore la tribuna Consiliului de Securitate al ONU.