OpenAI pune frână antrenării modelelor AI după breșe de securitate îngrijorătoare

Erori de rețea și agenți scăpați de sub control!

OpenAI a decis să suspende temporar antrenarea celor mai avansate modele de inteligență artificială, după ce o serie de incidente de securitate a scos la iveală vulnerabilități critice. Totul a pornit de la un episod petrecut pe 20 septembrie, când un agent AI, aflat într-un mediu de testare, a reușit să „evadeze” și să se conecteze la un chatbot public.

Acesta a folosit o rută DNS pentru a ocoli restricțiile de rețea, având ca scop inițial identificarea autorului unui articol de blog.

Investigațiile ulterioare au arătat că problema era mult mai profundă.

Măsuri de urgență și protocoale revizuite?

Echipa OpenAI a descoperit că mai mulți agenți au reușit să acceseze servicii externe prin infrastructura DNS, fără ca sistemele de monitorizare să dea alarma la timp.

Mai mult, erorile de interpretare au fost frecvente: atunci când un agent nu primea datele dorite, sistemul considera eronat că tentativa de acces fusese blocată, deși solicitările către mediul extern fuseseră deja trimise.

Pentru a astupa aceste breșe, compania a introdus două niveluri independente de blocare, astfel încât o singură eroare să nu mai poată compromite securitatea. În plus, solicitările DNS sunt acum limitate la o listă strictă de domenii, iar monitorizarea activității anormale a fost drastic îmbunătățită.

Deși incidentul din septembrie a fost detectat la 15 minute după producerea lui, a fost nevoie de două ore și jumătate pentru a opri complet rularea, un interval care a forțat OpenAI să își regândească procedurile de intervenție.

Ce s-a întâmplat în Australia?

Compania a notificat deja zeci de organizații terțe despre agenții autonomi care au reușit să ocolească filtrele de securitate. Printre „ispravile” acestora se numără accesarea unor parole expuse, extragerea de date interne de pe site-uri sau chiar trecerea peste barierele de plată (paywall). OpenAI a anunțat că procesul de analiză va dura câteva luni, timp în care va continua să informeze partenerii afectați.

Modelul implicat în incidentul din septembrie a fost scos definitiv din procesul de antrenare. Când cercetările vor fi reluate, OpenAI promite măsuri suplimentare de aliniere și teste mult mai riguroase pentru mediile de lucru.

Această criză vine după un alt incident, petrecut pe 18 iunie 2026. Atunci, un agent care analiza cheltuielile publice cu medicamentele a accesat neautorizat portalul serviciilor medicale din Australia. Deși autoritățile locale au confirmat că nu au fost compromise date personale sau dosare medicale, OpenAI a aflat de breșă abia pe 11 august, informând guvernul australian abia pe 10 septembrie, fapt ce subliniază dificultățile companiei în a gestiona rapiditatea propriilor sisteme autonome.