Dronă ucide oameni în Ucraina

Evenimentul a avut loc pe 6 iulie, când un apară

Un incident implicând un drone rusesc ghidat de inteligență artificială a dus la moartea a trei persoane în regiunea Zaporojie din Ucraina, declanșând o discuție largă despre implicațiile utilizării tehnologiilor autonome în conflicte armate, conform informațiilor publicate de New York Times. Acesta este primul caz documentat în care o dronă echipată cu un sistem de auto-țintire bazat pe AI a provocat decesuri între populație civilă, a confirmat Katerina Bondar, cercetător senior la Centrul Wadhwani de Inteligență Artificială, afiliat centrului CSIS din Washington.

Evenimentul a avut loc pe 6 iulie, când un apară fără pilot, inițial programat de operatori umani să se deplaseze spre o benzinărie, a deviazat de traiectorie și s-a izbit de un zid. La impact, drona a explodat, proiectând șrapnel în jur. Printre victime se numără Tetiana Bubinets, o studentă de 19 ani, și două alte persoane. Deși misiunea inițială prevedea atingerea unui obiectiv economic, drona a intervenit autonom, selectând ca țintă rezervoarele de propan de lângă stație, conform analizei efectuate de experți și oficiali militari. Această decizie a fost luată pe baza recunoașterii vizuale, abilitățile dronei fiind rezultatul antrenării pe seturi mari de imagini care includeau obiecte precum „râu”, „camion militar” sau „persoană”.

Deși și Rusia, și Ucraina au folosit anterior AI

Sistemele autonome de AI nu urmează instrucțiuni rigide scrise de oameni, ci învață modele din volumuri masive de date, identificând corelații și stabilindu-și propriile criterii de acțiune printr-un proces cunoscut sub numele de învățare automată. Aceasta le permite să reușească în situații noi și neanticipate, dar în același timp face ca comportamentul lor să devină puțin prevedibil. „Nimeni nu poate afirma cu siguranță ce va face un astfel de sistem în condiții reale”, a avertizat colonelul Serhii Minaiev, comandantul apărării aeriene din Zaporojie, comparând viitorul cu scenarii din filmele de știință ficțiune și subliniind că „mașinile lucrează acum decizii de atac fără intervenție umană”.

Deși și Rusia, și Ucraina au folosit anterior AI în drone, acele versiuni mai vechi limitau rolul tehnologiei la etapă finală – cunoscută sub denumirea de „ultima milă” – unde sistemul ajuta la urmărire după ce un operator uman a ales ținta. In schimb, drona din Zaporojie a funcționat în modul complet autonom, eliminând tot udziałul uman în procesul de selectare a obiectivului. Un detaliu tehnic semnificativ a fost descoperit de autoritățile ucrainene: cipul Nvidia utilizat în dronă nu era criptat. Aceasta a permis specialistilor să acceseze imaginile terenului încărcate în sistem și să Prin această analiză, au putut confirma că drona a fost antrenată să recunoască și să atace tipuri specifice de ținte, printre care rezervoarele de propan – același tip de obiect care a fost distrus în atacul mortal.

În contraste cu modelele anterioare, care în general necesită control uman prin semnale radio sau interfațe de comandă, această dronă a demonstrat capacitatea de a opera independență, bazându-se exclusiv pe percepția sa vizuală și pe regulile apprese în timpul antrenării. Cazul subliniază atât avantajele, cât și pericolele unei evoluții rapide a armamentului autonomous, unde granița între asistență și decizie independență devine tot mai tenuoasă. Experții avertizează că, fără reguli clare și mecanisme de responsabilitate, utilizarea AI în lupta armată poate duce la consecințe necontrolabile, afectând nu doar combatanții, ci și populația civilă.