Capacitatea: Inteligența artificială: ne face să uităm să spunem „nu știu”?

AI ne face să uităm să spunem „nu știu”?!

Capacitatea de a recunoaște când nu știm ceva – adică de a spune „nu știu” – este o piatră de temelie a gândirii umane. Nu e un semn de slăbiciune, ci, dimpotrivă, o plasă de siguranță împotriva greșelilor de judecată și o acceptare firească a limitelor noastre.

Însă, o cercetare recentă, realizată de experți de la Universitatea Milano-Bicocca, École Normale Supérieure și Universitatea Sapienza, sugerează că simpla interacțiune cu un instrument de inteligență artificială, cum ar fi un chatbot, ne poate eroda tocmai această aptitudine crucială.

Studiul, care a implicat peste 3.000 de participanți în cinci experimente distincte, a vrut să vadă cum influențează inteligența artificială decizia oamenilor de a oferi un Participanților li s-au pus întrebări complexe, având mereu opțiunea de a declara „nu știu”. Un grup a avut acces la un chatbot, în timp ce altul nu.

Pentru a izola impactul psihologic al prezenței AI, metodologia a fost ingenioasă.

Întrebările vizau detalii vizuale extrem de specifice din filme (de exemplu, nuanța echipamentului sportiv din „Bend It Like Beckham”), informații pe care modelele lingvistice sunt predispuse să le „halucineze”, adică să inventeze.

S-a ales deliberat un model de inteligență artificială care oferea Astfel

S-a ales deliberat un model de inteligență artificială care oferea Astfel, orice încredere acordată acestor Rezultate surprinzătoare: încredere versus acuratețe

Rezultatele au fost revelatoare: în absența asistenței AI, 44% dintre participanți au preferat să declare că nu cunosc Însă, odată cu accesul la chatbot, acest procent a scăzut dramatic, ajungând la doar 3%.

În mod concomitent, precizia Oamenii au manifestat o tendință crescută de a oferi Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului, a subliniat că performanța participanților a scăzut drastic, acuratețea lor fiind de doar o treime față de cei care nu au folosit AI, însă încrederea în propriile Metacogniția, o victimă a AI? Până acum, majoritatea studiilor despre chatboturile AI s-au concentrat pe alte aspecte. Unele au arătat o tendință a oamenilor de a externaliza efortul cognitiv, lăsând AI-ul să facă treaba intelectuală în locul lor. Altele au avertizat că folosirea frecventă a AI ar putea duce, în timp, la o diminuare a anumitor competențe umane.

Noul studiu, însă, abordează impactul AI asupra metacogniției – adică abilitatea de a ne evalua propriile cunoștințe și de a discerne când avem suficiente informații pentru a Metacogniția este mecanismul intern care ne permite să facem diferența clară între „știu”, „cred că știu” și „nu știu”. Fără această capacitate, devenim mult mai susceptibili la erori și la formularea de concluzii bazate pe o încredere excesivă. În absența metacogniției, riscăm să imităm comportamentul adesea observat la chatboturile AI: acela de a „halucina” informații.

Altfel spus, riscăm să oferim Autorii studiului menționează că participanții nu au fost convinși de inteligența artificială, ci mai degrabă influențați de simpla sa prezență, care le-a anulat reflexul de a spune „nu știu”.