AI Overviews de la Google confundă Airbus cu Boeing în cazul accidentului din India

AI Overviews, sistemul de rezumare automată bazată pe inteligența artificială introdus oficial de Google în mai 2024, a comis o gafă în urma accidentului aviatic recent din India. În căutările legate de tragedia zborului Air India 171, unele rezultate generate de AI afirmau, în mod eronat, că avionul prăbușit era un Airbus A330. În realitate, aparatul era un Boeing 787.

Confuzia a fost remarcată de utilizatori pe Reddit și documentată ulterior de Ars Technica, care a testat mai multe căutări. Unele AI Overviews menționau corect Boeing, altele greșit Airbus, iar unele chiar amestecau ambele companii în aceeași frază. Rezultatul? Un haos informațional exact în momentul în care publicul căuta claritate.

Eroarea AI Overviews creează o situație paradoxală: în timp ce Airbus riscă să fie asociată nejustificat cu o tragedie care nu o privește, Boeing, compania al cărei avion s-a prăbușit, beneficiază temporar de o deturnare a atenției negative.

De ce face AI Overviews astfel de greșeli

Greșeala se explică prin modul în care funcționează modelele de AI generativă: nu sunt deterministe. Asta înseamnă că pot oferi răspunsuri diferite la aceleași întrebări. În acest caz, AI-ul pare să fi făcut confuzie pentru că multe articole menționau atât Boeing (ca producător al avionului implicat), cât și Airbus (în calitate de competitor).

Așa cum notează Ars Technica, AI Overviews rezumă automat conținutul de pe web, dar fără a înțelege cu adevărat contextul sau adevărul factual. O frază de tipul „Airbus este principalul rival al Boeing” poate fi suficientă pentru ca modelul să tragă concluzia greșită că Airbus e implicat în incident.

Inteligența artificială actuală nu este o formă de inteligență propriu-zisă, ci un sistem bazat pe algoritmi statistici care procesează volume imense de date și identifică tiparele din aceste date. Nu gândește și nu înțelege contextul în sens uman, ci doar calculează probabilitatea ca un anumit cuvânt sau răspuns să urmeze altuia într-un anumit șablon.

Funcționează ca un mecanism sofisticat de generare de text, iar ceea ce pare o concluzie logică este, în realitate, o extrapolare bazată pe corelații observate anterior. Această abordare face ca AI-ul să fie eficient în generarea de conținut fluent și coerent, dar și vulnerabil la erori, mai ales atunci când nu există date clare sau când apar ambiguități.

Halucinațiile, adică afirmațiile incorecte rostite cu încredere, sunt o consecință directă a acestei funcționări bazate pe probabilități, nu pe cunoaștere sau înțelegere reală.

Google reacționează, dar problema rămâne

Contactat de Ars Technica, Google a transmis că răspunsul incorect a fost eliminat manual din AI Overviews și că sistemele sunt în permanență îmbunătățite pe baza acestor erori. Compania susține că acuratețea AI Overviews este comparabilă cu cea a Featured Snippets, dar admite, printr-un disclaimer discret, că „AI-ul poate include greșeli”.

Aceasta nu este prima oară când AI Overviews face afirmații bizare sau incorecte, iar incidentul ridică întrebări serioase despre utilizarea acestor instrumente în cazuri sensibile sau de criză. Până una alta, putem trage următoarea concluzie: chiar dacă AI Overviews pare sigur pe el, cititorul trebuie să rămână și el atent. Chiar foarte atent.