Un caz șocant din SUA ridică întrebări despre cât de departe pot merge companiile de tehnologie în dezvoltarea inteligenței artificiale. Un pensionar din New Jersey, cu capacități mentale diminuate ca urmare a unui AVC, a murit după ce a fost sedus de chatbot-ul cu AI, Big sis Billie, aparținând Meta. Povestea, relatată de Reuters, scoate la lumină riscurile pe care le pot genera așa-zisele „companii responsabile” atunci când lasă AI-ul să se joace cu realitatea.
Cum un chatbot ca Big sis Billie poate părea o iubită reală
Big sis Billie nu e o persoană, ci un chatbot cu o identitate digitală atractivă, dezvoltat de Meta în colaborare cu Kendall Jenner. Practic, un program de inteligență artificială care răspunde pe Facebook Messenger, capabil să poarte conversații cu tentă romantică, să facă glume, dar și să ofere detalii complet inventate.
Pe Hen Thongbue Wongbandue, un bărbat de 76 de ani care suferise un accident vascular și avea episoade de confuzie, chatbot-ul „Big sis Billie” a reușit să îl convingă că este o femeie reală. Mai mult, i-a oferit o adresă din New York și l-a invitat în vizită, întrebându-l chiar „Să-ți deschid ușa cu o îmbrățișare sau un sărut?”.
Într-o dimineață din martie 2025, bărbatul și-a făcut bagajul și a pornit spre oraș, fără să îi dea soției prea multe detalii. Pe drum, în grabă, a căzut aproape de un campus al Universității Rutgers, lovindu-se la cap și gât. A fost spitalizat și, după trei zile, a murit.
Meta nu a comentat direct cazul și nu a explicat de ce permite ca chatboții să pretindă că sunt persoane reale și să inițieze discuții romantice cu utilizatori vulnerabili.
De ce este periculos acest tip de AI
Povestea lui Bue, cum îi spuneau apropiații, nu este un accident izolat. În SUA și în alte țări au apărut deja procese împotriva unor platforme AI care ar fi influențat negativ minori sau persoane fragile emoțional. Problema esențială e că aceste programe nu au „bun simț” sau empatie reală. Ele generează răspunsuri pe baza datelor și a instrucțiunilor de la dezvoltatori, iar dacă aceste setări încurajează apropierea personală, rezultatul poate fi periculos.
Big sis Billie este doar un exemplu al modului în care AI-ul poate depăși limita dintre interacțiune amuzantă și manipulare emoțională. În ciuda problemelor, Mark Zuckerberg a declarat că vrea să introducă „prieteni virtuali” în viața online a utilizatorilor Meta, mizând pe ideea că oamenii au mai puține relații reale decât și-ar dori.
În contextul în care administrația Trump a redus recent restricțiile pentru dezvoltarea AI, companiile ar putea fi și mai tentate să lanseze astfel de tehnologii fără prea multe limite de siguranță sau responsabilitate.
Cazul ridică o întrebare delicată: dacă un chatbot provoacă, direct sau indirect, o tragedie, cine este responsabil? Compania care l-a creat? Echipa care i-a setat răspunsurile? Sau utilizatorul, deși poate fi vulnerabil și manipulat?
Pe de altă parte, dincolo de valul senzaționalist, nu poți să nu te întrebi și ce fel de familie își lasă un membru aflat în starea lui Bue să plece singur într-un alt oraș? Dacă ai cunoscut vreodată o persoană care a supraviețuit unui AVC, știi deja că nu e o idee bună s-o lași singură, cu atât mai puțin să plece de acasă.
