ChatGPT, păcălit de infractorii cibernetici cu site-uri false și domenii compromise
Infractorii cibernetici au descoperit o metodă simplă de a păcăli ChatGPT: folosesc site-uri compromise sau domenii expirate, transformate în pagini false, pentru a fi citate de chatbot drept surse „de încredere”. Conform unui articol TechRadar, bazat pe cercetarea lui James Brockbank, director și fondator al Digitaloft, fenomenul ia amploare și expune limitele modelelor AI în verificarea surselor online.
ChatGPT și capcana surselor false
ChatGPT, devenit între timp un instrument popular pentru căutări rapide și recomandări, de la servicii online, la restaurante locale, are o slăbiciune greu de ignorat: nu poate verifica dacă site-urile pe care le menționează mai sunt valide, sigure sau relevante. Spre exemplu, dacă un domeniu legitim în urmă cu un an, cum ar fi unul asociat unei organizații non-profit sau unei firme de avocatură, ajunge să expire și este cumpărat de escroci, conținutul nou, oricât de înșelător ar fi, poate fi citat în continuare de ChatGPT.
Un exemplu menționat de TechRadar este cel al unui site asociat unei coaliții de tineret a ONU, care a fost transformat într-un portal de promovare a cazinourilor online. Deși noul conținut nu are nicio legătură cu scopul inițial al site-ului, ChatGPT îl preia ca sursă validă.
De ce se întâmplă asta?
Spre deosebire de motoarele de căutare clasice, ChatGPT nu verifică în timp real proprietarul sau conținutul unui site. În lipsa unui sistem solid de validare a surselor, chatbotul poate cădea în plasă dacă un domeniu care anterior era considerat „trusted” a fost compromis. În plus, algoritmul pare să acorde prioritate conținutului recent, fără să țină cont de schimbările de scop ale website-ului sau de proprietarul domeniului.
Rezultatul? Recomandări care pot părea credibile la prima vedere, dar care provin din surse compromise, uneori chiar site-uri care promovează jocuri de noroc sau conținut dubios, sub o fațadă aparent legitimă.
ChatGPT vs. AI-ul cu plată
Prin comparație, Google, care dezvoltă propriul ecosistem AI integrat în Search și Workspace, are o abordare mai conservatoare. Majoritatea funcțiilor avansate sunt disponibile doar în variantele plătite, iar procesul de validare a surselor este mult mai riguros, verificând reputația și autenticitatea site-urilor.
Diferența pare clară: în timp ce ChatGPT oferă rapiditate și acces gratuit, modelele AI comerciale precum cele de la Google pot oferi mai multă siguranță în ceea ce privește sursele. Ideea e că nici măcar acelea nu sunt infailibile, așa cum am explicat în articolul despre Google AI Mode, acolo unde sursele se pot schimba în proporție de peste 90% la căutări identice făcute în aceeași zi.
Google AI Mode face parte din ecosistemul de modele AI comerciale, chiar dacă o parte din el este momentan accesibil fără plată.
Ce putem face noi, utilizatorii?
În primul rând, e important să înțelegem că ChatGPT nu este o sursă în sine, ci un generator de răspunsuri bazat pe date create anterior. Dacă o recomandare pare suspectă sau duce către un site necunoscut, merită să verifici manual. Spre exemplu, printr-un serviciu de arhivare web ca Wayback Machine, prin WHOIS lookup, Scamadviser sau o simplă căutare Google.
Și poate cel mai important, dacă un răspuns generat de ChatGPT pare prea bun (sau prea ciudat) ca să fie adevărat, nu strică să te întrebi… cine este de fapt în spatele acelui site de unde a luat informația și ce interese are?
