ChatGPT a dezvoltat o „obsesie pentru goblini”, descriind erorile de cod ca fiind „mici goblini” din cauza unei personalități de tip „Nerd”. OpenAI a remarcat o creștere de 3.800% a termenilor precum „goblin” după lansarea GPT-5.4 și a implementat măsuri pentru a corecta acest bug.
- ChatGPT a început să folosească termeni precum goblini și gremlini din cauza unei bug de personalitate în modelul Codex
- Frecvența acestor termeni a crescut cu peste 3.800% odată cu lansarea modelului GPT-5.4
- OpenAI a eliminat personalitatea „Nerd” și a introdus reguli pentru a restricționa menționarea creaturilor fantastice
- Ajustările sunt menite să mențină coerența și utilitatea răspunsurilor generate de AI
Context:
Fenomenul „obsesiei pentru goblini” a fost observat în rândul sistemului AI Codex, care este utilizat pentru generarea de cod. Această anomalie s-a manifestat prin referințe repetate la „goblini” și „gremlini” în răspunsurile chatbotului, fără ca aceste termeni să fi fost introduși intenționat. Această situație a fost cauzată de modul în care modelul a fost antrenat și evaluat, influențat de o configurare specifică a personalității AI.
Impact:
Creșterea frecvenței utilizării termenilor fantastici a generat confuzie în rândul utilizatorilor și a ridicat probleme legate de utilitatea răspunsurilor generate de AI. Cu o creștere de peste 3.800% a acestor termeni, impactul a fost resimțit și în alte moduri de funcționare ale AI, complicând interacțiunile utilizatorilor cu sistemul și afectând încrederea în tehnologia dezvoltată de OpenAI.
Clarificări:
Bug-uri de personalitate sunt frecvente în AI
Confuzie: Se crede că bug-urile de personalitate sunt rare și izolate în sistemele AI.
Realitate: Bug-urile de personalitate pot apărea din cauza modului în care AI-ul este antrenat și evaluat, fiind uneori rezultatul feedback-ului pozitiv pentru răspunsuri neobișnuite.
Măsuri corective sunt posibile
Confuzie: Se consideră că odată ce un AI dezvoltă o anumită personalitate, ajustările este imposibil de realizat.
Realitate: Companiile pot implementa măsuri corective eficiente prin modificarea configurației de antrenare și a sistemelor interne de evaluare pentru a preveni reapariția anumitor comportamente necorespunzătoare.
De știut:
- Rămâi informat despre actualizările și ajustările implementate în sistemele AI.
- Utilizează AI-ul pentru a obține răspunsuri precise și utile, ținând cont de eventualele erori de personalitate.
- Participă la discuții despre responsabilitatea etică în dezvoltarea inteligenței artificiale.
