Cât de ușor poate fi manipulat un chatbot AI? Un jurnalist BBC a păcălit atât ChatGPT, cât și Google Gemini în doar 20 de minute

Inteligența artificială devine tot mai prezentă în viața noastră de zi cu zi. Mulți oameni folosesc deja ChatGPT, Gemini sau Google AI Search pentru răspunsuri rapide la întrebări „complicate” sau sensibile, privind sănătatea, banii, tehnologia sau chiar deciziile personale. Tehnologia e însă nouă și poate fi manipulată destul de ușor, conform experimentului realizat de un jurnalist BBC. Mai jos avem detalii!

Jurnalistul a demonstrat acest lucru printr-un experiment inedit. În aproximativ 20 de minute, el a reușit să convingă ChatGPT și Google Search că este „campion mondial la mâncat hot-dog”. Acesta a publicat doar un articol bine scris pe site-ul său personal, iar inteligența artificială a preluat informația ca fiind reală, fără a verifica multiple surse pentru verosimilitatea sa.

S-a ajuns astfel la o investigație BCC și pare că problema nu e izolată. Specialiștii susțin că multe companii profită de aceste slăbiciuni pentru a promova informații înșelătoare cu privire la subiecte sensibile (sănătate, investiții financiare, produse comerciale). AI-ul caută uneori răspunsuri direct pe internet și poate considera credibile surse care nu au fost verificate suficient.

Experții atrag atenția că utilizatorii tind să aibă mai multă încredere într-un răspuns generat de AI deoarece acesta este prezentat clar și sigur pe sine. Spre deosebire de un motor de căutare clasic, unde vezi mai multe surse și opinii, chatbot-ul oferă adesea un singur răspuns „gata pregătit”.

Google a răspuns după acest experiment, spunând că încearcă să combată manipularea și că site-urile care încearcă să influențeze artificial rezultatele AI pot fi penalizate sau eliminate din căutări. Experimente similare continuă să funcționeze însă, ceea ce arată că problema nu este rezolvată pentru moment.

În final, experimentul reprezintă un semnal de alarmă și ne arată că e tentant să acceptăm răspunsurile fără să le verificăm atent. Astfel, pare că ar trebui sa tratăm informațiile generate de AI cu mai multă atenție, mai ales când e vorba de subiecte sensibile.