Un studiu citat de către AFP indică faptul că ameninţarea AI-ului este cât se poate de reală şi că inteligenţă artificială ar putea deveni maliţioasă şi "la fel de vicleană ca oamenii". Detalii găsiţi mai jos.
La bază, programele AI sunt gândite să fie oneste, dar în ultima vreme au început să dezvolte o capacitate îngrijorătoare de înşelăciune. Astfel, ele pot păcăli oamenii în jocuri online sau chiar păcăli programe menite să distingă între un om şi un bot. Descoperirea a fost făcută de către cercetători în domeniu şi publicată în revista Patterns.
Exemple pot părea inofensive, dar e vorba despre probleme ce ar putea avea în curând consecinţe grave în lumea reală. Avertizarea vine de la Peter Park, cercetător la MIT. Comportamentul acestor softuri poate deveni imprevizibil, aidoma plantelor cultivate selectiv. Cercetătorii de la MIT au analizat spre exemplu un program AI de la Meta, Cicero şi au văzut cum a învins oamenii la jocul de societate Diplomacy, prin viclenie.
Detalii despre această victorie apărea în revista Science în 2022. Problema e programele sunt la baza oneste şi utile, dar pentru Diplomacy îţi trebuie lipsa de loialitate şi viclenie, trădare. Jucând rolul Franţei, Cicero a înşelat Anglia, care era controlată de un om, complotând cu Germania, pentru a o invada. Meta s-a apărat afirmând că e doar un proiect de cercetare gândit pentru a juca Diplomacy.
Au mai fost momente de viclenie cu luni bune în urmă, când ChatGPT a păcălit un sistem captcha, spunând că este un om real cu deficienţe de vedere şi nu un robot. Deocamdată lucrurile nu sunt grave, dar un AI înşelător şi capabil de trădare ar putea fi o problemă uriaşă în 5-10 ani.
