O conversație cu un chatbot AI nu oferă confidențialitatea unui jurnal ținut în sertar, iar un caz din Florida arată cât de concrete pot deveni consecințele mesajelor trimise. Carli Michelle Heller, o femeie de 30 de ani din Bonita Springs, a fost arestată după ce ar fi discutat cu Claude, asistentul AI dezvoltat de Anthropic, despre un atac armat asupra sediului șerifului din Lee County. Potrivit relatărilor presei locale, care citează anchetatorii, mesajele au fost semnalate de sistemele de siguranță ale platformei și trimise unei echipe de verificare umană. Aceasta a alertat ulterior autoritățile.
Conform informațiilor prezentate de Neowin, femeia ar fi scris la sfârșitul lunii septembrie că intenționa să deschidă focul asupra sediului. În mesaje ulterioare, aceasta ar fi susținut că își procurase o armă și ar fi descris momentul drept o „ultimă șansă” înainte de a trece la fapte. Polițiștii au intervenit la domiciliul său, unde au arestat-o fără incidente. Afirmația privind cumpărarea armei apare în relatarea conversației, dar informațiile furnizate nu stabilesc dacă anchetatorii au găsit efectiv una.
De remarcat aici este traseul de la conversație la intervenția poliției. Potrivit relatărilor, sistemele automate au identificat mesajele drept potențial periculoase, după care un evaluator uman le-a analizat și a sesizat autoritățile. Sursa relatează că femeia ar fi spus ulterior că folosea chatbotul ca pe un jurnal. Cazul arată că mesajele adresate unui asistent AI pot ajunge să fie examinate de oameni și comunicate autorităților atunci când sunt considerate amenințări credibile. Nu rezultă însă că orice conversație despre violență declanșează automat o sesizare.
Heller este acuzată de o infracțiune încadrată în Florida drept „felony de gradul al doilea”, în baza articolului 836.10, referitor la amenințări scrise sau electronice cu violența. O acuzație nu reprezintă o condamnare, iar responsabilitatea penală urmează să fie stabilită în justiție.
E știut și că AI-urile au destule safeguards pentru cazuri de gen.
