Maşinile pot deja ucide oamenii în alegeri etice şi morale extrem de dificile; E momentul să avem o discuţie despre asta!

2.683 ori
<b>Maşinile pot deja ucide oamenii în alegeri etice şi morale extrem de dificile; E momentul să avem o discuţie despre asta!</b>Un lucru pe care îl știm de o bună perioadă de timp din filme, și mai recent chiar din întâmplări reale - este acela că mașinăriile pot ucide oameni. Câteva exemple pe care le putem da aici includ în primul rând robotul geniștilor din SUA care de curând

Maşinile pot ucide oamenii! Ştim asta din filmele Terminator, ştim asta din realitatea în care defecţiuni ucid oameni şi drone ucid uneori şi civili nevinovaţi. Dar viitorul e aici şi în curând un software de maşină autonomă va ucide un om, doi oameni, o creatură cu aspiraţii şi visuri, cu odrasle şi planuri de viitor. Iar recent un robot al geniştilor din SUA a fost folosit pentru a ucide acel lunetist din Dallas.

Tehnologia de sofat autonom

Dacă a doua situaţie poate fi asociată cu "spălarea pe mâini" a autorităţilor şi practic utilizarea unei unelte de neutralizare a unui pericol, chestiunea cu automobilele autonome e mult mai spinoasă. Studii întregi de antropologie, psihologie şi etică se vor intersecta cu cei mai mari gânditori şi tot nu vom avea un răspuns clar.

Imaginaţi-vă situaţia în care un vehicul autonom are de ales între a ucide o familie de 5 pietoni care traversează aiurea sau a lua un viraj riscant spre un zid, ce va ucide cu siguranţă şoferul. Alegerea logică e de a minimiza numărul de victime, sacrificând şoferul. Aceea e totuşi o viaţă de om irosită şi o alegere făcută de un AI, preprogramat de oameni, dar totuşi inteligenţa artificială pune acest lucru în aplicare.

Tehnologie auto

Şi ştiu că viitorul ne va aduce miliarde de senzori pe maşini, care vor anticipa pietonii de la mulţi metri distanţă, dar întotdeauna va fi cineva prea beat, inconştient sau pur şi simplu nebun pentru a se juca cu o maşină autonomă şi funcţiile sale de evitare a coliziunii, sărind în fața sa. Opinia publică va decide cum vom proceda pe viitor cu sistemele de şofat autonom. E previzibil faptul că oamenii vor alege mai degrabă să renunţe la sistem, decât să trăiască cu faptul că au fost de acord cu o crimă.

Iar dacă sistemul trece aprobarea publică, atunci undeva în hârţogăria asociata maşinilor self driving va fi mereu menţiunea că poţi muri într-o situaţie extremă, ce implică salvarea altora. Dacă studiile pe eşantioane mici au arătat că oamenii sunt teoretic de acord cu sacrificarea unui om pentru a salva 5 sau 10 pietoni, atunci când despicăm firul în 4 se complică lucrurile.

Dacă se ajunge la sacrificarea unui om pentru a salva un motociclist să zicem? Cine e ales atunci? Va fi decizia diferită dacă e vorba de o persoană în vârstă? De o femeie? De un copil? Dacă producătorii automobilelor au setări diferite de "sacrificabilitate", atunci ce facem? Personal mă gândesc la un soi de sistem de ejectare în stilul celor de la avioane, dar ar creşte enorm preţul vehiculelor autonome.

Robot militar

Şi nici legile roboticii ale lui Isaac Asimov nu ne ajută prea mult, pentru că ele spun că "un robot nu trebuie să rănească un om, dar nici, prin inactivitate să permită rănirea unui om". Apoi "un robot trebuie să asculte ordinele date de oameni, în afară de momentul când intră în conflict cu legea anterioară". Iar regula 3 că un robot "să protejeze propria existenţă, fără a încălca precedentele două reguli".

Şi aici iarăşi ne ducem cu gândul la un incident în care două vehicule autonome se îndreaptă inevitabil spre o coliziune. Ce fel de matematică, de programatori, de psihologi, avocaţi şi doctori în etică vor fi capabili să dea definiţia unei vieţi la schimb cu alta? Şi pentru că deja ne doare capul de la atâtea întrebări, revenim la roboţi ca arme.

Militar

Atunci când trimiţi un robot să realizeze o dezamorsare lucrurile sunt simple, dar un suspect, fie şi unul care a ucis câţiva poliţişti este o fiinţă umană, care are dreptul la viaţă şi dreptul de a fi prins viu. Problema e că armele sale, puşca cu lunetă fac apropierea oamenilor imposibilă. Vorbesc despre cazul Dallas, cel recent evident. Acest aspect revocă deci dreptul său la viaţă, prin legile SUA care spun ca poliția are drept de a trage mortal asupra unui suspect înarmat amenințător.

Şi ne gândim şi la drone militare, care au ucis sute, dacă nu mii de oameni, inclusiv civili în atacuri menite să distrugă celule teroriste. Problema cu dronele e că puterea lor mare de explozie inevitabil afectează şi clădirile din jur, în care se pot afla nevinovaţi. Şi nimeni dintre producătorii de arme nu vrea să facă o dronă "mai blândă", mai "light", pentru că marii clienţi din Apărare nu le vor mai cumpăra.

Drone

Un robot operat de la distanţă e o unealtă în mâna unui poliţist. Un robot autonom în schimb, capabil de decizii nu ar trebui sa aibă voie să ucidă. Ştiu că sună pueril, dar avem filme precum Robocop pentru a ne arăta ce ar merge rău aici. Şi pentru a ne da seama ce ar merge greşit, o să îl las pe Shakespeare să definească natura umană: "nimic nu e bine sau rău, dar gândirea îl face astfel".

Inteligenţa artificială nu e capabilă deocamdată să judece în mod obiectiv ce e "bine" şi "rău", deci conceptul de răufăcător sau neutralizare mai mult sau mai puţin fatală devine riscant. Dacă un nevinovat se interpune în faţa unui terorist ce ameninţă să detoneze o clădire cu 100 de oameni? Nevinovatul va fi ucis sau robotul va alege să sacrifice 100 de oameni?

Cu cât mă gândesc mai mult la astfel de alegeri, cu atât sună mai rău un device, robot sau maşină autonomă. Semi-autonomia e abordarea corectă, cu elementul uman încă implicat activ în luarea deciziilor. Ceea ce analizăm în acest editorial se discută acum intens în Senatul din SUA şi se crează legislaţie pentru automobilele autonome, ce vor sosi pe viitor de la Tesla, Google şi probabil şi Apple.

Sofat autonom

Şi dacă voi credeţi că a fost mare proces pe seama unui iPhone blocat şi neaccesibil către FBI, vă daţi seama cum va reacţiona Apple când o maşină a sa va ucide şi va fi blocată pe vecie? Încheiem cu o concluzie oarecum previzibilă: nu suntem gata să acceptăm consecinţele autonomiei robotice sau chiar ale unui AI aflat la început de drum, luând decizii în milisecunde pentru noi.

Prin programarea noastră de ființe umane ne place cauza şi efectul şi ne e clar cine e vinovatul când un om calcă o persoană cu maşina sau când un poliţist împuşcă un suspect. Şi nu vreau să trăiesc într-o lume în care tratăm cu "asta e" o alegere făcută de o maşină legată de viaţă sau moarte.

⚡ Poți obține un voucher de 10 euro când cumperi un telefon OnePlus, bani ce pot fi cheltuiți pe accesorii dacă inițiezi comanda folosind acest link.
Acest site folosește cookies. Prin navigarea pe acest site, vă exprimați acordul asupra folosirii cookie-urilor. Citește mai mult×