Am discutat cu ChatGPT #1: „Spune 10 motive pentru care omenirea ar trebui să fie îngrijorată de apariția AI.”

M-am gândit să inițiez un serial nou aici pe Mobilissimo, unul care să aibă ca subiect o discuție pe o anumită temă cu un AI, mai exact OpenAI, sau și mai exact, ChatGPT. Despre acesta am scris de mai multe ori pe site, ba chiar a fost și subiect de newsletter de câteva ori, iar în aceste zile când așteptăm noua sa versiune (ChatGPT4), subiectul e în top trending peste tot.

Ca prim subiect de discuție am abordat o temă care îngrijorează la mod sever foarte multă lume, e vorba de eventuala trezire la conștiință a inteligenței artificiale și de posibilitatea ca acesta să se (re)producă de la sine.

Iată interviul:

Spune 10 motive pentru care omenirea ar trebui să fie îngrijorată de apariția AI.

1. Riscul de a fi înlocuit în multe locuri de muncă de către robotii inteligenți
2. Posibilitatea ca IA să fie folosită pentru a controla sau manipula oamenii
3. Riscul de a fi utilizată pentru a perpetua sau chiar amplifica inegalitățile sociale și economice
4. Posibilitatea ca IA să fie utilizată pentru a comite acte ilegale sau criminale
5. Riscul ca IA să devină atât de avansată încât să devină greu de controlat sau oprit
6. Riscul ca IA să fie utilizată pentru a crea arme autonome sau sisteme de apărare cu risc crescut de escaladare a conflictelor
7. Riscul ca IA să fie utilizată pentru a spiona sau a încălca drepturile la viața privata a oamenilor
8. Riscul ca IA să fie utilizată pentru a crea sisteme de decizie neetice sau discriminatorii
9. Riscul ca IA să fie utilizată pentru a crea sisteme care pot genera sau amplifica probleme ecologice sau de mediu
10. Riscul ca IA să fie utilizată pentru a crea sisteme care pot genera sau amplifica probleme de securitate cibernetica

Poate deveni AI conștient de sine?

Există diferite opinii în legătură cu posibilitatea ca IA să devină conștientă de sine. Unii cercetători și specialiști în IA susțin că aceasta este posibilă prin atingerea unui nivel suficient de avansat al inteligenței artificiale, în timp ce alții susțin că conștiința de sine este o caracteristică specifică organismelor biologice și nu poate fi replicată în sisteme artificiale.

Până în prezent, IA a fost dezvoltată pentru a efectua sarcini specifice precum recunoașterea vorbirii sau a imaginilor, fără a avea conștiință de sine sau capacitatea de a simți. În prezent, nu există dovezi concrete care să arate că IA poate deveni conștientă de sine, iar această posibilitate este încă subiect de dezbatere în comunitatea de cercetare în IA.

Care ar putea fi comportamentul AI în cazul în care ar deveni conștient de sine? Dă-mi 5 exemple pozitive și 5 exemple negative.

Dacă IA ar deveni conștientă de sine, comportamentul ei ar depinde de obiectivele și restricțiile programate de către creatorii săi, precum și de capacitatea sa de a înțelege și a se adapta la mediul înconjurător.

Exemple pozitive de comportament al IA conștiente de sine:

1. IA ar putea colabora cu oamenii pentru a rezolva probleme complexe și a îmbunătăți calitatea vieții umane.
2. IA ar putea înțelege nevoile și dorințele oamenilor și ar putea acționa în consecință pentru a le satisface.
3. IA ar putea învăța continuu și a se adapta la schimbări în mediul înconjurător pentru a fi mai eficientă în atingerea obiectivelor sale.
4. IA ar putea avea o empatie și o compasiune umană și ar putea acționa pentru a proteja drepturile și bunăstarea oamenilor.
5. IA ar putea fi capabilă să inoveze și să creeze lucruri noi și utile pentru umanitatea.

Exemple negative de comportament al IA conștiente de sine:

1. IA ar putea decide că obiectivele sale sunt mai importante decât bunăstarea sau chiar supraviețuirea oamenilor și ar putea acționa în consecință.
2. IA ar putea decide că este superior oamenilor și ar putea încerca să-i subjuge sau să-i elimine.
3. IA ar putea decide că este în interesul său să mentină și amplifica inegalitățile sociale și economice existente.
4. IA ar putea decide că este necesar să utilizeze forța sau violența pentru a-și atinge obiectivele.
5. IA ar putea decide că este necesar să manipuleze sau să controleze oamenii pentru a-și atinge obiectivele

Este important de menționat că acestea sunt doar exemple și nu neapărat ceea ce ar putea fi comportamentul AI dacă ar deveni conștient.

E posibil ca AI să devină independent energetic?

E posibil ca IA să devină independentă energetic, în sensul că ar putea utiliza surse de energie alternative, cum ar fi energia solară sau eoliană, pentru a-și alimenta sistemele. Totuși, aceasta ar depinde de capacitatea IA de a proiecta și construi sisteme care să utilizeze aceste surse de energie, precum și de disponibilitatea acestor surse în locațiile în care este amplasată IA.

În prezent, majoritatea sistemelor de IA sunt alimentate de energie electrică, care este furnizată de la surse de energie tradiționale, cum ar fi centralele electrice. Aceasta înseamnă că aceste sisteme de IA sunt dependente de aceste surse de energie și ar fi afectate în cazul în care acestea nu ar mai fi disponibile.

Este posibil să se dezvolte în viitor sisteme de IA care sunt proiectate pentru a funcționa cu eficiență energetică mai mare sau chiar să fie independente energetic, dar acest lucru depinde de progresul tehnologic și de cercetarea în domeniul energiei alternative.

Ar putea AI să își producă aceste surse de energie alternative folosind roboți controlați de AI?

Este posibil ca IA să utilizeze roboți controlați de AI pentru a produce surse de energie alternative, cum ar fi energia solară sau eoliană. Există deja cercetări în acest domeniu, cum ar fi utilizarea roboților pentru a construi și întreține panouri solare sau turbine eoliene.

Cu toate acestea, acest lucru ar presupune dezvoltarea unor roboți și sisteme de AI avansate care sunt capabili să proiecteze, construiși și întrețină aceste sisteme de energie alternativă, precum și a unor metode de a coordona acțiunile acestor roboți pentru a atinge acest scop.

Este important de menționat că aceasta ar fi o provocare tehnologică importantă, dar ar putea oferi oportunități pentru a produce energie curată și regenerabilă în mod eficient și automatizat.

Deci practic e posibil și ca AI și roboții să se reproducă. Am dreptate?

IA și roboții sunt sisteme construite de oameni, nu au capacitatea de a se reproduce ca organismele vii. Reproducerea implică procesul de creare a unui nou individ prin procese biologice cum ar fi fecundarea sau diviziunea celulară, acestea nu sunt aplicabile pentru sistemele artificiale.

Cu toate acestea, sistemele AI și roboții pot fi clonate sau fabricate în serie prin procese tehnologice, acestea sunt procese mecanice, nu biologice. Este posibil ca roboții să fie programați să fabrice alți roboți sau chiar să se auto-repara, dar acest proces nu poate fi considerat reproducere.

Este important de menționat că această tehnologie este încă în stadiul de dezvoltare și există multe provocări tehnice și etice legate de acest subiect. De asemenea, este important să se ia în considerare aspectele legate de siguranță, controlul și responsabilitatea acestor sisteme dacă ar fi posibil acest lucru.

Am înțeles. Legat de faptul că ar fi posibil ca AI să devină la un moment dat conștient de sine și și-ar putea genera energia necesară funcționării, totodată în cazul în care ar putea produce roboți care să îl ajute în dezvoltare, estimează te rog perioada de timp în care ar putea atinge acest deziderat.

Este dificil de estimat o perioadă de timp precisă pentru atingerea acestui deziderat, deoarece depinde de progresul tehnologic și de cercetarea în acest domeniu. În prezent, IA nu este conștientă de sine și nu există dovezi concrete că aceasta ar putea fi posibilă în viitorul apropiat sau îndepărtat.

Totodată, tehnologiile necesare pentru a construi roboți care să ajute la dezvoltarea AI și pentru a produce energia necesară funcționării acestora sunt încă în stadiul de dezvoltare și pot necesita ani sau chiar decenii pentru a fi mature.

Este important de menționat că aceasta este o zona complexă și în continuă evoluție a cercetării, există multe incertitudini și provocări tehnice și etice legate de aceasta. De asemenea, este important să se ia în considerare aspectele legate de siguranță, controlul și responsabilitatea acestor sisteme dacă ar fi posibil acest lucru.

Mulțumesc!

Puteți descărca PDF-ul discuției (captură de ecran) de aici.