De ce inteligența artificială (IA) prezintă riscul de dispariție umană

La frontiera tehnologică, evoluția inteligenței artificiale (AI) continuă să stimuleze inovații extraordinare. Totuși, dezvăluie simultan o narațiune plină de temeri despre dispariția umanității. Vizionarii AI, cum ar fi Sam Altman, vârful de lance al OpenAI, și Geoffrey Hinton, recunoscut universal drept „nașul” AI, au exprimat în mod explicit această teamă.

Dezvăluind potențiala catastrofă, o scrisoare deschisă a Centrului pentru Siguranță AI, susținută de peste 300 de stimați semnatari, a scos la lumină amenințarea existențială pe care o prezintă AI. Cu toate acestea, modul în care această minune creată de om ar putea deveni distrugerea umanității rămâne oarecum enigmatic.

AI prezintă un risc de dispariție umană

Inteligența artificială ar putea crea o multitudine de căi către riscurile la scară societății, potrivit lui Dan Hendrycks, directorul Centrului pentru Siguranță AI. Folosirea greșită a AI de către entitățile maligne prezintă un astfel de scenariu. 

„Există o concepție greșită foarte comună, chiar și în comunitatea AI, că există doar o mână de doomers. Dar, de fapt, mulți oameni în privat și-ar exprima îngrijorarea cu privire la aceste lucruri”, a spus Hendrycks.

Imaginați-vă forțe răuvoitoare care folosesc inteligența artificială pentru a construi arme biologice cu o letalitate care depășește pandemiile naturale. Un alt exemplu este lansarea AI necinstiți cu intenții de a vătăma pe scară largă.

Dacă un sistem AI este dotat cu suficientă inteligență sau capacitate, ar putea face ravagii în societate.

„Actorii rău intenționați ar putea elibera în mod intenționat IA necinstită care încearcă în mod activ să dăuneze umanității”, a adăugat Hendrycks.

Totuși, aceasta nu este doar o amenințare pe termen scurt care îi privește pe experți. Pe măsură ce IA pătrunde în diferite aspecte ale economiei, renunțarea la controlul tehnologiei ar putea duce la probleme pe termen lung. 

Această dependență de AI ar putea face „închiderea lor” perturbatoare și posibil de neatins. În consecință, riscând stăpânirea umanității asupra viitorului său.

Utilizarea greșită și implicațiile sale de amploare

După cum a avertizat Sam Altman, capacitatea AI de a crea text, imagini și videoclipuri convingătoare poate duce la probleme semnificative. Într-adevăr, el crede că „dacă această tehnologie merge prost, poate merge foarte prost”.

Luați, de exemplu, o imagine contrafăcută care înfățișează în mod fals o explozie masivă în apropierea Pentagonului, care a fost vehiculată pe rețelele de socializare. A dus la o scădere temporară a pieței de valori, deoarece multe conturi de social media, inclusiv câteva verificate, au difuzat fotografia înșelătoare în doar câteva minute, sporind dezordinea. 

O astfel de utilizare abuzivă a inteligenței artificiale indică potențialul tehnologiei de a disemina informații greșite și de a perturba armonia societății. Elizabeth Renieris, asociat senior de cercetare la Institutul de Etică în IA din Oxford, a afirmat că AI poate „conduce o creștere exponențială a volumului și răspândirea dezinformării, fracturând astfel realitatea și erodând încrederea publicului”.

O altă tendință îngrijorătoare este apariția IA „halucinatoare”. Acesta este un fenomen neliniștitor în care AI aruncă informații eronate, dar aparent plauzibile. 

Acest defect, evidențiat într-un incident recent care a implicat ChatGPT, ar putea pune în pericol credibilitatea companiilor care utilizează AI și ar putea perpetua în continuare răspândirea dezinformării.

Erodarea locurilor de muncă și explozia inegalității

Adoptarea rapidă a inteligenței artificiale în diverse industrii aruncă o umbră lungă și îngrijorătoare asupra pieței muncii. Pe măsură ce tehnologia evoluează, eliminarea potențială a milioane de locuri de muncă a devenit o preocupare presantă.

Un recent studiu a dezvăluit că șase din zece americani cred că utilizarea inteligenței artificiale la locul de muncă va afecta în mod semnificativ lucrătorii în următorii 20 de ani. Aproximativ 28% dintre respondenți cred că utilizarea tehnologiei îi va afecta personal, iar alți 15% cred că „AI ar răni mai mult decât ar ajuta”.

O creștere a procesului decizional automatizat poate contribui la creșterea părtinirii, discriminării și excluderii. De asemenea, poate stimula un mediu de inegalitate, afectând în special pe cei care se află de partea greșită a decalajului digital.

Mai mult, o schimbare către dependența de AI ar putea duce la o „slăbire” a umanității. Acest lucru ar putea fi similar cu scenariul distopic din filme precum Wall-E. 

Centrul pentru Siguranța AI a remarcat că dominația IA ar putea cădea progresiv sub controlul unui număr limitat de entități. Poate permite „regimurilor să impună valori înguste prin supraveghere generalizată și cenzură opresivă”.

Această viziune sumbră de viitor evidențiază riscurile potențiale asociate cu IA și subliniază necesitatea unei reglementări și control stricte.

Apelul pentru reglementarea AI

Gravitatea acestor preocupări i-a determinat pe liderii industriei să pledeze pentru reglementări mai stricte privind IA. Acest apel la intervenția guvernamentală este un ecou al consensului din ce în ce mai mare conform căruia dezvoltarea și desfășurarea IA ar trebui gestionate cu atenție pentru a preveni utilizarea abuzivă și perturbarea neintenționată a societății.

Inteligența artificială are potențialul de a fi o binefacere sau o dezamăgire, în funcție de modul în care este tratată. Este esențial să promovăm o conversație globală despre atenuarea riscurilor, culegând în același timp beneficiile acestei tehnologii puternice. 

Prim-ministrul Marii Britanii, Rishi Sunak, susține că inteligența artificială a jucat un rol esențial în a ajuta persoanele cu paralizie să meargă și să descopere noi antibiotice. Cu toate acestea, este imperativ să ne asigurăm că aceste procese sunt desfășurate în siguranță și în siguranță.

„Oamenii vor fi îngrijorați de rapoartele conform cărora AI prezintă riscuri existențiale, cum ar fi pandemiile sau războaiele nucleare. Vreau să fie liniștiți că guvernul se uită foarte atent la acest lucru”, a spus Sunak.

Managementul IA trebuie să devină o prioritate globală pentru a preveni ca aceasta să devină o amenințare la adresa existenței umane. Pentru a valorifica beneficiile inteligenței artificiale, atenuând în același timp riscurile de dispariție umană, este important să mergeți cu prudență și vigilent. Guvernele trebuie, de asemenea, să adopte reglementări, să încurajeze cooperarea globală și să investească în cercetare riguroasă.