Etica AI și întrebarea aproape sensibilă dacă oamenii vor supraviețui AI

Am o întrebare pentru tine care pare să atragă multe dezbateri aprinse în aceste zile.

Eşti gata?

Vor supraviețui oamenii AI?

Gândește-te pe aia.

Am de gând să despachetez întrebarea și să examinez îndeaproape răspunsurile și cum au fost elucidate răspunsurile. Intenția mea principală este să evidențiez modul în care întrebarea în sine și discursul din jur sunt înrădăcinate inevitabil și inexorabil în Etica AI.

Pentru cei care cred în mod disprețuitor că întrebarea este în mod inerent fără răspuns sau este o pierdere de timp și respirație, le-aș sugera politicos că actul de a încerca să răspundă la întrebare ridică câteva considerații vitale de etică AI. Astfel, chiar dacă doriți să respingeți în mod direct întrebarea ca poate absurdă sau nerealistă, eu spun că ea încă scoate o anumită valoare ca vehicul sau mecanism care subliniază preceptele AI etice. Pentru acoperirea mea continuă și extinsă a eticii AI și IA etică, consultați linkul aici și linkul aici, Doar pentru a numi câteva.

Cu premisa menționată mai sus, vă rog să-mi permiteți să repet încă o dată întrebarea controversată și să permită minții noastre să cutreiere semnificația întrebării.

Vor supraviețui oamenii AI?

Dacă nu sunteți confortabil cu această expresie specială, sunteți binevenit să reformulați întrebarea pentru a întreba dacă AI va supraviețui oamenilor. Nu sunt sigur dacă asta face să răspunzi la întrebare mai ușor, dar poate că pare mai puțin deconcertant. Spun asta pentru că ideea ca AI să supraviețuiască oamenilor s-ar putea simți puțin mai inofensiv. Ar fi aproape ca și cum v-aș întreba dacă clădirile mari și monumentele create de om ar putea supraviețui omenirii.

Cu siguranță acest lucru pare fezabil și deloc amenințător. Facem aceste lucruri mari pe parcursul vieții noastre și asemănătoare cu piramidele, aceste structuri puternice vor rezista mai mult decât cele care le-au creat. Desigur, asta nu echivalează cu a persista după sfârșitul umanității, deoarece oamenii sunt încă aici. Cu toate acestea, pare destul de logic și posibil ca structurile pe care le facem să supraviețuiască existenței noastre în totalitate.

Totuși, distincția notabilă este că diverse structuri, cum ar fi zgârie-nori înalți și statui glorioase, nu sunt vii. Sunt inerți. În schimb, atunci când întrebăm despre AI, presupunerea este că AI este în esență „vie” în sensul că are o anumită formă de inteligență și că poate acționa în moduri în care o fac oamenii. De aceea, întrebarea despre a trăi mai mult este mai descurajantă, mai atrăgătoare și cu totul un puzzle demn de încurcat.

Pe parcursul observațiilor mele de aici, voi rămâne cu întrebarea care este formulată dacă oamenii vor supraviețui AI. Acest lucru este doar de dragul discuțiilor și al ușurinței contemplației. Mă refer la nicio lipsă de respect față de întrebarea alternativă dacă AI va supraviețui oamenilor. Una peste alta, această analiză acoperă ambele formulări și, probabil, găsesc că problema oamenilor care supraviețuiesc AI pare mai drăgălaș în aceste chestiuni spinoase.

Bine, o să-l întreb din nou:

Se pare că aveți două răspunsuri potențiale, fie că da, oamenii vor supraviețui AI, fie s-ar putea să fiți de cealaltă parte a monedei și să insistați cu fervoare că nu, oamenii nu vor supraviețui AI. Astfel, această întrebare înaltă și plină de neliniște se rezumă la o redare simplă a fie da, fie nu.

Alegeți-vă.

Îmi dau seama că răspunsul înțelept este că nici da, nici nu sunt aplicabile.

Te aud.

În timp ce întrebarea pare cu siguranță a răspunde doar într-un mod distinct binar, și anume doar da sau nu, vă voi acorda că un contraargument poate fi formulat în mod rezonabil că răspunsul este altceva.

Să explorăm pe scurt câteva dintre bazele pentru care nu vrem să spunem doar da sau nu acestei întrebări.

În primul rând, s-ar putea să respingi cuvântul „să trăiască” în contextul întrebării puse.

Această formulă specială implică probabil că AI este vie. Întrebarea nu spunea „să reziste” și în schimb se întreabă dacă oamenii vor supraviețui AI. Durata de viață se aplică numai părții umane a întrebării sau se aplică și părții AI a întrebării? Unii ar încerca să afirme că aura supraviețuită se aplică și porțiunii AI. În acest caz, ar avea arsuri la stomac spunând că AI este un lucru viu. Pentru ei, AI va fi asemănător cu clădirile înalte și cu alte structuri. Nu este viu în același mod de a vorbi în care oamenii sunt vii.

Prin urmare, din acest punct de vedere contrariant ardent, întrebarea este formulată în mod fals.

Este posibil să fiți vag familiarizat cu întrebările care au premise false sau înșelătoare. Unul dintre cele mai faimoase exemple este dacă cineva va înceta să-și bată soția (o veche vorbă care, evident, trebuie lăsată deoparte). În acel exemplu infam, dacă se oferă răspunsul da, implicația este că persoana deja făcea acest lucru. Dacă ei spun nu, implicația este că au fost și vor continua să facă acest lucru.

În cazul în care ne întrebăm dacă oamenii vor supraviețui AI, putem ajunge îngropați într-o mlaștină dacă AI este considerată o fațetă vie. După cum voi explica pentru moment, astăzi nu avem nicio IA care să fie sensibilă. Cred că majoritatea oamenilor rezonabili ar fi de acord că o inteligență artificială nesimțită nu este un lucru viu (ei bine, nu toată lumea este de acord, dar voi stipula asta pentru moment – ​​vezi acoperirea mea despre personalitatea juridică pentru IA la linkul aici).

Esența acestei prime baze pentru a nu răspunde la întrebarea dacă oamenii vor supraviețui AI este că cuvântul „să trăiască” ar putea fi interpretat ca să implice că AI este în viață. Nu avem încă AI de genul ăsta. Dacă producem sau avem cumva IA sensibilă care apare, ți-ar fi greu să argumentezi că nu este în viață (deși unii vor încerca să facă un astfel de argument). Deci, cheia aici este că întrebarea pune ceva care nu există și noi doar speculăm despre un viitor necunoscut și neclar.

Putem lua această mizerie și căutăm să o extindem într-o expresie mai expresivă. Să presupunem că în schimb întrebăm asta:

• Oamenii ca ființe vii vor supraviețui AI care este fie (1) neviu, fie (2) o entitate vie, dacă într-o zi se va întâmpla așa?

Țineți cont de această formulare extinsă și vom reveni în curând la ea.

O a doua bază pentru a nu vrea să răspundă la întrebarea inițială pusă dacă oamenii vor supraviețui AI este că presupune că unul dintre lucruri va supraviețui unuia dintre celelalte lucruri. Să presupunem totuși că amândoi trăiesc pentru totdeauna? Sau să presupunem că ambele expiră sau dispar în același timp?

Sunt sigur că puteți discerne cu ușurință modul în care aceasta face ca formularea da sau nu să se destrame.

Se pare că avem nevoie de un posibil al treilea răspuns constând din „niciunul” sau un răspuns similar.

Există o mulțime de permutări legate de „niciuna”. De exemplu, dacă cineva are credința stridentă că oamenii se vor autodistruge prin intermediul AI și, în același timp, oamenii reușesc să distrugă AI, acest credincios nu poate răspunde sincer la întrebarea care va supraviețui celuilalt cu un răspuns inflexibil de da sau nu. Răspunsul, în acel caz destul de sordid și trist, ar fi mai degrabă în sensul că niciunul nu supraviețuiește celuilalt.

Același lucru ar fi adevărat dacă un meteor uriaș lovește Pământul și șterge totul de pe planetă, inclusiv oamenii și orice IA care se întâmplă să fie în jur (presupunând că suntem cu toții limitați pe Pământ și nu trăim deja suplimentar pe Marte). Încă o dată, răspunsul „niciunul” pare mai potrivit decât să sugereze că oamenii au supraviețuit AI sau că AI a supraviețuit oamenilor (din moment ce ambii au fost distruși în același timp).

Nu vreau să merg prea departe aici, dar s-ar putea să dorim, de asemenea, să stabilim niște parametri despre momentul supraviețuirii. Să presupunem că un meteor lovește Pământul și că oamenii sunt distruși aproape instantaneu. Între timp, să presupunem că AI continuă pentru un timp. Gândiți-vă la asta ca și cum am putea avea mașini deja în desfășurare în fabrici care continuă să fredoneze până când, în cele din urmă, mașinile se opresc pentru că nu există oameni care să mențină mașinile în stare de funcționare.

Ar trebui să spuneți că oamenii au supraviețuit sau au supraviețuit de acele mașini. Prin urmare, răspunsul este „nu” în ceea ce privește dacă oamenii au supraviețuit mai mult timp. Răspunsul pare incomplet. Mașinile s-au oprit treptat și inexorabil, probabil din cauza lipsei de umanitate din jurul lor. Vi se pare corect să pretindem că mașinile au fost capabile să reziste mai mult decât oamenii?

Probabil doar pentru cei care sunt captivanți și vor să fie întotdeauna iritant de precis.

Am putea apoi adăuga un fel de element legat de timp la întrebare. Vor supraviețui oamenii AI mai mult de o zi? De mai bine de o lună? De mai bine de un an? De mai bine de un secol? Îmi dau seama că acest lucru, din păcate, deschide cutia Pandorei.

Care este intervalul de timp agreabil dincolo de care am fi dispuși să admitem că AI a supraviețuit sau a supraviețuit oamenilor? Răspunsul corect pare să fie că, chiar dacă se întâmplă pentru o nanosecundă (o miliardime de secundă) sau mai scurt, AI câștigă în mod sumar, iar oamenii pierd în această chestiune. A permite latitudinea folosind o zi sau o săptămână sau o lună poate părea mai corectă. A lăsa acest lucru să continue ani sau secole pare o posibilă extindere. Acestea fiind spuse, dacă priviți lumea la scara a milioane de ani, ideea ca IA să supraviețuiască sau să supraviețuiască oamenilor timp de nu mai mult de câteva secole pare extrem de neimpresionantă și am putea declara că amândoi au dispărut la aproximativ în același timp (pe o bază rotunjită).

Oricum, să admitem că, dintr-o varietate de motive rezonabile, întrebarea pusă poate avea trei răspunsuri posibile:

• Da, oamenii vor supraviețui AI
• Nu, și astfel afirmând că oamenii o vor face nu supraviețuiește AI
• Nu se aplică nici da, nici nu (se cere o explicație, dacă vă rog)

Menționez că dacă alegeți „niciuna”, ar trebui să oferiți și o explicație pentru răspunsul dvs. Acest lucru este astfel încât să putem ști de ce credeți că „niciunul” este aplicabil și, de asemenea, de ce respingeți folosirea lui da sau nu. Pentru a face viața mai echitabilă pentru toți, presupun că ar trebui să insistăm sau cel puțin să încurajăm că, chiar dacă răspundeți cu un da sau cu un nu, ar trebui totuși să oferiți o explicație. Oferirea unui simplu da sau nu nu dezvăluie în mod special logica ta cu privire la motivul pentru care răspunzi așa cum ești. Fără a oferi și o explicație, ar putea la fel de bine să aruncăm o monedă. Moneda nu știe de ce a aterizat pe cap sau pe coadă (cu excepția cazului în care credeți că moneda are un suflet sau întruchipează o mână omniscientă a sorții, dar nu vom merge cu asta deocamdată).

Ne așteptăm ca oamenii care răspund la întrebări să ofere un fel de explicație pentru deciziile lor. Rețineți că nu spun că explicațiile vor fi în mod necesar de natură logică sau sensibilă și, într-adevăr, o explicație ar putea fi complet vacuă și să nu adauge nicio valoare specială. Cu toate acestea, putem spera sincer că o explicație va fi iluminatoare.

În timpul acestei discuții, a existat o presupunere nedeclarată că dintr-un motiv sau altul unul dintre aceste lucruri va supraviețui într-adevăr celuilalt.

De ce să credem o astfel de condiție implicită?

Răspunsul la această întrebare secundară este aproape de la sine înțeles.

Uite care-i propunerea.

Știm că unii ghicitori și intelectuali proeminenți au făcut predicții destul de îndrăznețe și extinse despre modul în care apariția sau apariția IA sensibilă va schimba radical lumea așa cum o cunoaștem astăzi (ca reamintire, nu avem AI sensibilă astăzi) .

Iată câteva citate celebre raportate care evidențiază efectele care modifică viața ale inteligenței artificiale sensibile:

• Stephen Hawking: „Succesul în crearea AI ar fi cel mai mare eveniment din istoria omenirii.”
• Ray Kurzweil: „În câteva decenii, inteligența mașinilor va depăși inteligența umană, ceea ce duce la Singularitatea – o schimbare tehnologică atât de rapidă și profundă încât reprezintă o ruptură în structura istoriei umane.”
• Nick Bostrom: „Inteligenta masinii este ultima inventie pe care omenirea va trebui sa o faca vreodata.”

Acele argumente sunt în mod transparent optimiste.

Chestia este că ar trebui să luăm în considerare și burta urâtă atunci când vine vorba de a face față cu IA sensibilă:

• Stephen Hawking: „Dezvoltarea inteligenței artificiale complete ar putea semna sfârșitul rasei umane.”
• Elon Musk: „Sunt tot mai înclinat să cred că ar trebui să existe o supraveghere reglementară, poate la nivel național și internațional, doar pentru a mă asigura că nu facem ceva foarte prostesc. Adică, cu inteligența artificială, invocăm demonul.”

Sentient AI se anticipează a fi tigrul proverbial pe care l-am prins de coadă. Vom ridica vertiginos umanitatea prin valorificarea AI sensibilă? Sau ne vom produce în mod prostesc propria dispariție prin IA sensibilă care alege să ne distrugă sau să ne înrobească? Pentru analiza mea a acestei enigma AI cu dublă utilizare, vezi linkul aici.

Problema care stă la baza dacă oamenii vor supraviețui AI este că am putea face un Frankenstein care optează pentru eradicarea umanității. AI devine învingător. Există o mulțime de motive posibile pentru care AI ne-ar face asta. Poate că AI este rău și acționează în consecință. Poate că AI s-a săturat de oameni și își dă seama că are puterea de a scăpa de omenire. Se presupune că ar putea apărea și în mod eronat. Inteligența artificială încearcă să salveze omenirea și în acest proces, hopa, ne ucide pe toți. Cel puțin motivul a fost curat.

S-ar putea să găsiți de interes relevant o enigma faimoasă a inteligenței artificiale cunoscută sub numele de problema agrafelor, pe care am abordat-o la linkul aici.

Pe scurt, într-o zi, unei IA sensibile i se cere să facă agrafe. AI este fixat pe asta. Pentru a se asigura că fabricarea agrafelor este realizată pe deplin la gradul suprem, AI începe să înghită toate celelalte resurse planetare pentru a face acest lucru. Acest lucru duce la dispariția umanității, deoarece AI a consumat toate resursele disponibile pentru singurul obiectiv pe care i-au înmânat oamenii. Agrafele ne provoacă propria distrugere, dacă vreți. AI care este îngust conceput și nu are nicio aparență de bun simț este genul de IA de care trebuie să fim în mod deosebit de scrutin.

Înainte de a trece mai departe la întrebarea dacă oamenii vor supraviețui AI, observă că continui să aduc în discuție problema IA sensibilă versus AI nesimțită. O fac din motive importante.

Putem specula în mod sălbatic despre IA sensibilă. Nimeni nu știe sigur ce va fi asta. Nimeni nu poate spune cu certitudine dacă vom ajunge într-o zi la IA sensibilă. Ca rezultat al acestei circumstanțe necunoscute și încă de necunoscut, aproape orice fel de scenariu poate fi derivat. Cineva poate spune că IA sensibilă va fi rea. Cineva poate spune că IA sensibilă va fi bună și binevoitoare. Puteți continua și mai departe, prin care nu poate fi furnizată nicio „dovadă” pentru a susține afirmația dată la orice certitudine sau asigurare.

Acest lucru ne aduce pe tărâmul eticii AI.

Toate acestea se referă, de asemenea, la preocupările emergente cu privire la AI de astăzi și în special la utilizarea Machine Learning (ML) și Deep Learning (DL). Vedeți, există utilizări ale ML/DL care tind să implice ca IA să fie antropomorfizată de către publicul larg, crezând sau alegând să presupună că ML/DL este fie AI sensibilă, fie aproape de (nu este).

Ar putea fi util să clarific mai întâi la ce mă refer când mă refer la AI în general și, de asemenea, să ofer o scurtă prezentare generală a învățării automate și a învățării profunde. Există o mare confuzie cu privire la ceea ce înseamnă inteligența artificială. De asemenea, aș dori să vă prezint și preceptele Eticii AI, care vor fi în mod special parte integrantă din restul acestui discurs.

Prezentarea recordului despre AI

Să ne asigurăm că suntem pe aceeași pagină cu privire la natura IA de astăzi.

Nu există astăzi nicio IA care să fie sensibilă.

Nu avem asta.

Nu știm dacă IA sensibilă va fi posibilă. Nimeni nu poate prezice în mod adecvat dacă vom atinge IA simțitoare și nici dacă IA simțitoare va apărea într-un fel, în mod miraculos, spontan într-o formă de supernovă cognitivă computațională (denumită de obicei Singularitatea, vezi acoperirea mea la linkul aici).

Realizați că IA de astăzi nu este capabilă să „gândească” în nici un fel la egalitate cu gândirea umană. Când interacționați cu Alexa sau Siri, capacitățile conversaționale ar putea părea asemănătoare capacităților umane, dar realitatea este că este computațională și nu are cunoașterea umană. Cea mai recentă eră a AI a folosit pe scară largă Machine Learning și Deep Learning, care folosesc potrivirea modelelor de calcul. Acest lucru a condus la sisteme AI care au aspectul unor tendințe asemănătoare omului. Între timp, astăzi nu există nicio IA care să aibă o aparență de bun simț și nici să aibă minunea cognitivă a gândirii umane robuste.

O parte a problemei este tendința noastră de a antropomorfiza computerele și în special AI. Atunci când un sistem computerizat sau IA pare să acționeze în moduri pe care le asociem cu comportamentul uman, există un impuls aproape copleșitor de a atribui calități umane sistemului. Este o capcană mentală obișnuită care poate prinde chiar și pe cel mai intransigent sceptic cu privire la șansele de a ajunge la simțire. Pentru analiza mea detaliată a unor astfel de chestiuni, vezi linkul aici.

Într-o anumită măsură, acesta este motivul pentru care Etica AI și IA etică sunt un subiect atât de crucial.

Preceptele eticii AI ne fac să rămânem vigilenți. Tehnologii AI pot deveni uneori preocupați de tehnologie, în special de optimizarea tehnologiei înalte. Ei nu iau în considerare neapărat ramificațiile societale mai mari. A avea o mentalitate de etică AI și a face acest lucru în mod integral pentru dezvoltarea și implementarea AI este vitală pentru producerea AI adecvată, inclusiv pentru evaluarea modului în care etica AI este adoptată de companii.

Pe lângă utilizarea preceptelor de etică AI în general, există o întrebare corespunzătoare dacă ar trebui să avem legi care să guverneze diferitele utilizări ale AI. Sunt puse în aplicare noi legi la nivel federal, statal și local care privesc gama și natura modului în care ar trebui concepută IA. Efortul de a elabora și a adopta astfel de legi este unul gradual. Etica AI servește cel puțin ca o soluție intermediară și aproape sigur, într-o anumită măsură, va fi încorporată direct în acele noi legi.

Fiți conștienți de faptul că unii susțin ferm că nu avem nevoie de legi noi care să acopere IA și că legile noastre existente sunt suficiente. Ei avertizează că, dacă adoptăm unele dintre aceste legi privind IA, vom ucide gâsca de aur prin restrângerea progreselor în IA care oferă avantaje societale imense.

În coloanele anterioare, am acoperit diferitele eforturi naționale și internaționale de a elabora și a adopta legi care reglementează IA, vezi linkul aici, de exemplu. Am tratat, de asemenea, diferitele principii și linii directoare ale eticii IA pe care diferitele națiuni le-au identificat și adoptat, inclusiv, de exemplu, efortul Națiunilor Unite, cum ar fi setul UNESCO de etică IA pe care aproape 200 de țări l-au adoptat, vezi linkul aici.

Iată o listă de temelie utilă a criteriilor sau caracteristicilor AI etice privind sistemele AI pe care le-am explorat anterior îndeaproape:

• Transparență
• Justiție și corectitudine
• Non-Malefință
• Responsabilitate
• Privacy
• Beneficiență
• Libertate & Autonomie
• Încredere
• Durabilitate
• Demnitate
• Solidaritate

Se presupune că acele principii de etică AI sunt utilizate cu seriozitate de dezvoltatorii AI, împreună cu cei care gestionează eforturile de dezvoltare AI și chiar și cei care în cele din urmă lucrează și realizează întreținerea sistemelor AI. Toate părțile interesate de-a lungul întregului ciclu de viață al dezvoltării și utilizării AI sunt considerate în scopul respectării normelor stabilite de IA etică. Acesta este un punct important, deoarece presupunerea obișnuită este că „doar codificatorii” sau cei care programează IA sunt supuși aderării la noțiunile de etică AI. După cum s-a subliniat anterior aici, este nevoie de un sat pentru a concepe și a dezvolta IA și pentru care întregul sat trebuie să fie familiarizat și să respecte preceptele de etică AI.

Să ținem lucrurile la pământ și să ne concentrăm pe IA computațională neconștientă de astăzi.

ML/DL este o formă de potrivire a modelelor de calcul. Abordarea obișnuită este aceea de a aduna date despre o sarcină de luare a deciziilor. Introduceți datele în modelele de computer ML/DL. Acele modele caută să găsească modele matematice. După găsirea unor astfel de modele, dacă se găsește, sistemul AI va folosi acele modele atunci când întâlnește date noi. La prezentarea de date noi, modelele bazate pe datele „vechi” sau istorice sunt aplicate pentru a lua o decizie curentă.

Cred că poți ghici încotro se îndreaptă asta. Dacă oamenii care au luat deciziile modelate au încorporat părtiniri nefavorabile, șansele sunt ca datele să reflecte acest lucru în moduri subtile, dar semnificative. Învățarea automată sau potrivirea modelelor computaționale de învățare profundă va încerca pur și simplu să imite datele în mod corespunzător. Nu există nicio aparență de bun simț sau alte aspecte sensibile ale modelării create de AI în sine.

În plus, dezvoltatorii AI ar putea să nu realizeze nici ce se întâmplă. Matematica arcană din ML/DL ar putea face dificilă descoperirea părtinirilor acum ascunse. Te-ai aștepta pe bună dreptate și te-ai aștepta ca dezvoltatorii AI să testeze părtinirile potențial îngropate, deși acest lucru este mai complicat decât ar părea. Există o șansă solidă că, chiar și cu teste relativ extinse, vor exista părtiniri încă încorporate în modelele de potrivire a modelelor ML/DL.

Ați putea folosi oarecum faimosul sau infamul adagiu de gunoi în garbage-out. Chestia este că aceasta seamănă mai mult cu prejudecățile care se infuzează insidios pe măsură ce părtinirile sunt scufundate în AI. Algoritmul de luare a deciziilor (ADM) al AI devine axiomatic încărcat cu inechități.

Nu e bine.

Cred că acum am pregătit scena în mod adecvat pentru a examina în continuare dacă oamenii vor supraviețui AI.

Oamenii și inteligența artificială sunt prieteni, dușmani sau prieteni

Mai devreme proclamasem că orice răspuns la întrebarea dacă oamenii vor supraviețui AI ar trebui să fie însoțit de o explicație.

Vom arunca o privire la Da Răspuns. Voi oferi o listă scurtă de explicații. Sunteți binevenit să adoptați oricare dintre aceste explicații. De asemenea, sunteți încurajat să obțineți și alte explicații, dintre care o multitudine sunt de imaginat.

Da, oamenii vor supraviețui AI deoarece:

• Oamenii ca creatori: Oamenii sunt creatorii și menținătorii AI, astfel încât, fără oameni, atunci AI va înceta să mai ruleze sau să existe
• Spiritul înnăscut uman: Oamenii au un spirit nestăpânit față de viață, în timp ce AI nu, astfel încât într-un fel sau altul oamenii vor supraviețui, dar AI va cădea fără îndoială pe margine din cauza lipsei de revigorare înnăscută pentru supraviețuire.
• Oamenii ca învingători: Oamenii nu vor lăsa AI să supraviețuiască oamenilor, deoarece oamenii ar opta să învingă complet AI dacă oamenii ar fi pus în pericol de AI sau ar dispărea în alt mod
• Altele

Vom arunca o privire la răspunsul Nu (nu da). Voi oferi o listă scurtă de explicații. Sunteți binevenit să adoptați oricare dintre aceste explicații. De asemenea, sunteți încurajat să obțineți și alte explicații, dintre care o multitudine sunt de imaginat.

Oamenii nu vor supraviețui AI deoarece:

• AI capabil să se auto-persista: Chiar dacă oamenii sunt creatorii și menținerii IA, IA va fi fie programată, fie concepută de oameni pentru a persista în absența oamenilor, fie IA își va găsi propriile mijloace de persistență (posibil fără ca oamenii să-și dea seama)
• Spirit artificial AI: Chiar dacă oamenii au un spirit de neînfrânat față de viață, știm că oamenii au și un spirit de autodistrugere; în orice caz, IA poate fi programată cu un spirit artificial, dacă vrei, astfel încât AI să caute să supraviețuiască și/sau AI să ghicească o aparență de revigorare înnăscută în propriile sale condiții.
• AI învinge învingătorii: Chiar dacă oamenii nu vor să lase AI să supraviețuiască oamenilor, AI va fi potențial programată să depășească eforturile de învingere a oamenilor sau s-ar putea auto-deduce cum să facă acest lucru (și, poate, ar putea alege să învingă oamenii în consecință, sau nu)
• Altele

Suntem la fel de obligați să aruncăm o privire la „Niciunul” (nu Da, Nu Nu) Răspuns. Voi oferi o listă scurtă de explicații. Sunteți binevenit să adoptați oricare dintre aceste explicații. De asemenea, sunteți încurajat să obțineți și alte explicații, dintre care o multitudine sunt de imaginat.

Oamenii nu supraviețuiesc AI și, între timp, AI nu supraviețuiesc oamenilor, din cauza:

• Oamenii și inteligența artificială există pentru totdeauna: Se pare că oamenii și AI sunt menite să fie unul cu celălalt, pentru totdeauna. S-ar putea să apară denivelări pe parcurs. Vestea bună sau fața fericită este că ne înțelegem cu toții.
• Oamenii și inteligența artificială există pentru totdeauna cu ură: Uau, oamenii și inteligența artificială ajung să se urască. Scenariu cu fața tristă. Chestia este că există un impas la îndemână. AI nu poate prevala asupra oamenilor. Oamenii nu pot predomina asupra AI. Un remorcher de o stare veșnică.
• Oamenii și inteligența artificială se distrug reciproc: Doi grei ajung să se doboare unul pe altul din ring și din această lume. Oamenii prevalează asupra AI, dar AI a reușit să prevaleze și asupra oamenilor (poate o configurație de apocalipsa)
• Oamenii și inteligența artificială sunt distruse de o anumită exigență: Oamenii și inteligența artificială sunt distruse de un meteor izbitor sau poate de un extraterestru de pe o altă planetă care decide că este o interdicție definitivă pentru oameni și IA derivată din umanitate (nici măcar nu sunt interesați să ne fure AI uimitoarea)
• Altele

Există unele dintre cele mai frecvente motive pentru răspunsurile Da, Nu și Nici la întrebarea dacă oamenii vor supraviețui AI.

Concluzie

S-ar putea să vă amintiți că mai devreme am oferit această variantă extinsă a întrebării oamenilor care supraviețuiesc AI:

• Oamenii ca ființe vii vor supraviețui AI care este fie (1) neviu, fie (2) o entitate vie, dacă într-o zi se va întâmpla așa?

Răspunsurile menționate mai sus sunt, în general, concentrate pe ultima parte a întrebării, și anume circumstanța care implică IA dintr-o varietate sensibilă. Am subliniat deja că acest lucru este extrem de speculativ, deoarece nu știm dacă va apărea IA sensibilă. Unii ar susține că, ca just-in-case, suntem pe bună dreptate înțelepți să luăm în considerare în prealabil ceea ce ar putea apărea.

Dacă vi se pare extrem de nerealist, sunt de acord că toate acestea sunt destul de ipotetice și pline de presupuneri pe lângă presupuneri. Este un butoi plin de presupuneri. Va trebui să stabiliți valoarea pe care credeți că o oferă astfel de eforturi speculative.

Trecând mai mult la tălpile de alamă, așa cum ar fi, putem lua în considerare tipul neviu sau nesimțitor de IA.

Scurtați întrebarea la aceasta:

• Vor supraviețui oamenii AI nevii și nesimțiți?

Credeți sau nu, aceasta este o întrebare demnă de fond.

S-ar putea să nu fiți sigur de ce această inteligență artificială nevii și nesimțită ar putea fi oriunde în stadiul de a putea supraviețui cumva omenirii.

Luați în considerare situația care implică sisteme de arme autonome, despre care am discutat la linkul aici. Vedem deja că sistemele de arme sunt înarmate cu AI, permițând armei să funcționeze oarecum autonom. Această inteligență artificială non-vie și nesimțită nu are nicio aparență de gândire, nici o aparență de bun simț etc.

Imaginează-ți una dintre acele situații apocaliptice. Mai multe națiuni au introdus această IA de calibru redus în armele lor de distrugere în masă. Din neatenție (sau, prin intenție), aceste sisteme de arme autonome alimentate de AI sunt lansate sau dezlănțuite. Nu există suficientă siguranță pentru a le opri. Omenirea este distrusă.

Ar supraviețui AI-ul oamenilor într-un asemenea scenariu?

În primul rând, s-ar putea să nu vă pese în mod special. Cu alte cuvinte, dacă întreaga umanitate a fost distrusă, îngrijorarea sau grija dacă AI-ul continuă să fredoneze pare un pic ca mutarea acelor șezlonguri pe Titanic. Contează că AI-ul încă funcționează?

Un stickler ar putea argumenta că încă contează. Bine, îl vom distra pe stickler. Inteligența artificială ar putea funcționa singură prin panouri solare și alte forme de energie care pot continua să alimenteze mașinile. S-ar putea să fi conceput și sisteme AI care repară și întrețin alte sisteme AI. Rețineți că acest lucru nu necesită IA sensibilă.

Una peste alta, puteți evoca un scenariu în care omenirea este expirată și AI funcționează în continuare. Poate că AI continuă să funcționeze doar pentru o perioadă scurtă de timp. Cu toate acestea, conform discuției anterioare despre a fi exact exact în ceea ce privește preocupările legate de sincronizare, AI a supraviețuit de fapt oamenilor (o vreme).

Un ultim gând pe acest subiect, deocamdată.

A discuta dacă oamenii vor supraviețui IA sensibilă este aproape ca proverbiala lingură de zahăr (cum poate fi asta, s-ar putea să vă întrebați, ei bine, țineți-vă pălăria și vă voi spune).

Vedeți, trebuie neapărat să ne înțelegem că inteligența artificială nesimțită are, de asemenea, un potențial mare și îngrozitor de a participa la distrugerea umanității și la supraviețuirea noastră. Nu în special pentru că AI „a vrut să ne supraviețuiască”, ci pur și simplu prin propriile noastre mâini, la crearea AI care nu necesită intervenție umană pentru a continua să funcționeze. Unii ar susține cu tărie că inteligența artificială concepută pentru a fi oarecum veșnică poate fi o influență destabilizatoare care ar putea determina unii oameni să vrea să facă o primă mișcare în distrugerea altor oameni, vezi explicația mea la linkul aici.

Partea despre supraviețuirea oamenilor nu este principalul motiv pentru care întrebarea merită atât de gravă astăzi. În schimb, curentul ascuns despre modul în care creăm IA de astăzi și cum o punem în uz este adevăratul declanșator aici. Trebuie să ne gândim din plin la ramificațiile eticii AI și la impacturile societale ale AI actuale.

Dacă întrebarea oarecum ciudată despre dacă oamenii vor supraviețui AI-ului va ajunge pe masa problemelor de aici și acum ale AI-ului contemporan, ne va fi mai bine. În acest mod de a lua în considerare, fațetele sensibile ale AI ale oamenilor care supraviețuiesc AI sunt lingura de zahăr care, sperăm, reduce medicamentul pentru a trata AI-ul aici și acum.

Doar o lingură de zahăr ajută medicamentul să scadă, uneori. Și în cel mai încântător dintre moduri. Sau cel puțin într-un mod captivant care ne atrage atenția și ne menține interesați de ceea ce trebuie să ne îngrijorăm.

După cum mai spune cântecul, ca un roșor care își face cuibul cu pene, avem foarte puțin timp să ne odihnim.