Etica AI și aclamata AI Uncanny Valley, care zdrăngănește și mașinile autonome bazate pe AI

Uneori există lucruri puțin ciudate care vă captează atenția și vă pun în mișcare sucul intuitiv că este cumva ceva în neregulă. Ciudățeniile nu sunt flagrante, deloc flagrante în fața ta. S-ar putea să nu reușiți să vă puneți imediat degetul pe care este incongruența sau cum de vă furnică simțul proverbial de păianjen.

Poate că sunt detectate indicii subtile. Poate ți se întâmplă să realizezi că există o disonanță. Bănuiesc că ai putea spune că există doar cea mai mică indiciu de ciudat subestimat și delicatul tău radar uman captează semnale aparent ascunse.

Bine ați venit în valea misterioasă.

Dacă nu ați auzit niciodată de valea neobișnuită, un subiect relativ popularizat în domeniul AI și mai ales al roboticii, vă faceți un pic de răsfăț, deoarece acesta este subiectul pe care îl voi discuta și îl voi analiza îndeaproape aici.

Noțiunea generală se poate aplica la o mulțime de lucruri pe care le experimentăm în viață, deși principiile cheie și definiția originară implică sisteme AI și roboți. Vom explora mai întâi originile și semnificația inițială a văii ciudate și apoi vom continua la o extindere pentru a vedea cum fenomenele par a fi aplicabile în contexte mai mari.

Aș putea adăuga, de asemenea, că vom lua în considerare dacă valea misterioasă există deloc.

Vedeți, unii sceptici și cinici susțin că întreaga chestiune este un pic o șmecherie și nu ține apă. Fiți atenți când aduceți subiectul în discuție celor care cunosc. Unii vă vor zâmbi bucuroși și vă vor aplauda pe spate că sunteți foarte familiarizat cu valea neobișnuită, în timp ce alții vă vor vorbi strident că este o amestecătură de hăi și că trebuie să vă curățați pe scurt mintea cu o bucată de săpun de curățare mentală. .

Vestea bună aici este că trebuie să decideți dacă uriașa vale este reală sau nu, împreună cu dacă are merite pentru o aplicare atentă sau, în schimb, ar trebui să fie aruncată fără ceremonie în gunkheap-ul de idei tehno. În acest sens, ești pe scaunul șoferului.

Toate acestea se referă, de asemenea, îndeaproape la domeniul în plină dezvoltare al IA etică și la conștientizarea crescândă că societatea trebuie să acorde serios și sobru atenție eticii IA. Vom face acea cravată pentru moment.

Cel mai bun loc pentru a începe este prin a-l cita în mod direct pe profesorul care a venit cu conceptul de vale nemaipomenită și a numit direct acest fenomen proclamat. În 1970, profesorul Masahiro Mori de la Institutul de Tehnologie din Tokyo a publicat un articol destul de mic într-un jurnal oarecum mai puțin cunoscut numit Energie (nu în special un focar pentru AI și robotică în sine) și a spus asta:

„Am observat că, urcând spre scopul de a face roboții să pară umani, afinitatea noastră pentru ei crește până când ajungem într-o vale, pe care eu o numesc valea misterioasă.”

Vă rugăm să rețineți că formularea de mai sus este afișată în engleză, deși lucrarea originală era în japoneză. Versiunea tradusă în engleză a fost supravegheată de autor și ulterior publicată în IEEE Spectrum în 2012 și creditat lui Masahiro Mori ca autor. Puteți citi documentul singur, deoarece este disponibil online în mod deschis și gratuit. Este o citire rapidă de aproximativ zece minute și nu conține nicio terminologie grea de tehnologie.

Acestea fiind spuse, este interesant și oarecum uimitor că un articol atât de vioi, publicat în 1970, a început în cele din urmă o întreagă arenă de anchetă și a lansat o multitudine de studii, proiecte, cercetări conexe și, uneori, o furtună de controverse despre dacă conceptul de vale ciudată există cu adevărat. Presupun că acest lucru arată că ideile intrigante și, uneori, care schimbă punctele de vedere nu trebuie să fie masiv contorsionate sau pline de jargon și înălțime. O idee succintă poate fi ca și cum nu chiar mai puternică decât ar putea părea în fața lucrurilor.

Am încredere că vă va încuraja să încercați și să vă promovați noile idei, făcând acest lucru cu conștientizarea că dulce și simplu poate fi la fel de magnific sau uneori mai mult decât complicat și complex.

Să sărim înapoi în elicitația văii uimitoare.

Dați peste un sistem robotic care are o față asemănătoare cu o față cu aspect uman. Imaginați-vă că această față robotică a fost concepută prin numeroase iterații. Dezvoltatorii AI care au adunat capul robotului s-au străduit treptat să facă ca porțiunea facială robotică să pară din ce în ce mai mult ca o față umană reală.

Prima lor încercare a fost extrem de primitivă. Fața robotului avea aceeași înfățișare pe care ați văzut-o în filmele SF, fiind în întregime metalică și prezentând roți și fire. Știi instantaneu când te uiți la obiect că este un robot. Nicio întrebare în mintea ta despre asta.

Următoarea încercare a dezvoltatorilor AI a implicat înfășurarea unor materiale plastice în jurul pieselor metalice. Deși arată oarecum mai prietenos, știi totuși imediat că este un cap de robot și o față robotică. Din nou, ușor de detectat.

Acei dezvoltatori AI sunt hotărâți să continue acest lucru. Ei sculptează plasticul și îi conferă tonuri de piele. Ei adaugă trăsături care par foarte asemănătoare cu o față umană, cum ar fi alunițe, păr, pete și altele asemenea.

La prima vedere, ați putea fi făcut să credeți că acesta este un chip uman. Dacă a fost făcută o fotografie a feței robotizate și ți s-a cerut să identifici dacă imaginea înfățișează o persoană față de o față robotică, s-ar putea să fii împiedicat să poți spune imediat care este. Pe de altă parte, dacă ați sta lângă dispozitiv, probabil, la o inspecție atentă, ați putea discerne că nu este un om, ci un robot.

Chestia este că, înainte de a avea șansa de a face o analiză în prim-plan, a existat ceva la față care nu părea să se adauge în totalitate. Cu siguranță arăta ca un chip uman. Dar era ceva în neregulă. Trebuia să te uiți cu atenție iar și iar pentru a pune degetul pe ceea ce nu pare tocmai corect. Poate că este o față reală. Apoi, din nou, poate că nu este. Mintea ta zbârnește în consecință.

O aparență de ciudată îți intră în minte.

Nu ai avut aceeași aparență de ciudată când ai văzut cele două versiuni anterioare. Puteți detecta fără pauză sau ezitare că robotul este un robot. Doar un copil ar putea fi păcălit să creadă că oricare dintre aceste versiuni este a unei persoane reale.

Această ultimă versiune a fost însă diferită. Nu a fost încă perfecţionat ca să arate ca un chip uman. Nici nu era atât de departe de lucrul real încât să fie evident că trebuie să fie un robot. Se ajunsese la un fel de teren încurcat.

Să presupunem că dezvoltatorii au continuat eforturile lor de cercetare și au ordonat totul, astfel încât fața robotică să nu se distingă aproape de cea umană. Indiferent cât de mult te uiți la lucru, nu ești sigur dacă este un om sau nu. Când sunteți informat că este fața robotică, sunteți surprins. Doamne, au făcut o treabă grozavă făcându-l să pară real.

Observați că până acum ați luat în considerare doar aspectele robotice bazate doar pe aspect.

Am putea adăuga mișcare la ecuație. Acest lucru adaugă o dimensiune suplimentară pentru a putea discerne dacă robotul este un robot față de un om. Nu vreau să consider pe deplin acest lucru ca un tip de problemă multidimensională în această discuție, deoarece face o elucidare pe acest subiect mai complicată (există totuși mai multe dimensiuni inevitabil împletite). În orice caz, imaginați-vă că nu numai că ați văzut fața robotului, ci și că ați putea urmări cum robotul mișcă trăsăturile feței, cum ar fi gura, ochii, nasul etc. robot sau un om.

Un aspect vital de menținut în fruntea văii misterioase este că concepția originală subliniază actul de afinitate umană. Fenomenul susținut este că afinitatea dvs. crește pe măsură ce vedeți fețele robotului îmbunătățite treptat, până în punctul în care apare varianta ciudată. În acel moment, se spune că simțul tău de afinitate scade dramatic, prăbușind într-o prăpastie sau o vale a afinității.

Pentru versiunea specială care v-a făcut să bănuiți că ceva nu este în regulă, afinitatea voastră se presupune că a scăzut radical. În plus, conform teoriei, afinitatea ta poate crește vertiginos odată ce întâlnești versiunea mai avansată, care este aproape identică cu o formă cu adevărat umană.

Iată mai multe despre ceea ce a afirmat autorul despre înclinația noastră normală de a presupune că aspectele vieții cresc ușor: „Termenul matematic funcţia crescândă monoton descrie o relație în care funcția y = ƒ(x) crește continuu cu variabila x. De exemplu, ca efort x creste, venit y crește, sau pe măsură ce accelerația mașinii este apăsată, mașina se mișcă mai repede. Acest tip de relație este omniprezent și foarte ușor de înțeles. De fapt, pentru că astfel de funcții care cresc monoton acoperă majoritatea fenomenelor din viața de zi cu zi, oamenii pot cădea sub iluzia că reprezintă toate relațiile. De asemenea, atestă această impresie falsă și faptul că mulți oameni se luptă prin viață împingând în mod persistent, fără să înțeleagă eficiența retragerii. De aceea oamenii sunt de obicei nedumeriți când se confruntă cu un fenomen pe care această funcție nu poate reprezenta.” Acesta este citat conform IEEE Spectrum hârtie tradusă.

Această presupunere aproape universală despre creșterea permanentă poate fi răsturnată atunci când întâlnim ceva greșit. Straniul și suspiciunea vor provoca o scădere relativ bruscă și dramatică a afinității, spune teoria, cum ar fi o mână robotică pe care ai ales să o strângi și nu ai putut simți caracteristicile osoase ale unei mâini umane: „Când se întâmplă acest lucru, ne pierdem simțul. de afinitate, iar mâna devine neobișnuită. În termeni matematici, aceasta poate fi reprezentată printr-o valoare negativă.”

Dacă acceptați premisa că există acest fenomen al unei văi neobișnuite, sunt sigur că vă întrebați la ce vă ajută să știți că valea neobișnuită aparent există.

Acesta este clasicul din toate timpurile „Și ce?” test de caracter practic.

Se pare că mulți oameni au venit cu o mulțime de interpretări despre ceea ce ar trebui sau putem face cu privire la valea misterioasă. Există o mulțime de opinii. Voi aborda unele dintre acestea în curând.

Între timp, iată ce a oferit Masahiro Mori: „Sperăm să proiectăm și să construim roboți și mâini protetice care să nu cadă în valea misterioasă. Astfel, din cauza riscului inerent încercării de a-și crește gradul de asemănare umană pentru a scala cel de-al doilea vârf, recomand ca designerii să ia în schimb primul vârf ca scop, ceea ce are ca rezultat un grad moderat de asemănare umană și un sentiment considerabil de afinitate. . De fapt, prezic că este posibil să se creeze un nivel sigur de afinitate urmărind în mod deliberat un design non-uman. Le rog designerilor să se gândească la asta.”

O condensare rapidă din partea mea a douăsprezece reguli la îndemână despre ce să fac cu privire la valea neobișnuită este așa pentru dezvoltatorii AI, în special:

1) Fiți conștienți de valea ciudată și fiți cu atenție în consecință

2) Probabil că doriți să obțineți o afinitate umană pentru IA dvs. cât mai mult posibil

3) Fii pregătit pentru o pierdere a afinității umane dacă AI ta cade în valea misterioasă

4) Încercați să evitați valea neobișnuită, creând astfel IA

5) Este respectabil să ai un obiectiv care este scurt de valea misterioasă

6) Mergeți până la marginea văii ciudate, dar nu cădeți peste stâncă

7) Nu fi obsedat să treci dincolo de valea misterioasă

8) Există o șansă să poți sări totuși pe lângă valea ciudată

9) Nu vă preocupați de salt deoarece oricum ați putea cădea în vale

10) Afinitatea umană maximă ar fi atinsă, desigur, trecând peste valea misterioasă

11) Cu toate acestea, există o afinitate adecvată și adecvată găsită înainte de valea misterioasă

12) Fii atent la valea misterioasă și nu o lăsa să-ți scape mintea

Aceste zeci sunt toate precepte generale care pot fi considerate ca cheie de boltă sau puncte de ancorare ale cunoașterii despre valea misterioasă. Voi recunoaște imediat că există și alte puncte care nu sunt enumerate în acele câteva duzini care ar putea fi argumentate la fel de importante. De asemenea, voi recunoaște cu ușurință că este neapărat să existe dezacord pentru fiecare dintre punctele identificate și că poate avea loc o dezbatere lungă aprinsă cu privire la fiecare punct menționat.

Mai mult decât atât, unii ar spune că cele douăsprezece puncte sunt cu totul un gunoi pentru că se bazează, pentru început, pe o falsitate. Nu există așa ceva ca o vale ciudată, ar argumenta ei. Totul este doar o șmecherie și o mașină inventată care apelează numai și, din păcate, pentru a atrage mințile slabe (aaa, asta doare serios!). Orice atenție acordată văii misterioase este o gură de aer irosită și cineva ar trebui să vină și să pună o miză teoretică ascuțită de lemn în miezul problemei (unii cercetători au încercat să facă acest lucru).

De dragul discuției, să mergem cu fluxul și să presupunem că există o vale nemaipomenită și că se pretinde în general să se potrivească cu ceea ce am indicat până acum. Cei care nu sunt de acord cu conceptualizarea unei văi neobișnuite sunt bineveniți să se îndepărteze sau să continue să citească cu dinții scrâșniți și cu furia intelectuală care fierbe și fierbe (îmi pare rău pentru asta).

Iată cum se realizează IA etică și focalizarea conceperii și implementării IA etică. Apropo, pentru explorările mele continue și aprofundate ale eticii AI, vezi discuția mea la acest link aici și acest link aici, Doar pentru a numi câteva.

Valea neobișnuită este o aventură de dragoste-ura pentru cei care iubesc Ethical AI.

În primul rând, un fundal necesar. Una dintre cele mai captivante nemulțumiri etice legate de IA este că oamenii pot fi păcăliți făcându-le să creadă că un sistem AI este sensibil. Vă rugăm să fiți conștienți de faptul că nu există nicio IA de astăzi care să se apropie la distanță de a fi sensibilă. Pur și simplu nu se întâmplă în acest moment. Afirmația mea aparent „dezvăluită” este făcută în ciuda acelor titluri neîncetate și zgomotoase care declară această IA sau că AI este fie suficient de sensibilă, fie suficient de apropiată pentru a fi privită ca atare. Malarkey. Nu suntem la sensibilitatea AI.

Nu știm cum să ajungem acolo. Nu știm dacă se va întâmpla. Sentința AI este un vis și o aspirație care merită, deși nu săriți arma și să credeți că suntem pe punctul de a le realiza.

Desigur, mulți avertizează cu fervoare că, dacă reușim cumva să scoatem simțirea AI, indiferent dacă o facem prin proiect sau prin pur accident, ne vom confrunta cu un risc existențial. În acest mod de a gândi, poate că nu merită atât de mult să cauți simțirea AI. Riscul este ca această inteligență artificială sensibilă să determine că oamenii nu merită să aibă în preajmă. Am putea fi striviți ca un bug. Sau deveniți sclavi AI. Acest lucru s-ar putea întâmpla prin faptul că AI a ales în mod deschis să facă acest lucru, sau AI ar putea ajunge să fie propria noastră mașină a apocalipsei care ne distruge prin propria noastră ineptitudine. Pentru acoperirea mea cu privire la acele rezultate supărătoare ale sensibilității sau singularității AI, vezi linkul aici.

O preocupare esențială pentru IA etică este că dezvoltatorii de AI și cei care activează AI îi atrag uneori pe oameni să creadă că IA este sensibilă. Modul în care se prezintă AI, de exemplu printr-o formulare robotică sau prin interactivitatea sa conversațională, îi poate stimula în mod insidios pe oameni să presupună că IA este sensibilă. Acest lucru, la rândul său, vă conduce pe o potențială potențial nenorocita potențială.

Dacă cădeți în capcana mentală de a crede că un sistem AI este sensibil, probabil că vă veți baza pe el pentru a face lucruri pe care ființele simțitoare le-ar face. Dar nu există încă niciun simț comun al unei calități asemănătoare omului încorporat în niciuna dintre AI de astăzi. Inteligența artificială pe care o experimentăm în prezent este extrem de fragilă și superficială când vine vorba de capacități asemănătoare omului. Ai putea intra în niște ape neplăcute și periculoase crezând că un sistem AI este sensibil.

Cum se leagă asta de valea misterioasă?

Uite care-i propunerea.

Amintiți-vă că valea misterioasă pare să ne spună că afinitatea umană va crește treptat pe măsură ce un sistem AI sau un robot se apropie din ce în ce mai mult de o formulare asemănătoare omului. Într-un moment în care sistemul AI se apropie de punctul de a fi destul de aproape, dar totuși, nu chiar acolo, avem un sentiment ciudat că ceva nu este în regulă. Până atunci, știam că AI nu era uman. Acum nu suntem siguri. Afinitatea noastră umană scade. Doar odată ce AI sau robotul devine complet convingător în ceea ce privește capacitățile umane, ne recâștigăm aparența de afinitate cu dispozitivul.

Dezvoltatorii AI care iau la această inimă ar fi probabil intentionat se străduiesc să-și țină AI departe de valea neobișnuită, urmărind să se oprească în ceea ce privește caracteristicile AI, chiar înainte de a cădea în abisul neobișnuit (amintim, asta a subliniat și Masahiro Mori). Se pare că dezvoltatorii ar face acest lucru asigurându-se că încă mai există indicii revelatoare abundente pentru a clarifica faptul că AI este o IA mai puțin sensibilă și, prin urmare, nu este un om sau la fel.

Eticienii AI ar saluta în general acest efort sincer.

Raționamentul este simplu. Cei atât de informați și care îmbrățișează dezvoltatorii de AI încearcă să se asigure că sistemul AI nu induce în eroare oamenii să-i atribuie în mod fals AI facilități asemănătoare oamenilor. Aceasta este cu siguranță o veste bună. Dezvoltatorii vor crea în mod intenționat AI pentru a preveni o scufundare în valea ciudată. Oamenii își vor da seama cu ușurință că IA nu este sensibilă.

Încercarea de a-i determina pe dezvoltatorii AI să adopte o astfel de abordare nu este ușoară. Într-adevăr, poate fi contraintuitiv față de instinctele și ambițiile lor obișnuite.

Se fac multe afirmații că dezvoltatorii și tehnicienii AI, în general, sunt consumați de obiective. Ei văd un obiectiv și adesea îl vor urmări orbește cu mare plăcere. Nu e timp să te oprești și să miros trandafirii. Plecăm la curse, mergem. În domeniul AI, obiectivul normativ ar fi o IA idealizată, care nu se poate distinge de oameni, prin faptul că IA ar putea fi inteligent egală în paritate. Dar nu suntem încă acolo. Ca atare, valea neobișnuită oferă un scop secundar, aterizarea înaintea văii neobișnuite, care altfel era îndiguită, și devine un scop care este totuși acceptabil. Sigur, nu este inelul de aur prețuit, dar ideea este că acest premiu „secundar” este în regulă, mulțumesc foarte mult și poți fi mândru de el.

Am modificat ambiția supremă ruinătoare de a căuta obiective și am valorificat-o într-o bază raționată logică pentru a face ceea ce trebuie, așa cum ar fi.

Ura!

Obțineți o victorie pentru etica AI.

Dar așteptați o secundă, alertă de spoiler, mai este ceva de care trebuie să luăm în considerare în mod egal.

Acum că acei dezvoltatori pricepuți de AI știu despre valea ciudată, s-ar putea să-și transforme inteligența și priceperea tehnologică spre a sări intenționat peste abis și totuși să facă acest lucru cu o aparență de înșelăciune în minte. Faceți ca AI să arate și să pară a fi în întregime asemănător omului, chiar dacă dezvoltatorii știu că acest lucru este neadevărat.

Gândirea ticăloasă merge așa. Nu lăsați sistemul dvs. AI să-și încline pălăria și să-i faceți pe oameni să obțină acel curent subteran evaziv de ciudat. Excludeți fațetele care ar putea da vreun indiciu că IA nu este capabilă de om. Fă acest lucru în timp ce realizezi în secret și știi fără scuza că IA nu este capabilă de om și că totul este despre a ascunde acel adevăr de cei care interacționează cu AI sau sunt dependenți de acesta.

Ce planuri diabolice.

În mod ironic, valea uimitoare ar putea fi un fel de semnal de alarmă pentru dezvoltatorii de AI că, dacă vor să păcălească cu adevărat oamenii, trebuie să fie suficient de deștepți pentru a scăpa din abis. Ei nu fac acest lucru obținând IA completă, ci ridicând fum și oglinzi pentru a face ca IA să pară înșelătoare ca și cum ar fi umană. Dacă dezvoltatorii AI nu și-ar fi dat seama că această vale ciudată există, ei, în general, ar fi căzut în ea. Acest lucru este bun pentru omenire, deoarece oamenii și-ar pierde afinitatea față de AI pentru a nu se baza prea mult pe calitatea actuală a AI.

Din păcate, știind că capcana există, dezvoltatorii AI care vor să se strecoare în jurul ei vor găsi modalități pernicioase de inteligente de a face acest lucru.

Obțineți o lovitură împotriva preceptelor IA etică.

Vedeți cum acest lucru creează o relație de dragoste-ura pentru eticienii AI despre valea misterioasă?

La naiba dacă o faci, la naiba dacă nu o faci.

Îmi dau seama că aceasta a fost o examinare oarecum înaltă a văii ciudate și s-ar putea să dorești câteva exemple de zi cu zi. Există un set special și cu siguranță popular de exemple care sunt aproape de inima mea. Vedeți, în calitatea mea de expert în inteligența artificială, inclusiv în ramificațiile etice și juridice, mi se cere frecvent să identific exemple realiste care prezintă dileme de etică a inteligenței artificiale, astfel încât natura oarecum teoretică a subiectului să poată fi înțeleasă mai ușor. Una dintre cele mai evocatoare zone care prezintă în mod viu această dilemă etică a AI este apariția mașinilor cu adevărat autonome bazate pe AI. Acesta va servi ca un caz de utilizare la îndemână sau un exemplu pentru discuții ample pe această temă.

Iată atunci o întrebare demnă de remarcat care merită luată în considerare: Apariția mașinilor autonome, bazate pe inteligență artificială, luminează ceva despre valea misterioasă și, dacă da, ce ne informează acest lucru să facem?

Permiteți-mi un moment să despachetez întrebarea.

În primul rând, rețineți că nu există un șofer uman implicat într-o mașină care se conduce singur. Rețineți că adevăratele mașini cu conducere autonomă sunt conduse printr-un sistem de conducere AI. Nu este nevoie de un șofer uman la volan și nici nu există o prevedere ca un om să conducă vehiculul. Pentru acoperirea mea extinsă și continuă a vehiculelor autonome (AV) și în special a mașinilor cu conducere autonomă, consultați linkul aici.

Aș dori să clarific în continuare ce se înțelege atunci când mă refer la adevăratele mașini cu conducere automată.

Înțelegerea nivelurilor autoturismelor

Ca o clarificare, adevăratele mașini cu conducere automată sunt cele pe care AI le conduce în întregime pe cont propriu și nu există asistență umană în timpul sarcinii de conducere.

Aceste vehicule fără șofer sunt considerate Nivelul 4 și Nivelul 5 (vezi explicația mea la acest link aici), în timp ce o mașină care necesită ca un șofer uman să împartă efortul de conducere este de obicei considerată la Nivelul 2 sau Nivelul 3. Mașinile care împart sarcina de conducere sunt descrise ca fiind semi-autonome și, de obicei, conțin o varietate de suplimente automate care sunt denumite ADAS (Sisteme avansate de asistență pentru șofer).

Nu există încă o adevărată mașină cu autovehicule la nivelul 5, pe care nici măcar nu știm dacă acest lucru va fi posibil și nici cât timp va dura.

Între timp, eforturile de la Nivelul 4 încearcă treptat să obțină o anumită tracțiune, trecând prin teste foarte înguste și selective pe drumurile publice, deși există controverse cu privire la faptul dacă aceste teste ar trebui permise în sine (toți suntem cobai pe viață sau pe moarte într-un experiment care au loc pe autostrăzile și drumurile noastre secundare, susțin unii, vezi acoperirea mea la acest link aici).

Deoarece autoturismele semi-autonome necesită un șofer uman, adoptarea acestor tipuri de mașini nu va fi semnificativ diferită de a conduce vehicule convenționale, deci nu există în sine prea multe lucruri care să le acopere în acest sens (totuși, după cum veți vedea într-o clipă, punctele următoare prezentate sunt în general aplicabile).

Pentru mașinile semi-autonome, este important ca publicul să fie anunțat în legătură cu un aspect perturbator care a apărut în ultima vreme, și anume că, în ciuda șoferilor umani care continuă să posteze videoclipuri despre care adorm la volanul unui autoturism de nivel 2 sau nivel 3 , cu toții trebuie să evităm să ne înșelăm crezând că șoferul își poate îndepărta atenția de la sarcina de conducere în timp ce conduce o mașină semi-autonomă.

Sunteți partea responsabilă pentru acțiunile de conducere ale vehiculului, indiferent de cât de multe automatizări ar putea fi aruncate într-un nivel 2 sau 3.

Mașini cu conducere autonomă și Valea Uimitoare

Pentru vehiculele cu autovehicul adevărat de nivel 4 și nivel 5, nu va exista un șofer uman implicat în sarcina de conducere.

Toți ocupanții vor fi pasageri.

AI efectuează conducerea.

Un aspect care trebuie discutat imediat presupune faptul că AI implicată în sistemele de conducere AI de astăzi nu este sensibilă. Cu alte cuvinte, AI este cu totul un colectiv de programare și algoritmi pe computer și, cu siguranță, nu este capabil să raționeze în același mod în care oamenii pot.

De ce se pune accentul pe faptul că AI nu este sensibilă?

Pentru că vreau să subliniez că, atunci când discut despre rolul sistemului de conducere AI, nu atribuiesc calități umane AI. Vă rugăm să fiți conștienți de faptul că există o tendință periculoasă și continuă de a antropomorfiza AI în zilele noastre. În esență, oamenii atribuie simțire umană AI-ului de astăzi, în ciuda faptului incontestabil și incontestabil că nu există încă o astfel de AI.

Cu această clarificare, puteți imagina că sistemul de conducere AI nu va „cumva” nativ cumva despre fațetele conducerii. Conducerea și tot ceea ce presupune va trebui să fie programate ca parte a hardware-ului și software-ului mașinii cu conducere automată.

Să ne scufundăm în nenumăratele aspecte care vin să se joace pe acest subiect.

În primul rând, este important să realizăm că nu toate mașinile autonome cu AI sunt la fel. Fiecare producător auto și firmă de tehnologie cu auto-conducere adoptă abordarea sa în conceperea mașinilor care se conduc singur. Ca atare, este dificil să faci declarații cuprinzătoare despre ceea ce vor face sau nu vor face sistemele de conducere AI.

Mai mult, ori de câte ori se afirmă că un sistem de conducere AI nu face ceva anume, acest lucru poate fi, mai târziu, depășit de dezvoltatorii care, de fapt, programează computerul pentru a face chiar acest lucru. Pas cu pas, sistemele de conducere AI sunt îmbunătățite și extinse treptat. O limitare existentă astăzi ar putea să nu mai existe într-o viitoare iterație sau versiune a sistemului.

Am încredere că oferă o litanie suficientă de avertismente pentru a sta la baza a ceea ce urmează să povestesc.

Suntem pregătiți acum să facem o scufundare profundă în mașinile cu conducere autonomă și întrebările etice ale inteligenței artificiale care implică valea misterioasă.

Există patru aspecte legate de această chestiune care vor fi tratate aici:

1. Aspectul general al mașinilor cu conducere autonomă

2. Întrebarea unde „arată” mașinile cu conducere autonomă

3. Acțiuni de conducere AI ale mașinilor care se conduc singure

4. Roboți care conduc ca mijloc de a obține mașini autonome

Fațete suplimentare sunt, de asemenea, cuprinse în mod viabil, dar pentru constrângerile de spațiu, aceste patru subiecte vor fi suficiente pentru a lumina direcția văii neobișnuite în ceea ce privește mașinile cu conducere autonomă bazate pe inteligență artificială.

1. Aspectul general al mașinilor care se conduce singur

Pun pariu că ați văzut imagini sau videoclipuri cu probele de astăzi cu mașini cu conducere autonomă. Ca atare, este posibil să fi observat că majoritatea vehiculelor sunt mașini cu aspect convențional care sunt echipate cu echipamente specializate suplimentare. De exemplu, ar putea exista un suport de pe acoperiș care conține o mulțime de senzori electronici. Senzorii includ uneori camere video, unități radar, dispozitive LIDAR, senzori cu ultrasunete și altele asemenea.

Design-urile futuriste tind să sugereze că am putea pleca de la mașina cu aspect convențional pentru a reproiecta mașinile atât la interior, cât și la exterior, pentru a fi vehicule autonome cu aspect mai elegant. În acest moment, gândirea generală este că este mai simplu să folosești mașini convenționale și să nu cheltuiești energie încercând să extinzi efortul, modificând simultan cu mașini cu aspect neconvențional (există câteva excepții de la acest punct de vedere general, vezi acoperirea mea la linkul aici).

Esența în acest moment este că, dacă conduceți pe carosabil și întâlniți o mașină autonomă în apropiere, aproape întotdeauna puteți discerne imediat că probabil este o mașină care se conduce singur, doar observând împușcătura senzorilor montați pe vehiculul autonom. Acesta este un cadou vizual rapid. Desigur, nu știți sigur că este auto-conducere în sine, deoarece în acest moment comenzile de conducere sunt de obicei încă intacte și un șofer uman de rezervă ar putea fi la volan.

Într-un fel de gândire, puteți sugera că este deosebit de util ca mașinile care se conduc singure par să iasă în evidență fizic și să fie ușor observate vizual de șoferii umani din mașinile conduse de oameni din apropiere și, de asemenea, de pietonii din apropiere. Realizarea faptului că o mașină cu conducere autonomă se deplasează în apropiere poate fi un indiciu util pentru a fi în gardă, determinându-te să fii atent și conștient de faptul că AI conduce sau ar putea conduce vehiculul.

Să presupunem că mașinile cu conducere autonomă arătau identice cu o mașină convențională condusă de oameni. Acest lucru este realist fezabil în cel puțin două moduri. În primul rând, senzorii ar putea fi ascunși sau modelați pentru a nu fi atât de evidenti pentru inspecția vizuală obișnuită. În al doilea rând, s-ar putea ca toate mașinile, inclusiv mașinile convenționale conduse de oameni, să fie echipate treptat cu senzori similari, chiar dacă vehiculul va rămâne totuși ca o mașină condusă predominant de oameni. Vedeți acoperirea mea ulterioară la acest link aici.

Dacă te gândești cu atenție la această considerație despre dacă mașinile cu conducere autonomă pot sau ar trebui să fie identice ca înfățișare cu mașinile convenționale conduse de oameni, s-ar putea ajunge la gândul că o vale ciudată ar putea fi pândită în această tocană.

Vezi tu, mașinile care arată în mod flagrant ca mașini care se conduc singure ar putea fi tipizate ca fiind într-o intersecție care este chiar departe de valea ciudată. Practic, „știți” că este un robot sau un sistem robotizat. Aceasta este o judecată la care poți sări aproape imediat.

Când mașinile cu conducere autonomă arată în mod identic mașinile conduse de oameni, poate că acest lucru sugerează că vehiculele autonome au sărit dincolo de valea ciudată în ceea ce privește aspectul lor asemănător robotic. Există totuși o cale de mijloc între acele două înfățișări fizice care ne duce în valea misterioasă?

Poate observați o mașină care se conduce singur venind pe stradă și se pare că este probabil o mașină care se conduce singur, pe de altă parte, aspectul nu este nici strict autonom, nici strict condus de om. Ați putea argumenta că mașina cu conducere autonomă se află acum într-o stare de aspect ciudată sau tulburătoare.

Mașina cu conducere autonomă s-a scufundat aparent în valea ciudată.

Acestea fiind spuse, nu toată lumea ar fi de acord cu această clasificare. Unii ar susține că aspectul fizic nu are nimic de-a face cu valea neobișnuită. Unii susțin, desigur, că nu există nimic cunoscut în mod realist sub numele de valea misterioasă.

După cum am menționat mai devreme, sunteți binevenit să luați propria decizie în acest sens.

2. Întrebarea unde caută mașinile cu conducere autonomă

O preocupare care se profilează pe care mulți o au cu privire la mașinile care se conduc singure este că, de obicei, le lipsește orice șofer uman pe scaunul șoferului și, prin urmare, este dificil să ne dăm seama unde caută „șoferul” în timp ce conduc mașina.

În mod normal, aruncați o privire către șoferii umani pentru a spiona unde caută. De exemplu, s-ar putea să fii pieton la o trecere de pietoni și o mașină se apropie de trecere. Te uiți cu atenție la persoana care stă pe scaunul șoferului și încerci să discernești unde îi este întors capul și unde îi privesc ochii. Dacă credeți că șoferul uman v-a văzut, s-ar putea să vă simțiți mai confortabil să traversați strada. În schimb, dacă șoferul uman nu a părut să te vadă, ești pe bună dreptate îngrijorat să traversezi.

În unele orașe, există un fel de manieră pisică și șoarece pe aceste aspecte. O anumită normă culturală într-un anumit oraș ar putea fi aceea că, dacă faci contact vizual cu un șofer, șoferul „câștigă” și are dreptul aparent de a continua, indiferent de legalitatea situației de conducere. Alte orașe ar putea fi cu totul opusul, și anume că norma culturală este că atunci când se realizează contactul vizual, pietonul „câștigă” și se presupune că șoferul uman trebuie să amâne acțiunile pietonului.

Se pare că am adoptat acest obicei de-a lungul timpului relativ îndelungat în care mașinile se află în mijlocul orașelor și comunităților noastre. Problema cu apariția mașinilor cu conducere autonomă este că nu există un șofer uman pe scaunul șoferului și, prin urmare, niciun pieton sau șofer uman din apropiere care utilizează în mod normal capul și ochii șoferilor de mașini ca indicator cultural al intenției de a conduce este acum. fara noroc.

Producătorii de automobile și dezvoltatorii de mașini autonome sunt foarte conștienți de această problemă emergentă. O soluție propusă constă în ca mașina cu conducere autonomă să clipească farurile vehiculului autonom sau, eventual, să tragă claxonul. O altă noțiune este că mașina cu conducere autonomă ar putea avea o variantă de difuzor și le poate spune celor din apropiere care sunt „intențiile” sistemului de conducere AI. Aceste idei au fiecare dezavantaje semnificative.

Totuși, o propunere diferită implică să faci ceva ce ai putea crede la început a fi ridicol. Propunerea constă în plasarea globului ocular pe exteriorul vehiculului autonom. Aceste sfere ar arăta aproape ca niște ochi umani, parcă ar putea pivota înainte și înapoi, oferindu-ți o indicație imediată care sugerează că AI „te-a văzut” (ai interpreta acest lucru prin globii oculari care privesc în direcția ta particulară). Am analizat această abordare la linkul aici.

Care ar fi reacția ta când vezi o mașină care se conduce singur coborând pe șosea și având aceste globuri oculare ciudate care apar pe capotă sau pe acoperiș?

Presupun că ai putea crede că este ciudat, poate înfiorător.

Unii ar sugera că ciudatul provine din cauza mașinii autonome echipate care se află în valea misterioasă. Alții ar susține cu vehemență că acest lucru nu are nimic de-a face cu uimitoarea vale. Dintre acești astfel de experți, unii ar spune că există o ciudată care poate fi ciudată fără a fi nevoie să fie înrădăcinată în valea neobișnuită (adică, valea neobișnuită aparent produce întotdeauna ciudată, dar nu toată ciudata este produsă numai prin valea neobișnuită). Celălalt unghi este că sferele ar putea fi proiectate să arate mai puțin globul ocular și să pară a fi mai robotizate, sau că toți vom accepta inevitabil apariția acestor sfere și reacția inițială uimitoare se va diminua.

3. Acțiuni de conducere AI ale mașinilor care se conduc singure

Multe dintre testele de astăzi ale mașinilor cu conducere autonomă au arătat că sistemele de conducere AI existente tind să fie programate pentru a conduce în moduri destul de calde și oarecum stricte legale. Sistemul de conducere AI oprește de obicei mașina cu conducere autonomă la semnele de oprire. Sistemul de conducere AI nu face alergări îndrăznețe prin intersecții când semaforul va fi iminent roșu. Aceste practici de conducere captivante sunt domeniul șoferilor umani.

Într-un fel de a vorbi, aproape că ai putea ghici că o mașină care se conduce singur este o mașină care se conduce singur după stilul de conducere pe care îl prezintă. Chiar dacă vehiculul autonom părea vizual a fi o mașină convențională condusă de oameni, ați putea observa acțiunile de conducere și poate deduceți logic că este probabil condus de un sistem AI.

Unii cred că va trebui să facem ca sistemele de conducere AI să fie mai asemănătoare cu nebunurile șoferilor umani, astfel încât acestea să se integreze eficient în abordările normative ale condusului. Presupun că ai putea interpreta asta ca lupta împotriva focului cu focul.

Are sens să faci asta?

Fiți conștienți de faptul că scepticii și criticii deschisi detestă ideea. Ei ar susține cu tărie că vrem ca sistemele de conducere AI să conducă corect și cu prudență. Adăugarea potențial de milioane de mașini care se conduc singure pe drumurile care sunt programate să fie ca șoferii umani rătăciți ar părea un coșmar colosal. Am discutat această propunere controversată la linkul aici.

Să reformulam dilema valorificând valea ciudată.

Atunci când sistemul de conducere AI este strict legal prin acțiunile sale de conducere, acesta este probabil un indiciu revelator că este probabil să fie un sistem robotizat (în ciuda șoferilor umani care, desigur, fac acest lucru, deși în lumea de azi par departe și puțini între ele). Dacă sistemele de conducere cu inteligență artificială vor conduce la fel de ciudat ca șoferii umani, aceasta trece peste valea neobișnuită sau cade în valea misterioasă?

Gândește-te pe aia.

4. Roboți care conduc ca mijloc de a obține mașini autonome

Acest ultim element pentru acoperire este cel mai uimitor dintre aceste patru.

S-ar putea să nu știți cu desăvârșire că unii dezvoltatori de inteligență artificială încearcă să creeze roboți care ar conduce mașini. Robotul ar avea tendința de a arăta ca un om în diverse privințe, având drept membre picioare și brațe robotizate. Când vrei ca orice mașină convențională condusă de oameni să fie o mașină cu conducere autonomă, doar pui acest robot specializat de conducere AI în scaunul șoferului mașinii tale. Vezi analiza mea asupra acestei noțiuni la linkul aici.

De ce ne-am dori să conducem roboți?

Frumusețea unui astfel de robot este că toate mașinile conduse de oameni de astăzi ar putea, într-un fel de interpretare, să devină mașini cu conducere autonomă, aproape peste noapte. Doar cumperi, închiriezi sau cumva să-ți iei un robot de conducere. Așezați robotul pe scaunul șoferului când plecați într-o călătorie cu mașina. Robotul te conduce la destinație. Dacă doriți să treceți la conducerea umană, scoateți robotul din vehicul, poate îl depozitați în portbagaj pentru o utilizare ulterioară.

Există aproximativ 250 de milioane de mașini convenționale în Statele Unite astăzi. Unii cred că acestea vor fi în cele din urmă distruse pe măsură ce mașinile cu conducere autonomă vor apărea. În loc să distrugem acele mașini convenționale, poate am putea încerca să le adaptăm pentru a deveni mașini cu conducere autonomă, deși aceasta este posibil o idee destul de costisitoare. Abordarea aparent mai prudentă ar fi să pună la dispoziție roboți de conducere.

Dacă ai vedea o mașină cu aspect convențional venind pe strada din cartierul tău și ar avea un robot la volan, care ar fi reacția ta?

Probabil straniu.

O afirmație care poate fi discutată este că această ciudată se datorează robotului care conduce o mașină convențională care se scufundă în faimoasa sau infama vale misterioasă.

Concluzie

Dintr-o perspectivă etică a inteligenței artificiale, valea misterioasă prezintă o enigma fascinantă.

Există unii în AI care cred pe deplin în valea misterioasă și alții care nu. Dar, fie că crezi în valea misterioasă, fie că nu crezi asta, totuși subiectul în sine este răspândit. Nu poți să-ți ascunzi capul și să pretinzi că constructul în sine este inexistent. Construcția ca idee trăiește și într-o anumită aparență este puternic viral. Urăsc-o sau iubește-l, subiectul blestemat sau poate exaltat persistă.

Conform discursului meu anterior despre meritele văii uimitoare din unghiul eticii AI, există o relație de duel de dragoste și ură. În cazul în care cei din domeniul etic AI îmbrățișează valea neobișnuită sau resping sumar valea misterioasă sau rămân oarecum neutri în ceea ce privește veridicitatea și se concentrează în schimb asupra impactului care se acumulează din cauza credințelor divergente în curs despre aceasta.

Această provocare îl aduce la naștere economistului preeminent Adam Smith, așa cum a spus odată (parafrazând) că pe drumul de la Orașul Scepticismului, trebuie să treci prin Valea Ambiguității.