Iată de ce etica AI susține că IA centrată pe om este esențială pentru existența noastră simbiotică AI, cum ar fi apariția mașinilor autonome care se conduc singure

S-ar putea să fi auzit sau văzut că lumea ar trebui să se concentreze pe IA centrată pe om (HCAI).

Ce este? De ce avem nevoie de ea? Este pe termen lung sau este doar un moft? Cum funcționează exact? O mulțime de alte întrebări similare apar de obicei de la cele care nu sunt familiarizate cu natura și substanța IA centrată pe om.

Să despachetăm chestiunea și să clarificăm povestea.

În plus, voi oferi câteva exemple utile despre cât de importantă este HCAI. Aceste exemple se vor baza pe apariția vehiculelor autonome bazate pe inteligență artificială, cum ar fi cele mai recente și mai bune mașini cu conducere autonomă, care încep să fie amplasate pe drumurile noastre publice.

Pregătește-te pentru o călătorie interesantă și informativă.

Modul logic de a începe această discuție constă în a vorbi despre ceea ce a determinat mișcarea centrată pe om. Cunoașterea yin-ului este esențială pentru înțelegerea yang-ului, așa cum ar fi. Vă rog să realizați că încă nu voi menționa AI până nu vom stabili ce înseamnă să fii centrat pe om. Scoateți din minte subiectul AI pentru un scurt moment și vom reapariția AI când va fi momentul potrivit.

Un pretins battle royale a avut loc între ceea ce unii descriu drept a centrat pe tehnologie perspectivă versus un contrastant centrat pe om punct de vedere când vine vorba de conceperea de noi tehnologii.

Poate fără să știți, credința arzătoare este că suntem preocupați în principal de precepte centrate pe tehnologie de mult prea mult timp. Ori de câte ori se concepea o nouă inovație tehnologică, atenția s-a îndreptat către aspectele tehnologice. Unii ar susține că deseori suntem prinși în cursa tehnologică de a scoate pe ușă cele mai noi tehnologii, indiferent de modul în care funcționează și de cum ar putea reacționa oamenii la ea.

Există o mulțime de tropi din Silicon Valley care se potrivesc în această mentalitate. Eșuează rapid, eșuează des este unul dintre expresiile tipice. Altul este fals până când îl faci. Ideea grandioasă este că nu faci decât să faci orice instrument pe care îl poți și apoi să începi să-l vinzi sau să-i faci pe oameni să-l folosească. Sigur, combobulația nebună ar putea avea margini aspre. Și, da, oamenii s-ar putea deruta de gadget sau chiar s-ar putea răni, dar oricum a fi primul este considerat lauda mare a tehnicienilor și așa naibii de torpile și aburii pe care îl avem înainte.

Pericolul de bază al unei astfel de abordări bazate pe tehnologie este că partea umană a ecuației este subestimată sau complet neglijată. În loc să arunce în mod sălbatic noi tehnologii în mâinile societății, a existat un apel din ce în ce mai vocal pentru a respira adânc și a ne asigura mai întâi că mecanismul este compatibil cu oamenii. Pot oamenii să folosească în mod adecvat dispozitivul și să facă acest lucru fără a suferi un rău? Este noul articol ușor de folosit sau aproape imposibil de înțeles? Și așa mai departe.

Dacă într-adevăr am fost aparent centrați pe tehnologie, atunci este timpul să trecem la un nou mod de gândire, și anume să devenim centrați pe om. Tehnologia nu poate fi singurul determinant al admirației. În loc ca tehnologia să fie finalul, problema dacă oamenii pot folosi tehnologia și pot câștiga substanțial din ea este adevăratul semn al invenției și modernizării lăudabile. O speranță era că, prin schimbarea gravitasului către considerații centrate pe om, lipsa dominantă centrată pe tehnologie a introspecției umanității va veni să vadă lumina. Am discutat mai în profunzime despre această schimbare a mentalității, conform analizei mele despre AI și așa-numita cunoașterea interzisă, A se vedea linkul aici.

Desigur, în lumea de astăzi, avem unii tehnicieni care sunt conștienți de și îmbrățișează perspectiva centrată pe om, în timp ce alții fie nu sunt conștienți de aceasta, fie cred că nu se aplică lor. Astfel, există o mulțime și o mulțime de eforturi centrate pe tehnologie încă care continuă ca un taur într-un magazin delicat de sticlărie. Nicio indoiala despre asta.

Provocarea enervantă este că unele dintre eforturile centrate pe tehnologie vor avea totuși succes, de aceea este greu să ștergi sau să dezonorezi complet calea centrată pe tehnologie. Drept urmare, unii stau direct în tabăra centrată pe om, iar alții rămân în tabăra centrată pe tehnologie. O afirmație de durată este că există mai multe modalități de a jupui o pisică (hopa, o zicală învechită care trebuie retrasă).

O altă întorsătură este că tabăra centrată pe om afirmă cu fermitate că nu sacrifici niciun punct techie îmbrățișând o abordare centrată pe om. Pentru tehnicienii care își imaginează cu îndârjire că merg într-o groapă de iepure devenind centrat pe om, replica este că acest lucru le va spori de fapt șansele de a crea o tehnologie uimitoare. Gândește-te la asta în termeni simpli. Tehnologia care nu are considerații centrate pe om va avea probabil o perioadă dificilă de a fi adoptată de oameni. Tehnologia care îmbrățișează și este modelată prin intuiții centrate pe om este probabil să fie adoptată cu ușurință și cu ardoare de oameni.

Poți să-ți iei prăjitura și să-l mănânci și tu.

Acest lucru subliniază că poate că nu există o ruptură groaznică între a fi centrat pe tehnologie și pe om, în sensul că există loc pentru coexistență. Faceți ambele în același timp, susțin unii. Amestecă cele două astfel încât să fie co-egale și să fie compatibile între ele. Cei care nu le susțin insistă că trebuie să alegi una sau alta. Fie sunteți centrat pe tehnologie și puneți deoparte centrarea umană, fie sunteți centrat pe om și vă duceți centrat pe tehnologie în cubană.

În orice caz, să considerăm că ar trebui să luăm în considerare în mod serios aspectele legate de om atunci când sunt concepute noi tehnologii. Și trebuie să avem grijă să nu subestimăm importanța caracteristicilor legate de om atunci când venim cu o tehnologie nouă. Modul la îndemână de a surprinde acest lucru este să spunem că trebuie să fim centrați pe om. Ideea de a centra un lucru față de altul va fi uneori util atrăgătoare și alteori poate distrage atenția.

Putem explora în continuare modul în care filosofia centrată pe om poate fi pusă în aplicare în termeni practici reali din lumea reală.

Să presupunem că vă porniți în proiectarea și dezvoltarea unui nou sistem care va include cea mai recentă și mai bună piesă de tehnologie. Cei care fabrică sisteme sunt în general conștienți în zilele noastre că trebuie să ia în considerare întregul ciclu de viață al procesului de proiectare și dezvoltare. Odinioară, o mare atenție s-a acordat doar proiectării sau s-a concentrat doar asupra construcției sistemului. Ca rezultat, am avut o mulțime de sisteme care, în cele din urmă, au eșuat atunci când au fost puse în câmp din cauza transferurilor disjunse și inadecvate în numeroasele etape interdependente ale conceperii unui sistem. Trebuie să fii cu ochii pe minge pe tot parcursul ciclului de viață al sistemului.

Au fost stabilite diverse metodologii ale ciclului de viață al sistemelor pentru a ghida întregul eforturi ale sistemelor. Metodologiile sunt asemănătoare cărților de bucate șablon care prezintă aspectele generale care trebuie făcute în fiecare etapă a unui efort. Puteți să le aplicați din nou pentru efortul dvs. de sisteme, așa cum se potrivește, indiferent de ceea ce puneți împreună.

Suntem gata acum să conectăm punctele. S-a depus mult efort pentru a crea metodologii ale ciclului de viață al sistemului care sunt deosebit de dornice pe importanța considerațiilor centrate pe om. Acest lucru a devenit cunoscut în general sub numele de Human-Centered Design (HCD).

Într-un document recent al Institutului Național de Standarde și Tehnologie (NIST), o definiție sau o explicație destul de utilă a designului centrat pe om a constat în acest pasaj: „HCD este un proces continuu, iterativ în care echipele de proiect proiectează, testează și perfecționează continuu un sistem, plasând utilizatorii în centrul procesului. Oamenii și nevoile lor conduc procesul, mai degrabă decât să aibă un accent tehno-centric. HCD funcționează ca parte a altor cicluri de viață de dezvoltare, inclusiv modele în cascadă, spirală și agile. Designul centrat pe utilizator, HCD, designul participativ, co-proiectarea și designul sensibil la valoare au toate asemănări cheie; la cel mai înalt nivel, ei caută să ofere oamenilor modele care sunt în cele din urmă benefice pentru viața lor. În plus, plasând oamenii în centrul unor astfel de abordări, ei se pretează în mod natural să se concentreze mai profund asupra considerațiilor societale mai mari, cum ar fi corectitudinea, părtinirea, valorile și etica. HCD lucrează pentru a crea produse mai utilizabile care să răspundă nevoilor utilizatorilor săi. Acest lucru, la rândul său, reduce riscul ca sistemul rezultat să nu se livreze, să prezinte riscuri pentru utilizatori, să provoace daune utilizatorilor sau să eșueze” (conform Departamentului de Comerț al SUA, NIST Special Publication 1270, martie 2022, Către un standard pentru identificarea și gestionarea părtinirii în inteligența artificială de autorii Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt și Patrick Hall).

Raportul NIST menționează, de asemenea, în mod adecvat standardul Organizației Internaționale pentru Standardizare (ISO) care acoperă proiectarea centrată pe om (conform ISO 9241-210:2019), pentru care aceste caracteristici notabile sunt considerate fundamentale:

• Înțelegerea explicită a utilizatorilor, sarcinilor și mediilor (contextul de utilizare)
• Implicarea utilizatorilor pe parcursul proiectării și dezvoltării
• Condus de design și rafinat prin evaluare centrată pe om
• Proces iterativ prin care un prototip este proiectat, testat și modificat
• Adresându-se întregii experiențe de utilizator
• Proiectați echipe care includ abilități și perspective multidisciplinare

Să facem o recapitulare rapidă a ceea ce am acoperit până acum.

Am încredere că acum sunteți conștienți de această mișcare continuă către tehnologia centrată pe om și că această mișcare poate fi ajutată prin utilizarea metodologiilor create în mod intenționat pentru cei care doresc de fapt să creeze sisteme centrate pe om.

Unde se încadrează AI în toate acestea?

Easy-peasy.

Cei care proiectează și dezvoltă IA cad adesea în capcana de lungă durată de a fi prea preocupați de tehnologie în sine. Puteți indica cu ușurință multe sisteme AI care erau în mod evident centrate pe tehnologie și nu pe oameni (voi împărtăși câteva exemple despre mașinile cu conducere autonomă, momentan).

În mod firesc, se presupune că a fi în domeniul AI axiomatic pătrunde o tentație de a fi centrat pe tehnologie. Toată lumea se grăbește cu capul întâi să încerce să transforme AI în capacități din ce în ce mai avansate. Unii cred că poate putem aduce IA contemporană într-un mod în care apoi va intra cumva într-un fel de supernovă cognitivă computațională și va apărea în sensibilitate (vezi acoperirea mea la acest link aici).

Doar pentru a clarifica, încă nu avem nicio IA sensibilă. Nu știm dacă este posibil să se producă IA simțitoare și nici dacă IA simțitoare va apărea în mod miraculos. Toată IA de astăzi nu este sensibilă și nu este aproape de a fi sensibilă. Vrei să clarifice recordul, deoarece există o mulțime de titluri zgomotoase care sugerează fie că avem AI sensibilă, fie că suntem pe punctul de a o avea. Nu asa.

Revenind la concentrarea pe design-ul centrat pe om, esența este că are sens abundent să încercăm să-i convingem pe cei care creează AI să vină la perspectiva centrată pe om. În loc de inteligența artificială miope a tehnologiei, ar părea prudent și cu totul avantajos să urmărești conceperea IA centrată pe om. Aceasta este aceeași idee stridentă despre care se spune că se aplică oricărui tip de tehnologie.

Am putea la fel de bine să aplicăm acele precepte lăudate centrate pe om la sistemele AI.

Acest lucru a dat naștere unui tărâm cunoscut sub numele de IA centrată pe om, adesea prescurtat ca HCAI sau uneori scurtat în HAI. Iată un mod succint de a descrie HCAI: „IA centrată pe om (HCAI) este o zonă emergentă de studii care reconceptualizează HCD în contextul AI, oferind metafore de proiectare a IA centrată pe om și structuri de guvernare sugerate pentru a dezvolta fiabile, sigure și demne de încredere. Sisteme AI” (conform raportului NIST citat mai devreme).

HCAI este o combinație de AI și HCD.

Ar putea părea oarecum enigmatic și excesiv de umflat de abrevieri. Versiunea extinsă ar spune că IA centrată pe om este o combinație de IA și principiile designului centrat pe om. Dorim să ne depărtăm de tendința de a concepe IA bazată exclusiv pe precepte centrate pe tehnologie și, în schimb, să încurajăm o preferință centrată pe om.

Acum știi despre ce este HCAI. Trebuie să trecem la o întrebare de altădată.

Putem determina dezvoltatorii AI și liderii companiei lor să adopte metode AI centrate pe om?

Poate ca da poate ca nu.

Amintiți-vă că am subliniat anterior că nu toată lumea este neapărat de acord cu focalizarea centrată pe om în general. Același lucru se poate spune despre includerea specială a celor centrați pe om în domeniul AI. Unii nu respectă pentru că nu știu ce este HCAI. Alții aruncă o privire scurtă asupra HCAI și decid că ar prefera să continue ceea ce fac deja. Aveți, de asemenea, cinici care încearcă să denigreze IA centrată pe om ca fiind unul dintre acele tipuri de abordări sensibile pentru a se simți bine. Acest lucru se adresează adesea acelor tipuri de biți și octeți de tehnologie completă, care ar prefera să fie îmbibate cu tehnologie și să nu se ocupe de ceea ce ei consideră că sunt chestiuni de prisos.

Permiteți-mi un moment să identific de ce IA centrată pe om (HCAI) câștigă putere și devine o parte vitală a oricăror eforturi demonstrative de IA.

S-ar putea să știți că, atunci când ultima eră a AI a început, a existat o explozie uriașă de entuziasm pentru ceea ce unii numesc acum AI pentru bine. Din păcate, în urma acelei emoții țâșnitoare, am început să fim martori AI pentru rău. De exemplu, diferite sisteme de recunoaștere facială bazate pe inteligență artificială au fost dezvăluite ca conținând prejudecăți rasiale și de gen, despre care am discutat la linkul aici.

Eforturile de a lupta împotriva AI pentru rău sunt în desfășurare activă. Pe lângă strigăt legal urmăririle de a controla greșelile, există, de asemenea, un impuls substanțial către îmbrățișarea eticii AI pentru a îndrepta ticăloșia AI. Ideea este că ar trebui să adoptăm și să aprobăm principiile cheie etice ale IA pentru dezvoltarea și implementarea IA, făcând acest lucru pentru a submina AI pentru rău şi concomitent vestirea şi promovarea preferabilului AI pentru bine.

Acoperirea mea extinsă despre AI Ethics și Ethical AI poate fi găsită la acest link aici și acest link aici, Doar pentru a numi câteva.

Dacă probabil ați urmărit îndeaproape când am oferit definiția sau explicația despre Human-Centered Design (HCD), este posibil să fi observat cu atenție această propoziție din fragmentul NIST: „În plus, plasând oamenii în centrul unor astfel de abordări, ei în mod natural. se pretează să se concentreze mai profund asupra unor considerații societale mai mari, cum ar fi corectitudinea, părtinirea, valorile și etica.” Astfel, în cazul IA centrată pe om, putem contribui la introducerea eticii AI și a IA etică în procesul de proiectare și dezvoltare a AI, adoptând cu seriozitate HCAI ca metodologie care merită făcută pentru sistemele AI.

Puteți argumenta oarecum convingător că o mare parte din AI pentru rău acest lucru nu a fost neintenționat s-ar fi putut întâmpla din cauza dezvoltatorilor AI și a liderilor companiei lor care nu au folosit o abordare HCAI. Dacă ar fi făcut acest lucru, șansele sunt crescute că ar fi luat în considerare cu atenție elementele AI etice și ar fi conceput IA să fie adecvată din punct de vedere etic. Aș putea adăuga că acest lucru oferă în mod judicios o două avantaje valoroase, în sensul că, dacă IA astfel concepută este aparent solidă din punct de vedere etic, sunt șanse ca firma și dezvoltatorii săi de AI să evite ca AI-ul lor să acționeze ilegal. Acesta este un beneficiu destul de notabil, deoarece AI care merge prost este probabil să introducă procese împotriva creatorilor și, eventual, chiar să implice urmărirea penală pentru acte criminale (vezi analiza mea la linkul aici a răspunderii penale pentru actorul rău AI).

Să luăm un moment pentru a lua în considerare pe scurt câteva dintre preceptele cheie ale IA etică pentru a ilustra ceea ce ar trebui să fie un accent vital centrat pe om sau HCAI pentru oricine creează, folosește sau folosește AI.

De exemplu, așa cum a afirmat Vaticanul în Apel de la Roma pentru etica IA și după cum am tratat în profunzime la linkul aici, acestea sunt cele șase principii principale de etică a IA identificate:

• Transparență: În principiu, sistemele AI trebuie să fie explicabile
• Includere: Trebuie luate în considerare nevoile tuturor ființelor umane, astfel încât toată lumea să poată beneficia și tuturor indivizilor să li se poată oferi cele mai bune condiții posibile pentru a se exprima și a se dezvolta.
• Responsabilitate: Cei care proiectează și implementează utilizarea AI trebuie să procedeze cu responsabilitate și transparență
• Imparţialitate: Nu creați și nu acționați în funcție de părtinire, salvând astfel corectitudinea și demnitatea umană
• Fiabilitate: Sistemele AI trebuie să poată funcționa în mod fiabil
• Securitate și confidențialitate: Sistemele AI trebuie să funcționeze în siguranță și să respecte confidențialitatea utilizatorilor.

După cum a afirmat Departamentul de Apărare al SUA (DoD) în documentul lor Principii etice pentru utilizarea inteligenței artificiale și după cum am tratat în profunzime la linkul aici, acestea sunt cele șase principii principale ale eticii AI:

• Responsabil: Personalul DoD va exercita niveluri adecvate de judecată și grijă, rămânând în același timp responsabil pentru dezvoltarea, implementarea și utilizarea capabilităților AI.
• Echitabil: Departamentul va lua măsuri deliberate pentru a minimiza părtinirea neintenționată a capabilităților AI.
• Trasabil: Capacitățile AI ale Departamentului vor fi dezvoltate și desfășurate astfel încât personalul relevant să posede o înțelegere adecvată a tehnologiei, proceselor de dezvoltare și metodelor operaționale aplicabile capacităților AI, inclusiv cu metodologii transparente și auditabile, surse de date și proceduri de proiectare și documentație.
• De încredere: Capacitățile AI ale Departamentului vor avea utilizări explicite, bine definite, iar siguranța, securitatea și eficacitatea acestor capacități vor fi supuse testării și asigurării în cadrul acelor utilizări definite de-a lungul întregului ciclu de viață.
• Guvernabil: Departamentul va proiecta și proiecta capabilități AI pentru a-și îndeplini funcțiile preconizate, având în același timp capacitatea de a detecta și de a evita consecințele neintenționate și capacitatea de a dezactiva sau dezactiva sistemele implementate care demonstrează un comportament neintenționat.

Am discutat, de asemenea, despre diferite analize colective ale principiilor de etică AI, inclusiv am acoperit un set conceput de cercetători care a examinat și condensat esența numeroaselor principii naționale și internaționale de etică AI într-o lucrare intitulată „The Global Landscape Of AI Ethics Guidelines” (publicată în Natură), și pe care acoperirea mea îl explorează la linkul aici, care a condus la această listă cheie:

• Transparență
• Justiție și corectitudine
• Non-Malefință
• Responsabilitate
• Privacy
• Beneficiență
• Libertate & Autonomie
• Încredere
• Durabilitate
• Demnitate
• Solidaritate

După cum ați putea ghici direct, încercarea de a stabili specificul care stau la baza acestor principii poate fi extrem de greu de realizat. Cu atât mai mult, efortul de a transforma acele principii largi în ceva complet tangibil și suficient de detaliat pentru a fi folosit la crearea sistemelor AI este, de asemenea, o nucă greu de spart. În general, este ușor să faci câteva semne de mână despre ce sunt preceptele de etică AI și cum ar trebui respectate în general, în timp ce este o situație mult mai complicată în codarea AI, care trebuie să fie adevăratul cauciuc care se întâlnește cu drumul.

Principiile eticii AI trebuie să fie utilizate de dezvoltatorii AI, împreună cu cei care gestionează eforturile de dezvoltare AI și chiar și cei care în cele din urmă activează și realizează întreținerea sistemelor AI. Toate părțile interesate de-a lungul întregului ciclu de viață al dezvoltării și utilizării AI sunt considerate în scopul respectării normelor stabilite ale IA etică. Acesta este un punct important, deoarece presupunerea obișnuită este că „doar codificatorii” sau cei care programează IA sunt supuși aderării la noțiunile de etică AI. Vă rugăm să fiți conștienți de faptul că este nevoie de un sat pentru a concepe și a folosi IA. Pentru care întregul sat trebuie să fie atent la Etica AI.

Pentru a vă oferi o idee despre ceea ce ar putea include o metodologie contemporană de IA centrată pe om, iată câteva puncte semnalate de raportul NIST:

• Definiți termenii și conceptele cheie legate de sistemele AI și domeniul de aplicare al impactului preconizat al acestora
• Abordați utilizarea datelor sensibile sau potențial riscante
• Standarde detaliate pentru proiectarea experimentală, calitatea datelor și formarea modelelor
• Subliniați modul în care riscurile de părtinire ar trebui să fie mapate și măsurate și în conformitate cu ce standarde
• Detaliază procesele pentru testarea și validarea modelului
• Detaliați procesul de revizuire de către funcțiile juridice sau de risc
• Stabiliți periodicitatea și profunzimea auditului și revizuirii în curs
• Prezentați cerințele pentru managementul schimbării
• Detaliați orice planuri legate de răspunsul la incident pentru acest lucru
• Etc

Există o mare varietate de metodologii orientate HCAI disponibile.

Unele dintre ele sunt gratuite și oferite pe bază de tip open-source, în timp ce alte astfel de metodologii sunt licențiate sau vândute celor care doresc să folosească acea variantă. Ca o cutie de ciocolată, trebuie să fii atent la ce metodologie HCAI alegeți să utilizați și ce conține exact. Unele sunt, de exemplu, destinate unor tipuri specifice de sisteme AI, cum ar fi doar pentru cazurile de învățare automată sau de învățare profundă. De asemenea, există metodologii HCAI care sunt bune pentru sistemele AI în timp real, în timp ce altele sunt slabe în acest sens. Vezi discuția mea la acest link aici.

Vă îndemn să selectați cu înțelepciune o metodologie HCAI potrivită și să vă asigurați că o adoptați cu înțelepciune. Nu aruncați doar metodologia HCAI asupra dezvoltatorilor AI nebănuiți. Nu obțineți unul doar pentru a putea bifa pur și simplu că aveți unul. Există o mulțime de modalități de a subtapa și de a otrăvi aproape orice metodologie HACI dacă nu o adopti. Fă ceea ce trebuie, în modul corect.

Fiți atenți și în paralizia analizei în alegerea unei metodologii HCAI. Unele grupuri de inteligență artificială intră în războaie pe teren în legătură cu care metodologia HACI este „cea mai bună” și ajung să depună o cantitate enormă de efort luptă pentru procesul de selecție. Între timp, calul AI este lăsat să iasă din hambar. Mișcare proastă.

În acest moment al acestei discuții, aș paria că sunteți dornic de câteva exemple care ar putea prezenta valoarea adoptării IA centrată pe om (HCAI).

Mă bucur că ai întrebat.

Există un set special și cu siguranță popular de exemple care sunt aproape de inima mea. Vedeți, în calitatea mea de expert în inteligența artificială, inclusiv în ramificațiile etice și juridice, mi se cere frecvent să identific exemple realiste care prezintă dileme de etică a inteligenței artificiale, astfel încât natura oarecum teoretică a subiectului să poată fi înțeleasă mai ușor. Una dintre cele mai evocatoare zone care prezintă în mod viu această dilemă etică a AI este apariția mașinilor cu adevărat autonome bazate pe AI. Acesta va servi ca un caz de utilizare la îndemână sau un exemplu pentru discuții ample pe această temă.

Iată atunci o întrebare demnă de remarcat care merită luată în considerare: Apariția mașinilor autonome bazate pe inteligență artificială iluminează ceva despre IA centrată pe om (HCAI) și, dacă da, ce prezintă acest lucru?

Permiteți-mi un moment să despachetez întrebarea.

În primul rând, rețineți că nu există un șofer uman implicat într-o mașină care se conduce singur. Rețineți că adevăratele mașini cu conducere autonomă sunt conduse printr-un sistem de conducere AI. Nu este nevoie de un șofer uman la volan și nici nu există o prevedere ca un om să conducă vehiculul. Pentru acoperirea mea extinsă și continuă a vehiculelor autonome (AV) și în special a mașinilor cu conducere autonomă, consultați linkul aici.

Aș dori să clarific în continuare ce se înțelege atunci când mă refer la adevăratele mașini cu conducere automată.

Înțelegerea nivelurilor autoturismelor

Ca o clarificare, adevăratele mașini cu conducere automată sunt cele în care AI conduce mașina în întregime singură și nu există asistență umană în timpul sarcinii de conducere.

Aceste vehicule fără șofer sunt considerate Nivelul 4 și Nivelul 5 (vezi explicația mea la acest link aici), în timp ce o mașină care necesită ca un șofer uman să împartă efortul de conducere este de obicei considerată la Nivelul 2 sau Nivelul 3. Mașinile care împart sarcina de conducere sunt descrise ca fiind semi-autonome și, de obicei, conțin o varietate de suplimente automate care sunt denumite ADAS (Sisteme avansate de asistență pentru șofer).

Nu există încă o adevărată mașină care se conduce singur la Nivelul 5 și nici măcar nu știm dacă acest lucru va fi posibil și nici cât timp va dura până acolo.

Între timp, eforturile de la Nivelul 4 încearcă treptat să obțină o anumită tracțiune, trecând prin teste foarte înguste și selective pe drumurile publice, deși există controverse cu privire la faptul dacă aceste teste ar trebui permise în sine (toți suntem cobai pe viață sau pe moarte într-un experiment care au loc pe autostrăzile și drumurile noastre secundare, susțin unii, vezi acoperirea mea la acest link aici).

Deoarece autoturismele semi-autonome necesită un șofer uman, adoptarea acestor tipuri de mașini nu va fi semnificativ diferită de a conduce vehicule convenționale, deci nu există în sine prea multe lucruri care să le acopere în acest sens (totuși, după cum veți vedea într-o clipă, punctele următoare prezentate sunt în general aplicabile).

Pentru mașinile semi-autonome, este important ca publicul să fie anunțat în legătură cu un aspect perturbator care a apărut în ultima vreme, și anume că, în ciuda șoferilor umani care continuă să posteze videoclipuri despre care adorm la volanul unui autoturism de nivel 2 sau nivel 3 , cu toții trebuie să evităm să ne înșelăm crezând că șoferul își poate îndepărta atenția de la sarcina de conducere în timp ce conduce o mașină semi-autonomă.

Sunteți partea responsabilă pentru acțiunile de conducere ale vehiculului, indiferent de cât de multe automatizări ar putea fi aruncate într-un nivel 2 sau 3.

Mașini cu conducere autonomă și IA centrată pe om (HCAI)

Pentru vehiculele cu autovehicul adevărat de nivel 4 și nivel 5, nu va exista un șofer uman implicat în sarcina de conducere.

Toți ocupanții vor fi pasageri.

AI efectuează conducerea.

Un aspect care trebuie discutat imediat presupune faptul că AI implicată în sistemele de conducere AI de astăzi nu este sensibilă. Cu alte cuvinte, AI este cu totul un colectiv de programare și algoritmi pe computer și, cu siguranță, nu este capabil să raționeze în același mod în care oamenii pot.

De ce se pune accentul pe faptul că AI nu este sensibilă?

Pentru că vreau să subliniez că, atunci când discut despre rolul sistemului de conducere AI, nu atribuiesc calități umane AI. Vă rugăm să fiți conștienți de faptul că există o tendință periculoasă și continuă de a antropomorfiza AI în zilele noastre. În esență, oamenii atribuie simțire umană AI-ului de astăzi, în ciuda faptului incontestabil și incontestabil că nu există încă o astfel de AI.

Cu această clarificare, puteți imagina că sistemul de conducere AI nu va „cumva” nativ cumva despre fațetele conducerii. Conducerea și tot ceea ce presupune va trebui să fie programate ca parte a hardware-ului și software-ului mașinii cu conducere automată.

Să ne scufundăm în nenumăratele aspecte care vin să se joace pe acest subiect.

În primul rând, este important să realizăm că nu toate mașinile autonome cu AI sunt la fel. Fiecare producător auto și firmă de tehnologie cu auto-conducere adoptă abordarea sa în conceperea mașinilor care se conduc singur. Ca atare, este dificil să faci declarații cuprinzătoare despre ceea ce vor face sau nu vor face sistemele de conducere AI.

Mai mult, ori de câte ori se afirmă că un sistem de conducere AI nu face ceva anume, acest lucru poate fi, mai târziu, depășit de dezvoltatorii care, de fapt, programează computerul pentru a face chiar acest lucru. Pas cu pas, sistemele de conducere AI sunt îmbunătățite și extinse treptat. O limitare existentă astăzi ar putea să nu mai existe într-o viitoare iterație sau versiune a sistemului.

Am încredere că oferă o litanie suficientă de avertismente pentru a sta la baza a ceea ce urmează să povestesc.

Suntem pregătiți acum să facem o scufundare profundă în mașinile cu conducere autonomă și în valoarea notabilă a Human-Center AI (HCAI).

Să folosim un exemplu simplu. O mașină autonomă bazată pe inteligență este în curs de desfășurare pe străzile din cartierul tău și pare să conducă în siguranță. La început, ai acordat o atenție deosebită de fiecare dată când ai reușit să arunci o privire asupra mașinii care se conduce singur. Vehiculul autonom s-a remarcat prin raftul său de senzori electronici care includeau camere video, unități radar, dispozitive LIDAR și altele asemenea. După multe săptămâni în care mașina cu conducere autonomă se plimbă prin comunitatea ta, acum abia dacă observi. În ceea ce vă privește, este doar o altă mașină pe drumurile publice deja aglomerate.

Ca să nu credeți că este imposibil sau neplauzibil să vă familiarizați cu a vedea mașini cu conducere autonomă, am scris frecvent despre modul în care locurile care fac parte din sfera de încercare a mașinilor cu conducere autonomă s-au obișnuit treptat să vadă vehiculele armonizate. Mulți dintre localnici au trecut în cele din urmă de la gura căscată uimitoare, la acum emitând un căscat expansiv de plictiseală pentru a asista la acele mașini care se conduc singure.

Probabil că motivul principal în acest moment pentru care ar putea observa vehiculele autonome este din cauza factorului de iritare și exasperare. Sistemele de conducere bazate pe inteligență artificială se asigură că mașinile respectă toate limitele de viteză și regulile de circulație. Pentru șoferii umani agitați în mașinile lor tradiționale conduse de oameni, uneori te enervezi când rămâi în spatele mașinilor cu autonomie bazate pe inteligență artificială care respectă strict legea.

Este ceva cu care ar putea fi nevoie să ne obișnuim cu toții, pe drept sau greșit.

Înapoi la povestea noastră.

Se pare că încep să apară o mână de îngrijorări nepotrivite cu privire la mașinile care se conduc singure bazate pe inteligență artificială, altfel inofensive și în general binevenite, în special:

1) Dificultăți de preluare și predare (PUDO).

2) Starea insuficientă a mașinii cu conducere autonomă în vehicul pentru pasageri

3) Confuzie periculoasă pentru pietoni cu privire la intențiile sistemului de conducere AI

4) Îngrijorări cu privire la intruziunile de confidențialitate din cauza mașinilor care se conduc singure

5) Neclarități etice cu privire la conducerea cu inteligență artificială, conform infamei Probleme Troley

Vom arunca o privire atentă asupra fiecăruia dintre acești factori. Fiecare dintre ele reprezintă unele dintre cele mai dificile lupte pentru extinderea continuă a probelor de mașini cu conducere autonomă. Pentru a clarifica, cea mai mare provocare este să ne asigurăm că mașina cu conducere autonomă merge în siguranță de la punctul A la punctul B. Aceste provocări suplimentare menționate mai sus sunt pe deasupra acelui set de provocări de bază sau fundamentale.

După cum va deveni ușor evident, cele cinci probleme enunțate sunt integral legate de noțiunea cheie a designului centrat pe om. În acest sens, ele arată importanța atenției pentru IA centrată pe om (HCAI).

#1: Dificultăți de preluare și predare (PUDO).

Când utilizați un serviciu de partajare condus de oameni, singurul lucru pe care presupuneți că se va desfășura corect presupune să fiți preluat pentru călătorie într-un loc convenabil și, de asemenea, să fiți lăsat la destinația potrivită când călătoria este finalizată (acest lucru este cunoscut de către acronim la îndemână pentru PUDO). Acest lucru poate fi mult mai complicat decât pare. Dacă stai la o bordură roșie, ar trebui șoferul uman să meargă înainte și să se oprească acolo să te ia? Rețineți că legea prevede de obicei că nu este permisă oprirea la bordura roșie.

Uneori, locul „convenient” pentru a fi preluat nu este neapărat convenabil pentru șoferul vehiculului. Sunt sigur că ați traversat o stradă ocazional pentru a încerca să vă fie mai ușor pentru un șofer de partajare. Poate apărea un tip de dans prin care încerci să te apropii de mașină și șoferul încearcă să se apropie de oriunde te-ai afla.

Pentru multe dintre firmele care creează sisteme de conducere AI, întreaga problemă a ridicării și predarii potrivite a fost retrogradată la o prioritate relativ scăzută pe lista lucrurilor de făcut.

Dezvoltatorii de inteligență artificială s-au gândit, în general, că un pasager uman ar trebui să se îndrepte întotdeauna către mașina cu conducere autonomă. Este sarcina pasagerului să facă acest lucru. Sistemul de conducere AI nu trebuie să fie preocupat de PUDO. Doar apropie-te suficient și atât. În acest mod de gândire, locațiile de preluare și de predare nu au nimic de-a face cu chestiuni precum vremea nefavorabilă (când plouă, PUDO s-a adaptat adesea în consecință) sau situațiile din trafic (poate că alte mașini trec pe lângă și potențialul pasagerul trebuie să se arunce în calea vătămării) și așa mai departe.

Șoferii umani nu au de obicei această mentalitate. Își dau seama că nu vor primi un bacșiș în bani sau ar putea primi un scor de rating greșit dacă nu fac ceva serios pentru a-l face pe pasager să aibă un PUDO relativ convenabil. Încercarea de a ajunge într-un loc util poate fi o abilitate crucială de conducere. Acest lucru promovează, de asemenea, siguranța, în sensul că, dacă pasagerul este îndemnat cu nerăbdare să ajungă cu disperare la mașina care se conduce singur, unii oameni fac alegeri neînțelepte și pot fi afectați de tot felul de trafic care intervine.

În cazul mașinilor autonome AI și al sistemelor de conducere AI care nu fac o treabă robustă a PUDO, ați putea spune că acest lucru demonstrează o lipsă de concentrare centrată pe om din partea dezvoltatorilor AI. Se pare că au ridicat din umeri de la fațetele de preluare și de depunere. Acesta este tipul de mentalitate pe care o perspectivă tradițională centrată pe tehnologie l-ar putea aduna. Faceți oamenii să vină la mașină, mai degrabă decât mașina să meargă la oameni.

Problema rezolvată, techie-ul ar putea indica cu bucurie și apoi să se spele pe mâini de toată afacerea.

Pentru a fi corect, aceasta nu este singura bază pentru lipsa unui focus fervent PUDO. Energia dezvoltatorilor AI care construiesc sisteme de conducere AI a fost dedicată pentru a se asigura că o mașină cu conducere autonomă poate merge în siguranță de la punctul A la punctul B. Fără această capacitate, nimic altceva nu contează. Acestea fiind spuse, oricine este rănit sau deranjat în mod demonstrabil din cauza unui PUDO prost al unui efort în devenire al unei mașini autonome este probabil să facă zgomote foarte mediatizate, iar reacția societății ar putea fi extrem de adversă. Ar exista, fără îndoială, tehnicieni AI care s-ar plânge că oricărei reacții de acest gen ratează isprava importantă de a conduce AI în siguranță de la punctul A la punctul B. Ar fi un zgomot că publicul lasă coada să dea câinele. Poate că da, dar reacțiile societății pot semnifica noroc sau un dezavantaj total pentru mașinile care se conduc singure în plină dezvoltare.

Pentru acoperirea mea în profunzime a acestor tipuri de probleme subtile, dar în cele din urmă, cele mai importante, despre vehiculele autonome, consultați discuția mea la linkul aici care oferă punctele importante ale unui studiu pe care l-am coautor cu un membru al facultății de la Harvard.

#2: Stare insuficientă a mașinii cu conducere autonomă în vehicul pentru pasageri

Un șofer uman poate fi o pisică vorbăreț. Vreau să spun că unii șoferi de partajare vorbesc continuu pe parcursul unei călătorii. Nu toți pasagerii le place asta. Unii vor pace și liniște. Alții le place să aibă un pic de glume plăcute.

Un aspect al unui șofer uman este că aproape sigur îi poți adresa șoferului întrebări despre acțiunile de conducere întreprinse. De ce a luat șoferul atât de repede la dreapta? De ce șoferul nu merge mai repede? Înțelegi ideea.

Presupunerea unor dezvoltatori de inteligență artificială a fost că pasagerul unei mașini cu conducere autonomă va intra doar în vehiculul autonom și apoi va fi la fel de tăcut ca un mouse. Nu este nevoie ca AI să interacționeze cu pasagerul. Pasagerii nu sunt altceva decât un bulgăre de lut. Ei stau în mașină și sunt duși la destinație. Sfarsitul povestii.

Spre surprinderea unor producători de automobile și a unor firme de tehnologie cu auto-conducere, aceștia au aflat că pasagerii vor să știe ce se întâmplă. Abordarea minimală presupune a avea un ecran LED care afișează traseul mașinii care se conduce singur. Totuși, acest lucru nu ajută în mod special la tratarea unor aspecte precum motivul pentru care a fost făcută o viraj rapidă sau de ce mașina încetinește. Sigur, mesajele electronice pot fi afișate, dar există puțină interacțiune sau deloc permisă între AI și pasageri.

Încă o dată, ați putea interpreta asta ca o problemă de dezvoltare a IA centrată pe om. Presupunerea că pasagerii sunt asemănătoare cu o valiză sau cu o cutie de livrare este un punct de vedere centrat pe tehnologie. Oamenii sunt oameni. Dacă intenționați să transportați oameni, trebuie să îi faceți să se simtă confortabil și să răspundă la întrebările lor. O soluție rapidă pentru unele operațiuni cu mașini cu conducere autonomă este de a avea o conexiune vocală la bord cu un agent uman într-o zonă îndepărtată care monitorizează mașinile flotei. Acest lucru are numeroase dezavantaje, așa cum am analizat pe larg la linkul aici.

#3: Confuzie periculoasă pentru pietoni în ceea ce privește intențiile sistemului de conducere AI

Imaginează-ți că mergi nonșalant pe trotuar și dorești să traversezi strada. Observați că o mașină vine pe stradă spre tine. Lucrul obișnuit pe care l-ai face este să te uiți la șoferul uman. Șoferul mă vede? Șoferul se uită în altă parte? Se uită la un videoclip cu pisici și nu acordă atenție drumului?

Problema cu mașinile care se conduc singure este că nu există un șofer uman. Ei bine, cred că ai putea spune că este un plus, permițându-ne să scăpăm de conducerea în stare de ebrietate și alte comportamente rătăcite ale condusului uman. Dar când vine vorba de a afla ce va face o mașină, de obicei încerci să vezi ce face șoferul (prin capul, ochii, poziția generală etc.).

Când nu există un șofer pe scaunul șoferului, de unde știi ce va face o mașină? Sunteți absent de indiciile obișnuite. Unii producători de automobile și firme de tehnologie cu auto-conducere nu au calculat în mod special această problemă în eforturile lor de proiectare. În mintea lor, sistemul de conducere AI ar conduce întotdeauna în siguranță și în mod legal. Ce altceva trebuie făcut?

Ai putea argumenta că acesta este încă un exemplu de viziune asupra lumii centrată pe tehnologie versus o perspectivă centrată pe om. Dacă credeți că oamenii vor acorda pur și simplu mașinilor cu conducere autonomă dreptul de trecere în orice moment, poate că nu contează că sunt necesare indicii de acțiune direcțională ale unui șofer uman. Pe de altă parte, în lumea reală, trebuie furnizat ceva.

După cum am examinat la linkul aici, se încearcă numeroase propuneri, cum ar fi punerea pe capota mașinilor autonome a becurilor speciale care să se aprindă și să arate în direcția către care se îndreaptă vehiculul autonom. O altă noțiune este că dispozitivele specializate vor recunoaște pietonului că sunt văzute de sistemul de conducere AI. Sunt explorate tot felul de opțiuni sensibile, inclusiv uneori abordări ciudate.

#4: Îngrijorări cu privire la intruziunile de confidențialitate din cauza mașinilor care se conduc singure

Am avertizat în mod repetat cu privire la potențialul masiv al intruziunilor de confidențialitate din cauza apariției mașinilor cu conducere autonomă. Nimeni nu acordă prea multă atenție problemei în acest moment, deoarece încă nu a apărut ca o problemă realizată. Vă asigur că, în cele din urmă, va fi o problemă uriașă, una pe care am etichetat-o ​​drept „ochiul rătăcitor” al mașinilor cu conducere autonomă (vezi linkul aici).

Primul tău gând ar putea fi că, cu siguranță, este vorba doar despre confidențialitatea pasagerilor. Inteligența artificială ar putea monitoriza ce fac piloții în timp ce se află într-o mașină care se conduce singur. Sigur, asta este o preocupare clară. Dar aș spune că palidează în comparație cu reținerea mai puțin evidentă care are ramificații și mai mari.

Simplu spus, senzorii mașinii cu conducere autonomă colectează tot felul de date pe măsură ce vehiculele autonome se plimbă pe drumurile noastre publice. Surprinde ceea ce se întâmplă pe gazonul din față a caselor noastre. Surprinde ceea ce fac oamenii atunci când merg dintr-un loc în altul. Afișează când ați intrat într-o unitate și când ați părăsit-o. Aceste date pot fi încărcate cu ușurință în cloud-ul operatorului de flotă. Operatorul de flotă ar putea apoi să conecteze aceste date și să aibă, în esență, detaliile vieții noastre de zi cu zi care apar în aer liber și în comunitatea noastră.

Se pare că nu ne pasă de acel potențial de intruziune a confidențialității în acest moment, deoarece există doar câteva mașini cu conducere autonomă care sunt încercate în relativ puține localități. Într-o zi, vom avea sute de mii sau milioane de mașini autonome care traversează toate orașele și orașele noastre majore. Viața noastră zilnică în aer liber va fi înregistrată non-stop, 24×7 și putem fi urmăriți în consecință.

Un dezvoltator AI centrat pe tehnologie ar minimiza probabil acest lucru. Ei ar sugera că tot ceea ce fac este să implementeze tehnologia AI. Altcineva trebuie să-și facă griji cu privire la modul în care va fi utilizată tehnologia.

În schimb, o perspectivă centrată pe om ar fi deja înțelegând cum va fi tratată această gigantică bombă cu ceas care ține confidențialitatea. Mai bine mai devreme decât mai târziu. Este încă un motiv bun pentru a avea IA centrată pe om (HCAI) în amestecul de lucruri.

# 5: Neclarități etice despre conducerea prin inteligență artificială în conformitate cu problema infama a căruciorului

Acest ultim punct este puțin complex. Îl voi scurta și vă încurajez să luați în considerare analiza mea îndelungată la linkul aici. Pe scurt, atunci când conduci o mașină sau mergi pur și simplu ca pasager într-o mașină, ești mereu în pericol cu ​​privire la ceea ce se întâmplă cu mașina. Mașina ar putea fi lovită de o altă mașină. Mașina s-ar putea să intre într-un stâlp. Se pot întâmpla tot felul de lucruri rele.

Cum decide un șofer uman ce acțiuni de conducere să întreprindă?

De exemplu, exemplul meu preferat a fost un caz relatat în știri. Un șofer uman intra în mod legal într-o intersecție când o altă mașină a trecut pe roșu și venea periculos spre mașina permisă legal. Șoferul le-a spus reporterilor că trebuie să ia o decizie grea. El ar putea continua și probabil să fie izbit de mașina intrusă, posibil să fie ucis în acest proces sau, cu siguranță, rănit grav. Sau își putea îndrepta mașina departe de coliziunea anticipată, dar erau pietoni în apropiere. Erau șanse mari să lovească sau să omoare unii dintre pietoni. Făcând acest lucru, probabil că i-ar cruța viața.

Ce-ai face?

Chestia este că ne confruntăm cu aceste dileme de conducere tot timpul. Nu ne gândim mai ales la ele până când lucrurile nu merg prost. Vă asigur că fiecare șofer în orice moment este implicat mental în a decide ce acțiuni de conducere să întreprindă. Viața lor depinde de asta. Viața pasagerilor din vehiculul lor depinde de asta. De asta depinde viața celorlalți șoferi și pasageri din mașinile din apropiere. De asta depind și pietonii, bicicliștii și alții.

Aduc în discuție acest lucru din cauza unei întrebări simple, dar extrem de dificil de răspuns.

Ce ar trebui să facă AI atunci când se confruntă cu decizii de conducere pe viață sau pe moarte?

Dacă ați fi pasager într-o mașină cu conducere autonomă care se afla în mijlocul unei intersecții și o mașină condusă de oameni trecea pe roșu, ce doriți să facă sistemul de conducere AI? Ar trebui AI să încerce să evite lovirea și totuși, eventual, să tundă un grup de pietoni? Sau AI nu ar trebui să ia nicio măsură specială și să permită doar vehiculului autonom să fie lovit? Aceste tipuri de dileme etice sunt adesea descrise în contextul unui experiment de gândire faimos cunoscut sub numele de Problema căruciorului (vezi linkul aici).

În prezent, nu mulți iau problema căruciorului cu vreo seriozitate. În general, majoritatea sistemelor de conducere AI nu încearcă încă să evalueze acțiunile de conducere evazive. Chiar dacă AI face acest lucru, există o întrebare deschisă și agonizantă cu privire la modul în care AI ar trebui să fie programată pentru a lua aceste decizii etice provocatoare.

O perspectivă centrată pe tehnologie ar tinde să spună că nu vă faceți griji până când nu devine o problemă conștientă de societate. Continuați să produceți o mulțime de cod AI și vedeți ce se întâmplă în continuare.

Un punct de vedere centrat pe om ar afirma probabil că trebuie să trecem peste această chestiune. Totuși, aceasta nu este o chestiune care poate fi decisă de fiecare producător auto și firmă de tehnologie de conducere autonomă. Este nevoie de un accent mai mare asupra societății pentru un mijloc general de a descoperi acest lucru.

Concluzie

Dezvoltatorii dietici de AI sunt adesea sceptici cu privire la ceea ce ei consideră a fi mofturi sau prostii pufoase. Am avut mulți tehnicieni AI care mi-au pus o întrebare strict dură și clară pe un ton trufaș și îndoielnic cu privire la acest interes în creștere pentru IA centrată pe om (HCAI).

Ei intreaba asta: Unde este carnea de vită în HCAI?

Răspunsul meu este că carnea, cartofii și desertul se regăsesc în conștientizarea faptului că o abordare centrată pe om a IA ne va oferi o șansă sporită ca IA să fie un succes și să devină o contribuție omniprezentă pentru societate în general. Cei care doresc, în schimb, să se aplece și să rămână înfundați într-o abordare centrată exclusiv pe tehnologie, sunt probabil să descopere că IA pe care o creează este cu totul problematică, iar societatea se va enerva cu adevărat de asta. Capetele se vor rostogoli. AI ar putea fi respinsă ca o minune tehnologică și ar putea deveni un proscris răufăcător.

Votez cu voce tare pentru unele gânduri centrate pe om pentru a fi centrat pe om când vine vorba de AI.