Etica AI Luptă cu pasiune pentru dreptul tău legal de a fi o excepție

Ei spun că există o excepție de la fiecare regulă.

Problema este însă că, de multe ori, regula permanentă prevalează și există puțină sau deloc permisiunea ca o excepție să fie recunoscută sau întreținută. Cazul mediu este folosit în ciuda posibilității stridente ca o excepție să fie în prim-plan. O excepție nu are timp de antenă. Nu are șansa să fie luată în considerare în mod corespunzător.

Sunt sigur că trebuie să știi despre ce vorbesc.

Ați încercat vreodată să obțineți un fel de serviciu personalizat pentru clienți prin care ați fost tratat fără minte, fără nicio distincție pentru cazul dvs. particular și nevoile dvs. specifice?

Acest lucru ți s-a întâmplat fără îndoială, probabil de nenumărate ori.

Vă voi ghida printr-o tendință tulburătoare care apare despre modul în care Inteligența Artificială (AI) este concepută fără încetare pentru a forța să încadreze totul în paradigma unică.

Excepțiile fie nu sunt detectate, fie au optat pentru a fi îndoite ca și cum nu ar fi deloc excepții. Baza de stimulare a acestui lucru se datorează parțial apariției Machine Learning (ML) și Deep Learning (DL). După cum veți vedea în scurt timp, ML/DL este o formă de potrivire a modelelor de calcul, care este „mai ușor” de dezvoltat și implementat dacă sunteți dispus să ignorați sau să evitați excepțiile. Acest lucru este foarte problematic și ridică preocupări puternice de etică AI. Pentru acoperirea mea generală în curs de desfășurare și extinsă a eticii AI și IA etică, consultați linkul aici și linkul aici, Doar pentru a numi câteva.

Lucrurile nu trebuie să fie așa și vă rog să știți că acest lucru este încurajat de cei care fac și implementează AI, alegând să ignore sau să minimizeze gestionarea excepțiilor în combinațiile lor de AI.

Când Regulă Excepțiile

Să despachetăm mai întâi natura cazului mediu versus realizarea excepțiilor.

Exemplul meu preferat de acest tip de abordare fără excepții în cazuri medii din punct de vedere miopic este iluminat viu de aproape orice episod din serialul TV apreciat și încă extrem de popular cunoscut sub numele de House, MD (de obicei doar exprimat ca casă, care a rulat din 2004 până în 2012 și poate fi vizionat astăzi pe rețelele de socializare și alte instituții media). Spectacolul a implicat un personaj fictiv pe nume Dr. Gregory House, care era burlan, insuportabil și destul de neconvențional, dar el a fost portretizat ca un geniu medical care putea descoperi cele mai obscure dintre boli și afecțiuni. Alți medici și chiar pacienți s-ar putea să nu-l fi plăcut neapărat, dar și-a făcut treaba.

Iată cum s-a desfășurat un episod tipic (alertă generică de spoiler!).

Un pacient apare la spitalul unde Dr. House face parte din personal. Pacientul prezintă inițial simptome oarecum comune și diverși alți medici își iau rândul încercând să diagnosticheze și să vindece pacientul. Lucrul ciudat este că încercările de a ajuta pacientul fie nu reușesc să îmbunătățească condițiile adverse, fie, mai rău, tind să se răstoarne. Pacientul devine din ce în ce mai rău.

Pentru că pacientul este văzut acum ca un fel de curiozitate medicală și, din moment ce nimeni altcineva nu își poate da seama de ce suferă pacientul, dr. House este adus în caz. Uneori, acest lucru este făcut intenționat pentru a profita de priceperea sa medicală, în timp ce în alte cazuri el aude despre caz și instinctele sale înnăscute îl atrag către circumstanțe neobișnuite.

Treptat aflăm că pacientul are o boală extrem de rară. Doar Dr. House și echipa sa de stagiari medicali sunt capabili să-și dea seama.

Acum că v-am împărtășit povestea principală a episoadelor, haideți să ne aprofundăm în lecțiile învățate care ilustrează natura cazului mediu versus excepții.

Poveștile fictive sunt concepute pentru a arăta modul în care gândirea din interiorul cutiei poate uneori să rateze cu greu marcajul. Toți ceilalți medici care încearcă la început să ajute pacientul sunt întunecate în procesele lor de gândire. Ei vor să forțeze simptomele și fațetele prezentate într-un diagnostic medical convențional. Pacientul este doar unul dintre multele pe care probabil le-au văzut înainte. Examinați pacientul și apoi prescrieți aceleași tratamente și soluții medicale pe care le-au folosit în mod repetat de-a lungul carierei medicale.

Spălați, clătiți, repetați.

Într-un sens, puteți justifica această abordare. Şansele sunt că majoritatea pacienţilor vor avea cele mai frecvente afecţiuni. Zi de zi, acești medici se confruntă cu aceleași probleme medicale. Ai putea sugera că pacienții care intră în spital se află într-adevăr pe o linie de asamblare medicală. Fiecare curge de-a lungul protocoalelor standardizate ale spitalului ca și cum ar fi părți ale unei unități de producție sau fabrici de asamblare.

Cazul mediu prevalează. Acest lucru nu numai că este potrivit în general, dar permite și spitalului și personalului medical să își optimizeze serviciile medicale în consecință. Costurile pot fi reduse atunci când concepeți procesele medicale pentru a gestiona cazul mediu. Există un sfat destul de faimos care adeseori în mintea studenților la medicină, și anume că, dacă auziți zgomote de copite care vin de pe stradă, șansele sunt că ar trebui să vă gândiți mai degrabă la un cal decât la o zebră.

Eficient, productiv, eficient.

Până când o excepție se strecoară în mijloc.

Poate că o zebră de la grădina zoologică a scăpat și a rătăcit pe strada ta.

Înseamnă asta că excepțiile ar trebui să fie regula și ar trebui să renunțăm la regula cazului mediu în loc să ne concentrăm exclusiv pe excepții?

Ai fi greu să afirmi că toate întâlnirile și serviciile noastre de zi cu zi ar trebui să se concentreze mai degrabă pe excepții decât pe cazul mediu.

Rețineți că nu fac o astfel de sugestie. Ceea ce susțin este că ar trebui să ne asigurăm că sunt permise excepții și că trebuie să recunoaștem când apar excepții. Menționez acest lucru pentru că unii experti sunt predispuși să proclame cu voce tare că, dacă sunteți un susținător al recunoașterii excepțiilor, trebuie să vă opuneți gândirii pentru cazul mediu.

Este o falsă dihotomie.

Nu te îndrăgosti de asta.

Putem să ne luăm prăjitura și să o mâncăm și noi.

Aducerea cazului pentru un drept de a fi o excepție

În continuare, voi oferi probabil un pic de șoc care leagă toate acestea de utilizarea în creștere a AI.

Sistemele AI sunt din ce în ce mai dezvoltate pentru a se concentra asupra cazului mediu, adesea în excluderea sau în detrimentul recunoașterii excepțiilor.

S-ar putea să fii surprins să știi că asta se întâmplă. Cei mai mulți dintre noi ar presupune că, deoarece AI este o formă de automatizare a computerului, frumusețea automatizării lucrurilor este că de obicei puteți încorpora excepții. Acest lucru se poate face de obicei la un cost mai mic decât dacă ați folosi forță umană pentru a efectua un serviciu similar. Cu forța umană, ar putea fi costisitor sau prohibitiv să existe tot felul de forță de muncă disponibilă care poate face față excepțiilor. Lucrurile sunt mult mai ușor de gestionat și pus în aplicare dacă poți presupune că clienții tăi sunt toți de calibre medii. Dar utilizarea sistemelor computerizate ar trebui să găzduiască excepții, cu ușurință. În acest mod de a gândi, ar trebui să aclamam cu tărie pentru ca capabilități mai computerizate să vină în prim-plan.

Consideră asta ca pe o enigmă uluitoare și ia-ți un moment pentru a reflecta la această întrebare enervantă: Cum poate AI, care altfel se presupune că este cea mai bună automatizare, aparent inexorabil, să meargă pe calea rutinizată și fără excepții pe care, în mod ironic sau neașteptat, ne-am imaginat că va merge exact în direcția opusă?

Răspuns: Învățarea automată și învățarea profundă ne duc totuși într-o existență fără excepție nu pentru că trebuie să luăm în mod obligatoriu acel drum (putem face mai bine).

Să despachetăm asta.

Să presupunem că decidem să folosim Machine Learning pentru a crea IA care va fi folosită pentru a stabili diagnostice medicale. Colectăm o mulțime de date istorice despre pacienți și circumstanțele lor medicale. ML/DL pe care l-am creat încearcă să întreprindă o potrivire a modelelor de calcul care va examina simptomele pacienților și va genera o afecțiune așteptată asociată cu acele simptome.

Pe baza datelor furnizate, ML/DL constată matematic simptomele precum nasul curgător, durerea în gât, durerile de cap și durerea sunt toate strâns asociate cu răceala comună. Un spital optează să folosească acest AI pentru a face screening-ul prealabil al pacienților. Destul de sigur, pacienții care raportează acele simptome la prima venire la spital sunt „diagnosticați” ca având probabil o răceală comună.

Schimbând vitezele, să adăugăm un fel de întorsătură Dr. House la toate acestea.

Un pacient vine la spital și este diagnosticat de AI. AI indică faptul că pacientul pare să aibă o răceală comună pe baza simptomelor de nas curgător, dureri în gât și dureri de cap. Pacientului i se dau rețete aparent adecvate și sfaturi medicale pentru a face față unei răceli obișnuite. Toate acestea sunt parte integrantă a abordării de caz mediu utilizată la conceperea AI.

Se pare că pacientul ajunge să aibă aceste simptome timp de câteva luni. Un expert în boli și alimente rare realizează că aceleași simptome ar putea reflecta o scurgere de lichid cefalorahidian (LCR). Expertul tratează pacientul cu diverse proceduri chirurgicale legate de astfel de scurgeri. Pacientul își revine (apropo, această poveste remarcabilă despre un pacient cu o scurgere de LCR care a fost diagnosticată inițial ca având o răceală comună se bazează vag pe un caz medical real).

Acum ne vom întoarce pe pașii noștri în această saga medicală.

De ce AI care făcea pre-screeningul de admisie nu a putut evalua că pacientul ar putea avea această boală rară?

Un răspuns este că, dacă datele de antrenament utilizate pentru crearea ML/DL nu ar conține astfel de instanțe, nu ar exista nimic în care să se potrivească potrivirea modelului de calcul. Având în vedere absența datelor care să acopere excepțiile de la regulă, regula generală sau cazul mediu în sine va fi considerat ca aparent fără pată și aplicat fără nicio ezitare.

O altă posibilitate este că a existat, să zicem, o instanță a acestei scurgeri rare de LCR în datele istorice, dar a fost doar o singură instanță particulară și, în acest sens, o valoare anormală. Restul datelor au fost toate matematic apropiate de cazul mediu constatat. Apare apoi întrebarea ce trebuie făcut cu așa-numitul outlier.

Vă rugăm să fiți conștienți de faptul că abordarea acestor valori aberante este o chestiune care diferă foarte mult în ceea ce privește modul în care dezvoltatorii AI ar putea decide să se confrunte cu apariția a ceva în afara cazului mediu determinat. Nu există nicio abordare obligatorie pe care dezvoltatorii AI sunt obligați să o adopte. Este un pic un Vest sălbatic în ceea ce privește ceea ce ar putea face un anumit dezvoltator AI în orice instanță dată de ridicare a excepțiilor din eforturile lor de dezvoltare ML/DL.

Iată lista mea cu moduri în care aceste excepții sunt adesea necorespunzător tratat:

• Excepție presupusă ca o eroare
• Excepție considerată nedemnă
• Excepție presupusă ca ajustabilă în „normă”
• Excepție deloc observată
• Excepție observată, dar sumar ignorată
• Excepție observată și apoi uitată
• Excepție observată și ascunsă vederii
• Etc

Un dezvoltator AI ar putea decide că raritatea nu este altceva decât o eroare a datelor. Acest lucru ar putea părea ciudat că oricine ar gândi în acest fel, mai ales dacă încercați să o umanizați, de exemplu, imaginându-vă că pacientul cu scurgerea LCR este acel exemplu. Există totuși o tentație puternică că, dacă toate datele tale în afara contextului spun în principiu un singur lucru, constând probabil din mii și mii de înregistrări și toate converg către un caz mediu, apariția unei date ciudate poate ușor (lene!) să fie interpretată ca o eroare totală. „Eroarea” ar putea fi apoi eliminată de către dezvoltatorul AI și să nu fie luată în considerare în domeniul pe care ML/DL este antrenat.

Un alt mijloc de a face față unei excepții ar fi să decideți că este o chestiune nedemnă. De ce să vă deranjați cu o raritate când vă grăbiți să puneți în funcțiune un ML/DL? Aruncă valorile aberante și mergi mai departe. Niciun gând nu se îndreaptă neapărat către repercusiunile pe drum.

Încă o altă abordare implică împărțirea excepției în restul mediului mediu. Dezvoltatorul AI modifică datele pentru a se potrivi cu restul normei. Există, de asemenea, șansa ca dezvoltatorul AI să nu observe că există excepția.

ML/DL ar putea raporta că a fost detectată o excepție, iar apoi dezvoltatorul AI ar trebui să-l instruiască pe ML/DL despre modul în care trebuie tratat matematic valoarea anormală. Dezvoltatorul AI ar putea să pună acest lucru pe o listă de lucruri de făcut și mai târziu să uite să facă față sau ar putea opta pur și simplu să îl ignore și așa mai departe.

Per total, detectarea și soluționarea abordării excepțiilor atunci când vine vorba de AI nu are nicio abordare în sine stipulată în mod convingător sau echilibrată și motivată. Excepțiile sunt adesea tratate ca niște proscriși nedemni, iar cazul mediu este câștigătorul predominant. A face față excepțiilor este greu, poate consuma mult timp, necesită o aparență de abilități de dezvoltare a inteligenței artificiale și, în rest, este o bătaie de cap în comparație cu a strânge lucrurile într-un papion elegant dintr-un pachet de mărime unică.

Într-o anumită măsură, acesta este motivul pentru care Etica AI și IA etică sunt un subiect atât de crucial. Preceptele eticii AI ne fac să rămânem vigilenți. Tehnologii AI pot deveni uneori preocupați de tehnologie, în special de optimizarea tehnologiei înalte. Ei nu iau în considerare neapărat ramificațiile societale mai mari.

Pe lângă utilizarea preceptelor de etică AI în general, există o întrebare corespunzătoare dacă ar trebui să avem legi care să guverneze diferitele utilizări ale AI. Sunt puse în aplicare noi legi la nivel federal, statal și local care privesc gama și natura modului în care ar trebui concepută IA. Efortul de a elabora și a adopta astfel de legi este unul gradual.

În această discuție specială despre rolul excepțiilor vine un punct de vedere provocator conform căruia poate ar trebui să existe un drept legal asociat cu a fi o excepție. S-ar putea ca singurul mijloc viabil de a obține recunoașterea de bună credință pentru cineva care ar putea fi o excepție presupune utilizarea brațului lung al legii.

Introduceți un nou tip de drept al omului.

Dreptul de a fi considerat o excepție.

Luați în considerare această propunere: „Dreptul de a fi o excepție nu implică faptul că fiecare individ is o excepție, dar atunci când o decizie poate aduce prejudicii subiectului deciziei, decidentul ar trebui să ia în considerare posibilitatea ca subiectul Mai fi o excepție. Dreptul de a fi o excepție implică trei ingrediente: rău, individualizare, și incertitudine. Factorul de decizie trebuie să aleagă să provoace prejudicii numai atunci când a luat în considerare dacă decizia este individualizată în mod corespunzător și, în mod crucial, incertitudinea care însoțește componenta bazată pe date a deciziei. Cu cât riscul de vătămare este mai mare, cu atât considerația este mai serioasă” (de Sarah Cen, într-o lucrare de cercetare intitulată Dreptul de a fi o excepție în procesul decizional bazat pe date, MIT, 12 aprilie 2022).

Ai putea fi tentat să presupunem că avem deja un astfel de drept.

Nu neaparat. Potrivit lucrării de cercetare, cel mai apropiat drept al omului recunoscut la nivel internațional ar putea fi cel al demnității individuale. În teorie, noțiunea că ar trebui să existe o recunoaștere a demnității, astfel încât un individ și unicitatea lor specifică ar trebui să fie cuprinse, te duce în pragul unui potențial drept uman de excepție. O scuză este că se spune că legile existente care guvernează domeniul demnității sunt oarecum nebuloase și excesiv de maleabile, astfel că nu sunt bine adaptate la construcția juridică specifică a dreptului de excepție.

Cei care sunt în favoarea unui nou drept care constă într-un drept al omului de a fi o excepție ar argumenta că:

• Un astfel de drept i-ar forța din punct de vedere legal pe dezvoltatorii AI să facă față în mod explicit excepțiilor
• Firmele care produc inteligență artificială ar fi mai legal pe piață pentru că nu se ocupă de excepții
• AI ar fi probabil mai bine echilibrat și mai robust în ansamblu
• Cei care folosesc AI sau supuși AI ar fi mai bine
• Atunci când AI nu acceptă excepții, recursul legal ar fi ușor fezabil
• Creatorii de inteligență artificială vor fi și ei mai bine (AI lor ar acoperi o gamă mai largă de utilizatori)
• Etc

Cei care se opun unui nou drept etichetat drept drept al omului de a fi o excepție tind să spună:

• Drepturile omului și drepturile legale existente acoperă suficient acest lucru și nu este nevoie să complicăm lucrurile
• O povară nejustificată ar fi pusă pe umerii producătorilor de inteligență artificială
• Eforturile de a crea AI ar deveni mai costisitoare și tind să încetinească progresul AI
• Ar apărea așteptări false că toată lumea ar cere să fie o excepție
• Dreptul în sine ar fi, fără îndoială, supus unor interpretări diferite
• Cei care câștigă cel mai mult vor fi profesia de avocat când cauzele juridice vor crește vertiginos
• Etc

Pe scurt, opoziția față de un astfel de drept nou susține, de obicei, că acesta este un joc cu sumă zero și că un drept legal de a fi o excepție va costa mai mult decât ar obține în mod benefic. Cei care cred că un astfel de drept nou este necesar în mod rezonabil sunt predispuși să sublinieze că acesta nu este un joc cu sumă zero și că, în cele din urmă, toată lumea beneficiază, inclusiv cei care fac AI și cei care folosesc AI.

Puteți fi sigur că această dezbatere care cuprinde implicații legale, etice și societale asociate cu inteligența artificială și excepțiile va fi puternică și persistentă.

Mașinile care se conduc singure și importanța excepțiilor

Luați în considerare modul în care acest lucru se aplică în contextul sistemelor autonome, cum ar fi vehiculele autonome și mașinile cu conducere autonomă. Au existat deja diverse critici cu privire la modul mediu de gândire al dezvoltării AI pentru mașinile cu conducere autonomă și vehiculele autonome.

De exemplu, la început, foarte puține modele de mașini cu conducere autonomă s-au adaptat celor care au o anumită formă de dizabilități fizice sau deficiențe. Nu s-a gândit prea mult la o gamă mai largă de nevoi pentru călăreți. În general, această conștientizare a crescut, deși sunt încă exprimate preocupări cu privire la faptul că acest lucru este suficient de departe și la fel de larg îmbrățișat cum ar trebui.

Un alt exemplu de caz mediu versus o excepție are de-a face cu ceva care te-ar putea prinde neprevăzut.

Eşti gata?

Proiectarea și implementarea multor sisteme de conducere AI și a mașinilor cu conducere autonomă de astăzi tind să facă o presupunere tăcută sau nespusă că adulții vor merge cu mașina cu conducere autonomă. Știm că atunci când un șofer uman se află la volan, în vehicul se află, desigur, un adult, prin definiție, deoarece, de obicei, obținerea unui permis de conducere se bazează pe a fi adult (bine, sau aproape unul). Pentru mașinile cu conducere autonomă care au AI care face toată conducerea, nu este nevoie ca un adult să fie prezent.

Ideea este că putem avea copii care circulă singuri în mașini fără nici un adult prezent, cel puțin acest lucru este posibil în cazul mașinilor autonome complet autonome, conduse de AI. Îți poți trimite copiii la școală dimineața folosind o mașină care se conduce singur. În loc să fii nevoit să le oferi copiilor tăi un lift sau să folosești un șofer uman pentru un serviciu de partajare, poți pur și simplu să-i pui pe copii să se îngrămădească într-o mașină care se conduce singur și să fie duși la școală.

Nu totul este roz când vine vorba de a avea copii în mașini care se conduc singuri.

Deoarece nu mai este nevoie de a avea un adult în vehicul, aceasta înseamnă că nici copiii nu se vor mai simți influențați sau să spunem controlați de prezența unui adult. Vor înnebuni copiii și vor distruge interiorul mașinilor care se conduc singure? Vor încerca copiii să se cațere sau să ajungă în afara geamurilor mașinii care se conduce singur? Ce alte tipuri de tragedie ar putea face, ducând la potențiale răniri și vătămări grave?

Am acoperit dezbaterea aprinsă despre ideea copiilor care merg singuri în mașini cu conducere autonomă, vezi linkul aici. Unii spun că acest lucru nu ar trebui permis niciodată. Unii spun că este inevitabil și trebuie să ne dăm seama cum să o facem cel mai bine.

Concluzie

Să revenim la tema generală a cazului mediu versus excepție.

Se pare că toți suntem de acord că întotdeauna va exista o excepție de la regulă. Odată ce o regulă a fost formată sau identificată, ar trebui să căutăm excepții. Când întâlnim excepții, ar trebui să ne gândim la ce regulă se aplică această excepție.

Multe dintre IA concepute astăzi sunt modelate în jurul formulării regulii, în timp ce provocările asociate cu excepțiile tind să fie abandonate și ignorate.

Pentru cei cărora le place să fie înțelepți și spun că nu există excepții de la regulă că există întotdeauna excepții de la regulă, aș recunoaște că această duhă pare a fi un derutant mental. Și anume, cum putem avea o regulă că există întotdeauna excepții, dar atunci chiar această regulă nu pare să se aplice regulii conform căreia există întotdeauna excepții de la regulă?

Îți face capul să se învârtească.

Din fericire, nu este nevoie să complicăm excesiv aceste chestiuni serioase. Sperăm că putem trăi cu regula de bază la îndemână și vitală pe care ar trebui să o luăm în considerare și să acceptăm excepțiile de la fiecare regulă.

Asta rezolvă lucrurile, așa că acum să trecem la lucru.