Cea mai recentă îngrijorare de etică a AI este că AI poate întruchipa în mod indisolubil părtiniri politice, inclusiv chiar și în cazul inofensiv al mașinilor cu auto-conduire bazate pe inteligență.

Să vorbim de politică.

Ei bine, îmi dau seama că probabil că ești epuizat de concentrarea aparent neîntreruptă pe politică în toate sursele de media disponibile în aceste zile. Stări roșii versus stări albastre. Liberali versus conservatori. Democrați versus Republicații. Vorbăria despre mașinațiuni politice este exasperant de nesfârșită.

S-ar putea să fi presupus în mod rezonabil că există unele subiecte pentru care politica nu intră în mod special în imagine. În esență, poate că există două clase distincte de subiecte, și anume subiecte care sunt infuzate politic indiferent de ce, și alte subiecte mai banale care ar ocoli sau scăpa de tărâmul politic.

S-ar părea că are sens că vor exista acele subiecte atrăgătoare, care vor fi veșnic înfundate în politică și furii politice, cum ar fi lista de lungă durată care include aspecte privind sănătatea națională, aspecte electorale, controlul armelor, imigrația, și altele asemenea. Tot ce trebuie să faci este să menționezi oricare dintre aceste subiecte și următorul lucru care se întâmplă este că ești cufundat într-o furtună politică. Argumentele destul de aprinse sunt aproape garantate.

Pe cealaltă față a monedei conflagrației, poate că există unele subiecte care nu provoacă o reacție politică atât de zguduită. Aș dori să vă expun un astfel de subiect, căutând să obțin reacția dumneavoastră inițială.

Gata?

Mașini.

Da, subiectul de zi cu zi despre mașini, automobile, autovehicule sau cum ați dori să-l exprimați, invocă asta un strigăt politic sau stârnește o diatribă încărcată politic sau bătăi verbale pentru a fi bătute?

S-ar putea să nu pară la suprafață că există o aparență sporită de preocupări politice cu privire la mașini. Sunt pur și simplu o formă de transport zilnic. Te urci în mașină și mergi la serviciu. Îți folosești mașina ca să faci comisioane și să faci cumpărături. Dacă puteți rezerva ceva timp pentru o vacanță, folosiți mașina pentru a vă îndrepta către pădurile deschise sau poate vizitați câteva monumente naționale prețuite.

Mașinile ar părea apolitice.

Îmi pare rău, dar nu este cazul.

Se poate spune că mașinile sunt înconjurate intim de politică și sunt scufundate în politică, la fel ca oricare dintre așa-numitele subiecte de aprindere. Poate că mass-media generală nu acoperă politica orientată spre mașină la fel de mult cum s-ar putea face pentru alte subiecte mai atrăgătoare, dar, cu toate acestea, curentele politice subterane există încă.

O dimensiune politică evidentă constă în ceea ce ar trebui să fie mașinile noastre.

Mă refer la machiajul sau mecanizarea mașinilor. De exemplu, există o dezbatere politică aprinsă despre dacă mașinile ar trebui să folosească ICE (motoare cu ardere internă) față de trecerea la EV (vehicule electrice). Aceasta este o zonă de discurs semnificativ care se leagă de numeroase alte subiecte încărcate politic, cum ar fi problemele de mediu și fațetele schimbărilor climatice.

O chestiune mai puțin cunoscută și totuși înrudită tratează dimensiunea mașinilor și amprenta lor generală în diferite privințe. Ar trebui să avem mașini de dimensiuni mari sau doar mașini de dimensiuni mai mici? Ar trebui să creăm mașini pentru a descuraja folosirea mașinilor, cu scopul de a influența oamenii să folosească transportul în masă și transportul public? Și așa mai departe.

Iată ceva la care probabil nu te-ai gândit.

Unele studii au examinat dacă tipul de mașină deținut se bazează pe înclinațiile politice ale proprietarului mașinii. Probabil, ați putea găsi o corelație statistică între cineva declarat ca fiind democrat în ceea ce privește tipul de mașină achiziționată și, de asemenea, puteți găsi o corelație statistică între a fi republican și tipul de mașină deținut. Nu voi aprofunda în aceste studii aici, deși aș dori să menționez că ar trebui să interpretați astfel de studii și rezultatele lor cu un ochi precaut și o doză mare de scepticism cu privire la validitatea statistică implicată.

Vorbind despre folosirea statisticilor, există un alt unghi intrigant pentru caracteristicile politice și mașini. Există eforturi de cercetare care par să leagă diverse comportamente de conducere a persoanelor la afilierea de partid politic a acelor șoferi.

Întrebările adresate adesea includ:

· Sunt șoferii care intră în accidente de mașină sau coliziuni mai probabil sau mai puțin probabil să fie democrați sau republicani?

· Sunt șoferii beți mai probabil să fie liberali sau conservatori?

· Când au loc acele incidente nebunești de furie rutieră, prin care șoferii înnebunesc și se lovesc unii pe alții, nebunii aceia nebuni de furie ar tinde să fie liberali sau conservatori?

· Cine primește mai multe bilete de trafic și, probabil, conduce mai riscant, democrați sau republicani?

· etc.

Din nou, nu mă voi scufunda în aceste eforturi de cercetare aici. Și, încă o dată, vă rugăm să fiți atent când citiți astfel de studii sau când vedeți titluri aprinse despre rezultatele lor. Tot ce voi spune este că vechea replică despre statistici este încă copios adevărată astăzi, astfel încât există minciuni, minciuni blestemate și statistici (am curățat acel pic de înțelepciune sărată pentru un public mai elegant).

Prin urmare, se pare că avem suficiente dovezi că subiectul mașinilor este, din păcate, infuzat cu conotații politice.

Atunci voi alege un alt subiect, unul care poate va fi cu adevărat apolitic.

Ești gata de data asta?

Inteligența artificială (AI).

Cu siguranță, s-ar spera, IA trebuie să fie apolitică, mai ales când vine vorba de capacitățile interne ale sistemelor AI. Desigur, ai putea bănui că există politică înconjurător dacă AI ar trebui să fie folosită sau nu, dar se pare că ați crede că interioritatea unui sistem AI ar fi dincolo de orice fermentație politică în sine.

Înainte de a arunca o privire mai atentă la această ipoteză predominantă, ar putea fi instructiv să luăm în considerare și alte fațete ale AI care i-au determinat recent pe mulți să regândească dorința de a produce și de a accepta instinctiv sistemele de AI.

Vezi tu, în goana către AI pentru bine emoția din ultimii câțiva ani, a existat o conștientizare tot mai mare că nu toată AI va fi neapărat bună. Am ajuns să vedem că există și o mulțime de oportunități pentru AI pentru rău să apară. Acest lucru se poate întâmpla prin intenția intenționată a celor care dezvoltă AI și, de asemenea, se poate întâmpla prin ceea ce unii ar susține în mod strident este o lipsă complet iresponsabilă de supraveghere adecvată din partea dezvoltatorilor AI și a celor care promulgă sisteme AI.

Am acoperit multe dintre aceste probleme de etică AI în coloana mea, cum ar fi linkul aici și linkul aici.

Considerați ca un indicator al AI pentru rău problema recunoașterii faciale.

Mulți credeau că recunoașterea facială va fi cea mai bună dintre tehnologiile AI (și, în multe privințe, este într-adevăr un fel de AI pentru bine). Ar fi atât de ușor să faci operațiuni bancare la bancomate doar prin scanarea feței pentru recunoaștere, în loc să folosești un cod PIN secret și un card bancar. Ar fi atât de convenabil să intri într-un magazin alimentar și să faci cumpărături pur și simplu folosindu-ți fața ca mijloc de a indica contul tău de băcănie online, care ar putea fi taxat pentru orice articole selectate.

Știi burghiul.

Următorul lucru pe care îl știi, societatea a început să descopere că recunoașterea facială nu este doar bomboane cu gust dulce și trandafiri cu miros dulce. Unii dintre algoritmii de recunoaștere facială bazați pe inteligență artificială au făcut o treabă proastă în a putea discerne oamenii din cauza rasei lor. Au apărut numeroase alte probleme deconcertante și de-a dreptul scandaloase, inclusiv părtiniri inerente legate de gen și alți factori. Pentru acoperirea mea cu privire la subiectele de etică AI care stau la baza recunoașterii faciale, consultați linkul aici.

Ideea generală este că există o șansă solidă ca oricare AI pentru bine va transporta, de asemenea, bagajele asociate constând din AI pentru rău. Sunt unele ocazii în care AI pentru rău este complet rău și există puține calități răscumpărătoare care să sugereze că există un minim de AI pentru bine în. Una peste alta, totuși, de obicei, un sistem AI va avea un aspect al ambelor AI pentru bine și AI pentru rău. Pe primul am dori să-l încurajăm, pe cel din urmă am dori să-l prevenim, să reducem, să atenuăm, iar când toate celelalte nu reușesc, atunci prindem și defang cât mai curând posibil.

S-ar putea să vă gândiți, da, toate acestea au sens și ar trebui să examinăm cu atenție AI pentru orice fel de prejudecăți rasiale, de gen și orice fel de inechități. Aceasta ar fi acțiunea adecvată și ar ajuta societatea să evite răul și să obțină cu roade binele AI.

Credeți sau nu, există un alt factor care poate fi adăugat la lista lucrurilor surprinzătoare învăluite în AI despre care mulți nu și-au dat seama că se află în tocana pestriță cu AI.

Înclinații politice.

Studii recente arată că sistemele AI pot întruchipa (cum ar fi, deși nu antropomorfic), o multitudine de tendințe politice, opinii, preferințe și alte asemenea atribute și infuzii bazate pe politice. Acest lucru poate avea un impact asupra modului în care funcționează AI, cum ar fi ceea ce AI „decide” pe baza programării AI.

Dacă aplicați online pentru un împrumut și este utilizat un sistem algoritmic de luare a deciziilor bazat pe AI, de multe ori nu aveți nicio idee despre ce constă programarea AI. Dacă spunem că ați refuzat împrumutul, nu puteți fi sigur că AI a evitat să vă folosească rasa, sexul sau alți astfel de factori pentru a face alegerea de respingere.

Nici nu poți fi sigur că AI nu ți-a înăbușit cererea de împrumut din cauza părtinirilor sale politice.

Când afirm că în termeni atât de dupi, nu supraumflați noțiunea crezând că IA este sensibilă. După cum voi menționa mai departe într-un moment, astăzi nu avem IA sensibilă. Punct, punct. Indiferent de titlurile sălbatice pe care le vezi, te rog să știi că nu există nimic apropiat de a fi IA sensibilă astăzi. Nici măcar nu știm dacă este posibilă atingerea sensibilității cu AI. De asemenea, nu există nicio indicație despre când se va întâmpla sau dacă se va întâmpla vreodată.

Revenind la problema în discuție.

Acum că am ajuns pe masa că AI poate conține părtiniri politice, putem arunca o privire mai atentă la cum se întâmplă acest lucru și în ce moduri pot apărea în mod insidios înclinațiile politice.

Deoparte, dacă ideea că AI poate încorpora predilecții politice vă provoacă o consternare sau un șoc îngrozitor, atribuiți-o la încă un exemplu de străpungere a vălului imaculat al AI. Societatea pare să fi acceptat până acum o imagine de branding a AI ca încorporând marea inocență și aura curată a neutralității și echilibrului.

Putem fi transferat asta de la alte tipuri de mașini. Pâinele de pâine nu par să aibă părtiniri inerente bazate pe rasă, gen și așa mai departe. În mod similar, nu ne-am aștepta ca un prăjitor de pâine să aibă o minte politică, așa cum ar fi. Un prăjitor de pâine este un prăjitor de pâine. Este considerat doar o mașină.

Motivul pentru care perspectiva prăjitorului nu ține apă atunci când vine vorba de AI este că sistemul AI este programat pentru a încerca să își desfășoare capacități asemănătoare cognitive. Ca atare, acest lucru împinge mașina în dilema problemelor cognitive, cum ar fi întruchiparea prejudecăților și altele asemenea. Vă asigur că vom descoperi destul de curând că prăjitoarele bazate pe inteligență artificială sunt pline de părtiniri și preocupări problematice.

O modalitate la îndemână de a deschide ușa către înțelegerea modului în care AI poate deveni influențată din punct de vedere politic va fi să aruncați o privire asupra utilizării AI în apariția mașinilor cu adevărat autonome bazate pe AI. Putem lovi două păsări dintr-o singură piatră și să examinăm subiectul general și general al AI care conține întruchipare politică și să facem acest lucru în contextul exemplar al modului în care acest lucru ar putea apărea în mașinile cu conducere autonomă.

Totuși, vreau să clarific că inocularea politică cu inteligența artificială este un subiect de sine stătător, care merită să i se acorde propria datorie. Nu împletește în mod greșit inteligența artificială a mașinilor care se conduce singur cu dimensiunile politice ale inteligenței artificiale. Toată IA va avea posibilități inerente din punct de vedere politic, iar profunzimea și gradul vor depinde de modul în care IA este concepută și implementată.

Iată apoi o întrebare demnă de remarcat la care merită să ne gândim: Cum va ajunge AI să pătrundă în interior înclinații politice și poate acest lucru să se întâmple chiar în domeniul aparent apolitic al AI, care este folosit pentru acele mașini autonome bazate pe AI în curs de dezvoltare?

Permiteți-mi un moment să despachetez întrebarea referitoare la mașinile care se conduc singure.

În primul rând, rețineți că nu există un șofer uman implicat într-o mașină care se conduce singur. Rețineți că adevăratele mașini cu conducere autonomă sunt conduse printr-un sistem de conducere AI. Nu este nevoie de un șofer uman la volan și nici nu există o prevedere ca un om să conducă vehiculul. Pentru acoperirea mea extinsă și continuă a vehiculelor autonome (AV) și în special a mașinilor cu conducere autonomă, consultați linkul aici.

Aș dori să clarific în continuare ce se înțelege atunci când mă refer la adevăratele mașini cu conducere automată.

Înțelegerea nivelurilor autoturismelor

Ca o clarificare, adevăratele mașini cu conducere automată sunt cele pe care AI le conduce în întregime pe cont propriu și nu există asistență umană în timpul sarcinii de conducere.

Aceste vehicule fără șofer sunt considerate Nivelul 4 și Nivelul 5 (a se vedea explicația mea la acest link aici), în timp ce o mașină care necesită un șofer uman să împartă efortul de conducere este de obicei considerată la Nivelul 2 sau Nivelul 3. Mașinile care partajarea sarcinii de conducere sunt descrise ca fiind semi-autonome și conțin de obicei o varietate de programe de completare automate care sunt denumite ADAS (Advanced Driver-Assistance Systems).

Nu există încă o adevărată mașină cu autovehicule la nivelul 5, pe care nici măcar nu știm dacă acest lucru va fi posibil și nici cât timp va dura.

Între timp, eforturile de nivel 4 încearcă treptat să obțină o anumită tracțiune prin efectuarea unor teste publice foarte înguste și selective pe drumuri, deși există controverse cu privire la faptul că acest test ar trebui permis în sine (toți suntem cobai de viață sau de moarte într-un experiment care au loc pe autostrăzile și pe drumurile noastre, unii susțin, vezi acoperirea mea la acest link aici).

Deoarece autoturismele semi-autonome necesită un șofer uman, adoptarea acestor tipuri de mașini nu va fi semnificativ diferită de a conduce vehicule convenționale, deci nu există în sine prea multe lucruri care să le acopere în acest sens (totuși, după cum veți vedea într-o clipă, punctele următoare prezentate sunt în general aplicabile).

Pentru mașinile semi-autonome, este important ca publicul să fie anunțat în legătură cu un aspect perturbator care a apărut în ultima vreme, și anume că, în ciuda șoferilor umani care continuă să posteze videoclipuri despre care adorm la volanul unui autoturism de nivel 2 sau nivel 3 , cu toții trebuie să evităm să ne înșelăm crezând că șoferul își poate îndepărta atenția de la sarcina de conducere în timp ce conduce o mașină semi-autonomă.

Sunteți partea responsabilă pentru acțiunile de conducere ale vehiculului, indiferent de cât de multe automatizări ar putea fi aruncate într-un nivel 2 sau 3.

Mașini cu conducere autonomă și tendințe politice încorporate AI

Pentru vehiculele cu autovehicul adevărat de nivel 4 și nivel 5, nu va exista un șofer uman implicat în sarcina de conducere.

Toți ocupanții vor fi pasageri.

AI efectuează conducerea.

Un aspect care trebuie discutat imediat presupune faptul că AI implicată în sistemele de conducere AI de astăzi nu este sensibilă. Cu alte cuvinte, AI este cu totul un colectiv de programare și algoritmi pe computer și, cu siguranță, nu este capabil să raționeze în același mod în care oamenii pot.

De ce se pune accentul pe faptul că AI nu este sensibilă?

Pentru că vreau să subliniez că, atunci când discut despre rolul sistemului de conducere AI, nu atribuiesc calități umane AI. Vă rugăm să fiți conștienți de faptul că există o tendință periculoasă și continuă de a antropomorfiza AI în zilele noastre. În esență, oamenii atribuie simțire umană AI-ului de astăzi, în ciuda faptului incontestabil și incontestabil că nu există încă o astfel de AI.

Cu această clarificare, puteți imagina că sistemul de conducere AI nu va „cumva” nativ cumva despre fațetele conducerii. Conducerea și tot ceea ce presupune va trebui să fie programate ca parte a hardware-ului și software-ului mașinii cu conducere automată.

Să ne scufundăm în nenumăratele aspecte care vin să se joace pe acest subiect.

În primul rând, este important să realizăm că nu toate mașinile autonome cu AI sunt la fel. Fiecare producător auto și firmă de tehnologie cu auto-conducere adoptă abordarea sa în conceperea mașinilor care se conduc singur. Ca atare, este dificil să faci declarații cuprinzătoare despre ceea ce vor face sau nu vor face sistemele de conducere AI.

Mai mult, ori de câte ori se afirmă că un sistem de conducere AI nu face ceva anume, acest lucru poate fi, mai târziu, depășit de dezvoltatorii care, de fapt, programează computerul pentru a face chiar acest lucru. Pas cu pas, sistemele de conducere AI sunt îmbunătățite și extinse treptat. O limitare existentă astăzi ar putea să nu mai existe într-o viitoare iterație sau versiune a sistemului.

Am încredere că oferă o litanie suficientă de avertismente pentru a sta la baza a ceea ce urmează să povestesc.

Suntem pregătiți acum să facem o scufundare profundă în dilema integrată în politica AI.

Lăsați pe scurt deoparte aspectele legate de mașina cu conducere autonomă și să explorăm mai întâi subiectul AI cu privire la modul în care acesta încorporează tendințele politice. Cea mai ușoară modalitate prin care AI să fie creată politic este prin acțiunile dezvoltatorilor AI care creează software-ul AI. Ca oameni, ei și-ar putea transfera înclinațiile politice personale în ceea ce programează software-ul pentru a face.

Când sistemele AI au început pentru prima dată să prezinte diverse prejudecăți de rasă și gen, a existat un strigăt uriaș că acest lucru trebuie să fi fost rezultatul dezvoltatorilor AI care au conceput acele sisteme. Au existat acuzații că acesta a fost un act intenționat al dezvoltatorilor AI. Alții au sugerat totuși că dezvoltatorii AI au lipsit de diversitate și, prin urmare, au permis neglijent sau necugetat ca părtinirile lor existente să fie transferate în eforturile lor de programare AI.

Pentru multe echipe AI, acest lucru le-a determinat să devină mai conștienți de asigurarea diversității în rândul colegilor lor dezvoltatori, inclusiv atunci când au fost adăugați noi membri la grupurile lor de programare. În plus, au fost create cursuri educaționale speciale pentru a crește gradul de conștientizare a diversității pentru dezvoltatorii AI. Există chiar și metodologii de dezvoltare a inteligenței artificiale care cuprind aspecte de diversitate pentru a ghida în mod explicit proiectele de inteligență artificială spre a fi atent la inocularea părtinirilor și inechităților în sistemele lor.

Deși aproape nimeni nu este conștient încă de tipul de părtinire încorporat politic pentru AI, șansele sunt ca în cele din urmă să se ridice în proeminență și să rezulte o zarvă vocală. Încă o dată, va fi o atenție atentă a dezvoltatorilor AI. Poate că unii își infuzează în mod intenționat înclinațiile politice, în timp ce alții ar putea face acest lucru fără să își dea seama că o fac.

Îndrăznesc să spun că accentul de a presupune că dezvoltatorii AI au fost singura sursă de introducere a prejudecăților în AI a omis totalitatea de unde au apărut distorsiunile AI. O conștientizare treptată a fost că utilizarea Machine Learning (ML) și Deep Learning (DL) a devenit și un contributor notabil la aspectele de polarizare internă a AI.

Machine Learning și Deep Learning sunt tehnici și tehnologii de potrivire a modelelor de calcul.

Asamblați datele pe care doriți să le introduceți în ML/DL, care apoi, din punct de vedere computațional, caută să găsească modele matematice în setul de date furnizat. Pe baza acestor modele calculate, ML/DL va fi folosit, cum ar fi posibilitatea de a face recunoașterea facială. Pentru recunoașterea facială, s-ar putea să introducem o grămadă de imagini cu oameni, iar ML/DL va calcula caracteristicile notabile ale ceea ce face ca fețele să fie recunoscute, cum ar fi forma și dimensiunea nasului, forma și dimensiunea gurii și buzelor. , forma și dimensiunea frunții și așa mai departe.

Această abordare computațională ar părea să depășească orice tip de influență de părtinire. Toate sunt doar calcule.

Aha, dar amintiți-vă că introducem imagini (sau orice altceva) în ML/DL ca parte a „antrenamentului” sau a potrivirii modelelor de calcul. Pentru recunoașterea facială, dacă ar fi să hrănim în primul rând imagini care arată oameni dintr-o anumită rasă, șansele sunt ca potrivirea modelului de calcul să se îndrepte spre acele aspecte faciale. Mai târziu, presupunând că am folosit acest sistem de recunoaștere facială pe scară largă, cei care l-au folosit și au fost de altă rasă ar putea fi mai puțin probabil „recunoscuți” matematic, deoarece modelele ML/DL sunt modelate în jurul rasei care a fost găsită predominant în antrenament. a stabilit.

Așadar, puteți vedea clar cum abordarea matematică a ML/DL, altfel „nepărtinitoare”, poate deveni distorsionată (există și alte moduri, dar o menționez doar pe cea mare, aici). Dezvoltatorii AI au creat în mod intenționat un set de date care a fost dezechilibrat rasial? Aș sugera că acesta este rareori un act intenționat, deși lipsa de conștientizare că au făcut acest lucru nu este încă o scuză suficientă.

În zilele noastre, există un impuls strident către încercarea de a-i determina pe cei care folosesc ML/DL să fie mai atenți la ce date folosesc pentru antrenament și la ce rezultate le produce. Din nefericire, toată lumea a sărit în vagonul ML/DL și mulți dintre acești începători sau nopți de zbor care au preluat mantaua ML/DL o fac fără să conștientizeze părtinirile infuzate. Există, posibil, și actori răi care ar putea face acest lucru în mod intenționat, deși să sperăm că sunt puțini.

Am încredere că cele de mai sus v-au adus la curent cu aspectele de etică AI care implică infuzarea de părtiniri în IA de astăzi.

Continuați și repetați întregul shebang, înlocuind noțiunea generică de părtinire cu indicațiile specifice ale înclinațiilor politice încorporate. Am menționat deja că dezvoltatorii de inteligență artificială înșiși ar putea să își manifeste în mod deschis sau din neatenție înclinațiile politice în ceea ce face IA programată. Cealaltă fațetă pe care am adus-o în discuție este că, pentru utilizarea Machine Learning și Deep Learning, există posibilitatea de a selecta date de formare care ar putea transmite în mod intenționat sau accidental modele care se potrivesc unei anumite dimensiuni politice.

Ei bine, sunt puțin cam lung pe această coloană (hopa, TLDR, vor spune unii cu asprime), așa că voi încerca să schițez pe scurt un exemplu despre modul în care AI pentru o mașină cu conducere autonomă bazată pe inteligență ar putea fi introdusă în acestea. feluri de găuri de vierme înclinate politic (pentru acoperirea mea extinsă a unor astfel de chestiuni, în multe dintre postările mele în coloana, vezi linkul aici).

O problemă potențială de echitate bine-cunoscută și des discutată despre mașinile autonome cu AI se referă la utilizarea robo-taxiurilor și cine va avea acces la această nouă opțiune de mobilitate ca serviciu. Îngrijorările sunt că numai cei bogați își vor putea permite să folosească robo-taxii și, prin urmare, cei din categoriile cu venituri mai mici vor fi lăsați în afara erei emergente a mașinilor fără șofer (vezi un raport detaliat despre acest lucru, la linkul aici ).

Există o altă întorsătură de joc din această scrupulă.

Imaginează-ți că mașinile cu conducere autonomă circulă prin oraș și așteaptă o solicitare de călătorie. Sosește o solicitare și o mașină autonomă cu robo-taxi din apropiere se îndreaptă spre a-l ridica pe călăreț. Călărețul indică unde vrea să meargă, iar sistemul de conducere AI trasează o cale pentru a ajunge acolo. Sistemul de conducere AI continuă apoi să conducă vehiculul autonom către destinația dorită.

Toate acestea par în regulă.

Iată o trepidare care a fost exprimată.

Să presupunem că sistemul de conducere AI optează pentru a concepe o cale care evită cartierele mai oprite. Ați putea presupune că graficul de navigație se va baza doar pe calea optimă, cum ar fi cea mai mică distanță sau poate cel mai scurt timp. Poate ca da, poate ca nu.

Alți factori ar putea fi probabilitatea ca mașina cu conducere autonomă să treacă prin ceea ce ar putea fi calculate drept locații pline de crime. Este posibil ca pericolul pentru vehiculul autonom și pentru pasageri să fie luat în considerare pe ce cale să o ia.

Există o strângere de mână că mașinile cu conducere autonomă ar evita aproape întotdeauna în mod indisolubil comunitățile mai sărace sau oprite. Oamenii care circulă în mașini care se conduc singuri nu ar părea să-și dea seama niciodată că astfel de locuri există în orașele sau orașele lor. Acest lucru, la rândul său, i-ar face probabil să nu conștientizeze nevoile unor astfel de comunități. În plus, cei care locuiesc în acele zone ar putea rareori să aibă ocazia de a folosi o mașină cu conducere autonomă, chiar dacă la preț accesibil. În mijlocul lor nu ar exista robo-taxi, care, după calcul, s-au ținut în afara acelor zone.

Această părtinire s-ar produce din cauza programării intenționate a AI de către dezvoltatori?

Ar putea fi, deși nu neapărat așa.

Poate că această părtinire apare din utilizarea învățării automate și a învățării profunde?

Sigur, este o posibilitate luată în considerare.

Sistemul de conducere AI s-ar putea baza pe ML/DL care a folosit date pentru instruire despre unde să procedați atunci când trasează o cale. Dacă aceste date ar fi modelate în jurul evitării anumitor zone, ML/DL ar detecta probabil un astfel de model și ar continua cu el. De-a lungul timpului, presupunând că astfel de date se acumulează în continuare pe măsură ce mașinile cu conducere autonomă sunt în plină desfășurare, datele utilizate ulterior pentru actualizări și întreținere ar consolida și mai mult aceleași modele inventate.

Ați putea spune că modelele devin agravate pe măsură ce utilizarea modelului anterior este instalată în mod repetat, un fel de bulgăre de zăpadă sau efect de spirală.

Într-un fel de a vorbi, ați putea interpreta că această părtinire aparentă a locului în care să conduceți este un exemplu al modului în care ar putea apărea o potențială tendință politică încorporată AI. O perspectivă ar fi să lăsăm AI să continue fără încetare în această predilecție. O alta ar fi să revizuiți AI pentru a conduce în mod deliberat în acele zone care au fost potrivite în afara domeniului de aplicare, ceea ce, încă o dată, ați putea afirma că este o poziție de înclinare politică care este infuzată în AI.

Toate spuse, fie AI Exponatele o tendință de înclinare politică sau cel puțin este percepută ca făcând acest lucru, indiferent dacă a avut vreo aparență (ceea ce prin simțire nu are) despre politica lucrurilor.

Concluzie

Există o mulțime de astfel de exemple care pot fi ridicate.

Voi rămâne cu contextul mașinii autonome și voi da un alt exemplu rapid. Să presupunem că un călăreț solicită o ridicare cu o mașină robotică autonomă AI și face acest lucru pentru a ajunge la un miting politic care are loc la tribunalul din centrul orașului. Sistemul de conducere AI refuză să ducă călărețul acolo.

De ce?

Imaginați-vă că datele anterioare culese despre mitingurile politice ca punct de destinație ar fi indicat că mașinile cu conducere autonomă erau prinse în mârâitul traficului. Să presupunem că acest lucru însemna că mașinile cu conducere autonomă erau mai puțin capabile să câștige bani de pe urma călătorilor, din cauza timpilor lungi de așteptare în trafic și a perceperii unei rate mai mici pentru acești timpi de așteptare. Un algoritm de inteligență artificială, cum ar fi utilizarea ML/DL, ar putea determina din punct de vedere computațional că a merge la mitinguri politice este o alegere acru de a face bani. Prin urmare, atunci când apar cereri pentru ca robo-taxiul să meargă la un miting politic, cererea este respinsă.

Cred că puteți vedea cum aceasta ar putea fi văzută ca o alegere motivată politic. Deși AI s-ar putea să nu folosească în mod direct niciun fel de motiv politic în orice fel de a vorbi, ea, în orice caz, pare să facă o alegere politică.

Puteți paria pe cel mai mic dolar că ne vom confrunta destul de curând cu o reacție politică cu privire la înclinațiile politice ale AI. Ia aminte!

Apropo de cuvinte, celebrul poet și dramaturg grec, Aristofan, susținea că sub fiecare piatră se ascunde un politician. În lumea de astăzi, în cadrul fiecărui sistem AI, există o șansă incontestabilă a unei înclinații politice ascunse, indiferent dacă știți sau nu.

Mai bine începe să răsuci pietrele acelea.