Motivele pentru a regla algoritmii AI sunt mai simple decât credeți

Vă faceți griji că inteligența artificială va ocupa lumea? Mulți fac. De la Elon Musk îngrijorător DeepMind bate oameni în jocul avansat Go în 2017, membrilor Congresului, factorilor de decizie europeni (vezi O abordare europeană a inteligenței artificiale), și academicienii, există acest sentiment că acesta este deceniul pentru a lua AI în serios și se instalează. Cu toate acestea, nu din motivele pe care le-ați putea crede și nici din cauza vreunei amenințări prezente.

Aici intervin algoritmii. Ce este un algoritm, vă puteți întreba? Cel mai simplu mod de a te gândi la asta este ca un set de instrucțiuni pe care mașinile le pot înțelege și din care pot învăța. Putem deja instrui o mașină să calculeze, să proceseze datele și să raționeze într-un mod structurat, automat. Cu toate acestea, problema este că, odată ce sunt date respectivele instrucțiuni, aparatul le va urma. Deocamdată, acesta este ideea. Spre deosebire de ființe umane, mașinile urmează instrucțiunile. Ei nu învață atât de bine. Dar odată ce o fac, ar putea cauza probleme.

Nu vreau să fac un argument senzațional cu privire la ideea ca computerele să depășească într-o zi inteligența umană, mai bine cunoscut drept argumentul singularității (vezi filozoful NYU David Chalmers). meditații pe această temă.) Mai degrabă, producția ar putea fi cel mai bun exemplu de ce algoritmii AI încep să conteze mai mult pentru publicul larg. Ne temem că mașinile își vor accelera considerabil priceperea pe cheltuiala noastră. Nu printr-un raționament avansat, neapărat, ci din cauza optimizării în limitele a ceea ce spune un algoritm.

Fabricarea înseamnă a face lucruri. Dar când mașinile fac lucruri, trebuie să fim atenți. Chiar dacă ceea ce fac mașinile este simplu. O să explic de ce.

De la cizme de ploaie la telefoane mobile și înapoi

Să zicem, o fabrică a făcut cizme de ploaie. Iubesc cizmele de ploaie pentru că am crescut într-o zonă a Norvegiei unde plouă foarte mult; Îmi place să fiu afară, supus numeroaselor elemente ale naturii. Nokia a făcut cizmele de ploaie cu care am crescut. Da, Nokia pe care îl cunoaștem astăzi ca fiind compania de electronice folosită pentru a face cizme de cauciuc. De ce este cheia asta? Pentru că odată ce faci ceva, ești destinat să vrei să faci îmbunătățiri. Are sens. Ai putea spune că asta este natura umană.

Ceea ce s-a întâmplat cu Nokia este bine cunoscut și arată cam așa: inițial o fabrică de hârtie, când eram copil, producția de cizme de cauciuc (și anvelope) avea un succes deosebit pentru companie. Cu toate acestea, au văzut alte oportunități. Prin urmare, la un moment dat în anii 1980, au trecut la electronice și au schimbat rapid fabricile din jur, construind o structură mare de furnizori locali atunci când au început să producă telefoane mobile. Aceasta a dus la revoluția comunicațiilor mobile, care a început în Scandinavia și s-a extins în restul lumii. De înțeles, mulți au scris povestea Nokia în anii 1990 (vezi Secretele din spatele miracolului finlandez: ascensiunea Nokia).

Exemplul meu este simplu. Poate, prea simplu. Dar gândește-te așa. Dacă o companie mare poate trece rapid de la fabricarea hârtiei pentru a scrie, la cizme care ușurează să fii afară în ploaie, atunci, în sfârșit, la telefoane mobile care modifică modul în care oamenii comunică: cât de ușor va fi următorul pas? Să presupunem că o companie care produce telefoane mobile decide să facă nanoboți și poate că aceștia decolează într-un deceniu, modificând umanitatea cu mașini minuscule care rulează autonom peste tot, capabile să reasambla și să modifice experiența umană. Ce se întâmplă dacă asta se întâmplă fără să luăm în considerare cum vrem să se întâmple, cine vrem să fim la conducere și scopurile finale?

Sugerarea că roboții au ajutat în mod conștient Nokia să decidă să producă telefoane mobile ar fi o exagerare. Dar recunoașterea faptului că tehnologia a avut un rol în a permite unei zone rurale finlandeze de pe țărmul ei de nord să creadă că ar putea obține dominația mondială într-o nouă industrie joacă un rol semnificativ.

Povestea Nokia nu a fost atât de roz în ultimul deceniu, având în vedere că nu au reușit să țină cont de apariția sistemelor de operare iOS și Android bazate pe software. Acum, ca urmare, Nokia nu mai produce telefoane. Într-o poveste de revenire, acum creează infrastructură de rețele și telecomunicații, soluții de securitate a rețelei, routere Wi-Fi, iluminat inteligent și televizoare inteligente (vezi Povestea revenirii Nokia). Nokia încă mai face lucruri, este adevărat. Singura observație de făcut este că Nokia pare să-i placă întotdeauna să amestece lucrurile pe care le fac. Chiar și deciziile de fabricație ale ființelor umane sunt, uneori, greu de înțeles.

Fabricarea înseamnă a face lucrurile și lucrurile chiar evoluează. În linii mari, ceea ce facem astăzi s-a schimbat față de acum un deceniu. Imprimantele 3D au producția descentralizată a multor produse avansate, atât în ​​industrie, cât și acasă. Consecințele de schimbare a vieții ale imprimării 3D nu au avut loc încă. Nu știm dacă acest lucru va dura, dar știm că FDA se concentrează pe reglementarea producției de produse (vezi aici) precum pilulele sau dispozitivele medicale imprimate care apar, problemele evidente de proprietate intelectuală și răspundere sau problemele legate de posibilitatea de a imprima arme de foc. În cele din urmă, discuția politică cu privire la consecințele negative pe care le-ar putea avea imprimarea 3D dincolo de aceasta este inexistentă și puțini dintre noi ne-am obosit să se gândească la asta.

Nu sugerez că imprimarea 3D este periculoasă în sine. Poate că acesta este un exemplu prost. Cu toate acestea, lucrurile care inițial par banale pot schimba lumea. Există o mulțime de exemple: vârful de săgeată al vânătorului/culegătorului din metal care declanșează războaie, măști rituale care ne protejează de COVID-19, cuie care construiesc zgârie-nori, tipografii mobile care (încă) umple fabricile noastre cu hârtie imprimată și alimentează Afaceri cu publicații, becuri care vă permit să vedeți și să lucrați înăuntru noaptea, aș putea continua. Nimeni despre care știu nu s-a așezat la sfârșitul anilor 1800 și a prezis că Nokia își va muta producția de la hârtie la cauciuc la electronice și apoi departe de telefoanele mobile. Poate că ar fi trebuit.

Oamenii sunt predictori slabi ai schimbării trepte, procesul în care o schimbare duce la mai multe schimbări și, dintr-o dată, lucrurile sunt radical diferite. Încă nu înțelegem acest proces deoarece avem puține cunoștințe practice despre schimbarea exponențială; nu putem să ne imaginăm, să o calculăm sau să o înțelegem. Cu toate acestea, din când în când, ne lovește. Pandemii, creșterea populației, inovații tehnologice de la tipărirea cărților la robotică, de obicei ne lovește fără avertisment.

Trucul cu futurismul nu este dacă, ci când. S-ar putea de fapt să prezică schimbarea doar prin alegerea unor noi metode de producție și afirmând că acestea vor deveni mai răspândite în viitor. E destul de simplu. Partea dificilă este să descoperi exact când și mai ales cum.

Agrafele nu sunt problema

Luați în considerare din nou exemplul meu din fabrică, dar de data aceasta, imaginați-vă că mașinile sunt responsabile de numeroase decizii, nu toate deciziile, ci deciziile de producție, cum ar fi optimizarea. În cartea lui Super inteligență, umanistul distopic de la Universitatea Oxford Nick Bostrom și-a imaginat faimos un algoritm de optimizare a inteligenței artificiale care rulează o fabrică de agrafe. La un moment dat, spune el, imaginați-vă că mașina motivează că învățarea de a deturna resurse din ce în ce mai mari către sarcină este rațională, ajungând să transforme treptat lumea în agrafe și să reziste încercărilor noastre de a o opri.

În ciuda faptului că este un tip inteligent, exemplul lui Bostrom este destul de prost și înșelător (totuși, memorabil). În primul rând, el nu reușește să țină seama de faptul că oamenii și roboții nu mai sunt entități separate. Interacționăm. Majoritatea roboților inteligenți evoluează în coboți sau roboți colaborativi. Oamenii vor avea multe șanse să corecteze mașina. Chiar și așa, punctul lui de bază rămâne. Poate exista o schimbare de pas la un moment dat și, dacă această schimbare are loc suficient de repede și fără o supraveghere suficientă, controlul s-ar putea pierde. Dar acest rezultat extrem pare puțin exagerat. În orice caz, sunt de acord, trebuie să reglementăm oamenii care operează aceste mașini și să impunem ca lucrătorii să fie mereu la curent, instruindu-i în mod corespunzător. Acest tip de antrenament nu merge bine. În prezent, durează prea mult și este nevoie de abilități de specialitate atât pentru a te antrena, cât și pentru a fi instruit. Stiu un lucru. În viitor, tot felul de oameni vor opera roboți. Cei care nu o fac, vor fi destul de neputincioși.

Creșterea oamenilor este mai bună decât automatizarea fără minte, indiferent dacă nu ne unim niciodată complet cu mașinile. Cele două concepte sunt distincte din punct de vedere logic. Este posibil ca atât oamenii, cât și roboții să fie blocați în automatizare de dragul automatizării. Acest lucru ar aduce mari prejudicii producției în viitor. Chiar dacă nu produce roboți ucigași. Cred că o fuziune este la sute de ani distanță, dar nu acesta este ideea. Chiar dacă mai sunt doar treizeci de ani distanță, mașinile cu autopropulsare care funcționează pe algoritmi simpliști care își pierd controlul, acel scenariu se întâmplă deja în atelier. Unele dintre aceste mașini au treizeci de ani și funcționează pe sisteme de control vechi, proprietare. Principala lor provocare nu este că sunt avansați, ci opusul. Sunt prea simpliști pentru a putea comunica. Aceasta nu este o problemă pentru mâine. Este o problemă preexistentă. Trebuie să ne deschidem ochii la asta. Gândește-te la asta data viitoare când vei păși în cizme de cauciuc.

Mai am cizmele mele Nokia din anii 1980. Au o gaură în ele, dar le păstrez pentru a-mi aminti de unde sunt și cât de departe am mers. Ploaia continuă să cadă și, atâta timp cât este suficient de curat, nu vreau o soluție mai bună decât cizmele alea. Apoi, din nou, sunt om. Un robot ar fi mers deja mai departe. Care este versiunea AI a cizmelor de ploaie, mă întreb. Nu este un telefon mobil. Nu este un senzor de ploaie. Bine mintea.

Cizmele digitale de astăzi înseamnă că le puteți personaliza deoarece au modele imprimate 3D pe ele. Există pantofi virtuali care există doar ca NFT (jetoane nefungibile) care pot fi vândute și comercializate. Cei mai buni adidași virtuali valorează 10,000 de dolari în aceste zile (vezi Ce este un adidași NFT și de ce valorează 10,000 USD?). Nu mi-e frică de acestea, dar ar trebui să fiu? Dacă lumea virtuală devine mai apreciată decât lumea fizică, poate o voi face. Sau ar trebui să aștept să fiu îngrijorat până când propriul avatar al unui AI își cumpără propriul boot NFT pentru a face față „ploii”? Dacă construim algoritmi după propria noastră imagine, este mai probabil ca o inteligență artificială să fie bună la lucruri la care ne dorim să fim buni, dar de obicei nu sunt, cum ar fi cumpărarea de acțiuni, construirea de prietenii loiale (poate cu mașini și oameni) și amintirea lucruri. Metaversul industrial ar putea fi surprinzător de sofisticat – plin de gemeni digitali care imită lumea noastră și o depășesc în moduri fructuoase – sau ar putea fi șocant de simplu. Poate amândoi. Doar că nu știm încă.

Trebuie să reglementăm algoritmii AI pentru că nu știm ce este după colț. Acesta este un motiv suficient, dar în ceea ce privește modul în care o facem, aceasta este o poveste mai lungă. Permiteți-mi încă o observație rapidă, poate că toți algoritmii fundamentali ar trebui să fie disponibili public. Motivul este, dacă nu, nu există nicio modalitate de a ști la ce ar putea duce. Cele de sus sunt destul de cunoscute (vezi Top 10 algoritmi de învățare automată), dar nu există o imagine de ansamblu la nivel mondial despre unde și cum se vor folosi. În special algoritmii nesupravegheați ar trebui urmăriți cu atenție (vezi Șase cazuri de utilizare puternice pentru învățarea automată în producție), indiferent dacă sunt folosite pentru a prezice întreținerea sau calitatea, pentru a simula medii de producție (de exemplu, gemeni digitali) sau pentru a genera noi modele la care un om nu s-ar gândi niciodată. În peisajul actual, acești algoritmi nesupravegheați sunt de obicei așa-numitele rețele neuronale artificiale, care încearcă să imite creierul uman.

Am început să-mi fac griji în privința rețelelor neuronale, doar pentru că mi se pare greu de înțeles logica lor. Problema este că cei mai mulți experți, chiar și cei care le implementează, nu înțeleg cum acești algoritmi se deplasează de la pas la pas sau strat la strat. Nu cred că metafora „straturi ascunse”, care este folosită des, este foarte potrivită sau foarte amuzantă. Pentru început, nu ar trebui să existe straturi ascunse în producție, în colectarea automată a taxelor, în deciziile de angajare sau în admiterea la facultate. Poate ar trebui să te gândești și tu să te îngrijorezi? Un lucru este sigur, oamenii și mașinile care fac lucruri împreună vor schimba lumea. A făcut deja, de multe ori. De la hârtie la cizme de ploaie și straturile creierului artificial de astăzi, nimic nu ar trebui lăsat neexplorat. Nu ar trebui să ne ascundem de simplul fapt că din multe schimbări mici poate apărea brusc o schimbare mai mare.