Schimbarea inteligenței artificiale în timp ce un guru proeminent al AI propune „calculatoare mortale” atrăgătoare, care, de asemenea, determină etica IA și legea AI.

Iată ceva la care probabil nu te-ai gândit încă: Calculatoare mortale.

Dar poate că ar trebui să fii.

Subiectul captivant a apărut la recenta și destul de proeminentă conferință anuală despre AI, care se concentrează în special pe apariția rețelelor neuronale și a învățării automate, și anume Conferința privind sistemele de procesare a informațiilor neuronale (cunoscută de persoane din interior ca NeurIPS). Geoffrey Hinton, un vorbitor principal invitat și un guru de lungă durată în domeniul inteligenței artificiale, a susținut afirmația intrigantă și poate controversată că ar trebui să ne gândim la computere într-un context muritor și nemuritor.

Voi aborda afirmația notabilă și voi face acest lucru în două moduri care la început nu vor părea neapărat conectate, deși, după un pic de elucidare suplimentară, vor deveni mai clar legate între ele în ceea ce privește argumentele muritoare versus nemuritoare.

Cele două subiecte sunt:

1) Legarea integrală atât a hardware-ului, cât și a software-ului pentru mecanizările AI, mai degrabă decât a le avea ca aliați distincti și separați

2) Transferarea sau distilare de formulări de învățare automată de la un model AI la altul care face acest lucru fără a necesita și nici a dori neapărat (sau chiar fezabil altfel posibil) o copiere directă de rasă pură.

Toate acestea au considerații importante pentru AI și direcția viitoare a dezvoltării AI.

În plus, există o mulțime de preocupări foarte spinoase privind Etica AI și Legea AI care apar și ele. Aceste tipuri de progrese tehnologice imaginate de AI sunt, de obicei, grupate pe o bază pur tehnologică cu mult înainte de a realiza că ar putea avea, de asemenea, repercusiuni demne de remarcat pe IA etică și Legea AI. Într-un anumit sens, de obicei, pisica este deja afară din sac sau calul este afară din hambar, înainte de trezirea conform căreia Etica AI și Legea AI ar trebui să primească participarea cu diligență.

Ei bine, haideți să întrerupem acel ciclu întârziat și să intrăm la parter pe acesta.

Pentru cei dintre voi interesați, în general, de cele mai recente informații care stau la baza Eticii AI și Legii AI, s-ar putea să găsiți informație și inspirație antrenantă acoperirea mea continuă și extinsă la linkul aici și linkul aici, Doar pentru a numi câteva.

Voi acoperi mai întâi punctul de mai sus despre legarea între hardware și software. O discuție și o analiză a subiectului va avea loc mână în mână. În continuare, voi aborda problema copierii sau spun unii distilare elementele cruciale ale unui sistem AI de învățare automată de la o IA la o IA nou concepută ca țintă.

Să începem.

Împreună între hardware și software pentru AI

Probabil știți că, în general, designul computerelor este de așa natură încât există partea hardware a lucrurilor și separat este partea software a lucrurilor. Când cumpărați un laptop de zi cu zi sau un computer desktop, acesta este interpretat ca fiind un dispozitiv de calcul de uz general. Există microprocesoare în interiorul computerului care sunt folosite pentru a rula și executa software-ul pe care l-ați putea cumpăra sau scrie singur.

Fără vreun software pentru computerul tău, este o bucată de metal și plastic care practic nu îți va face prea mult bine, în afară de a acționa ca o presă hârtie. Unii ar spune că software-ul este regele și conduce lumea. Desigur, dacă nu aveți hardware pe care să rulați software-ul, software-ul nu va face prea mult bine. Poți scrie câte linii de cod îți dorește inima, totuși, până când software-ul este utilizat prin intermediul unui computer, codul sursă formulat este la fel de subțire și de lipsit de zbor ca o operă frumoasă de poezie sau un roman polițist de un minut emoționant.

Permiteți-mi să trec momentan pe o altă cale care ar putea părea a fi departe (nu va fi).

Încercăm adesea să facem analogii între modul în care funcționează computerele și modul în care funcționează creierul uman. Această încercare de a face paralele conceptuale este utilă. Acestea fiind spuse, trebuie să fii precaut în a trece peste bord cu acele analogii, deoarece comparațiile tind să se destrame atunci când te apropii de detaliile carnoase.

Oricum, de dragul discuției, iată o analogie des folosită.

Creierul însuși este uneori denumit informal ca articole umede. Acesta este un mod captivant de a exprima lucrurile. Știm că computerele constau din hardware și software, așa că este inteligent să folosiți partea „ware” a monedei pentru a descrie la ce înseamnă un creier. Cuibărit în nogginurile noastre, creierul puternic și misterios este găsit plutind în jur, calculând mental toate faptele noastre (unele bune, în timp ce unele dintre gândurile noastre nu sunt cu siguranță pline de bunătate).

La o greutate medie de aproximativ trei kilograme, creierul este un organ remarcabil. Cumva, și încă nu știm cum, creierul este capabil să-l folosească de ordinul a 100 de miliarde de neuroni și poate oriunde de la 100 la 1,000 de trilioane de interconexiuni sau sinapse pentru a ne gândi toată gândirea pentru noi. Cum proprietățile biologice și chimice ale creierului dau naștere inteligenței? Nimeni nu poate spune sigur. Aceasta este o căutare a veacurilor.

Vă întreb asta, creierul este aparent doar hardware sau este atât hardware cât și software combinat?

Taitei pe jocul acela.

Ați putea fi tentat să susțineți că creierul este pur și simplu hardware (în sens general). Este un organ al corpului. În mod similar, ați putea spune că inima este hardware, vezica este hardware și așa mai departe. Toate sunt mecanizări asemănătoare când vorbim despre artefacte care au o formă fizică și fac acțiuni legate fizic.

Atunci unde este software-ul care rulează oameni?

Aș îndrăzni să sugerez că suntem aproape cu toții de acord că „software-ul” omenirii se află cumva în creier. Pașii necesari pentru a găti un ou sau pentru a repara o anvelopă deplată sunt instrucțiuni care sunt întruchipate în creierul nostru. Folosind acea analogie computerizată a hardware-ului și software-ului menționată mai devreme, creierul nostru este o piesă hardware, așa cum ar fi, pentru care învățăm despre lume și instrucțiunile despre ce să facem sunt „rulează” și „stocate” în creierul nostru.

Pe un computer, putem indica cu ușurință hardware-ul și spunem că acesta este hardware. Putem avea o listă de cod sursă și să indicam lista ca software. În zilele noastre, descarcăm electronic online software și îl instalăm pe laptopurile și smartphone-urile noastre. În vremurile de demult, folosim dischete și carduri perforate pentru a stoca software-ul nostru pentru a fi încărcat pe hardware-ul computerului.

Te bag într-o enigmă importantă.

Odată ce ai învățat ceva și cunoștințele sunt prezente în creierul tău, mai poți face distincția între „hardware-ul” creierului tău și presupusul „software” al creierului tău?

O poziție argumentată este că cunoștințele din creierul tău nu sunt deosebit de separabile de concepțiile despre hardware și software. Astfel, analogia cu natura computerelor se defectează, ar susține unii cu fervoare. Cunoștințele din creier sunt împletite și inseparabile de hardware-ul creierului tău. Proprietățile biologice și chimice împletesc cunoștințele pe care le deții mental.

Tocăniți pe asta pentru un pic de reflecție mentală.

Dacă sperăm să creăm într-o zi computere care să fie la egalitate cu inteligența umană sau chiar să depășească inteligența umană, poate că putem folosi structurile creierului și funcționarea lui interioară ca ghid pentru ceea ce trebuie să facem pentru a atinge un obiectiv atât de înalt. Pentru unii din domeniul AI, există convingerea că, cu cât știm mai multe despre modul în care funcționează creierul, cu atât sunt mai mari șansele noastre de a crea IA adevărată, uneori denumită Inteligență Generală Artificială (AGI).

Alții din IA sunt mai puțin îndrăgostiți să știe cum funcționează creierul. Ei subliniază faptul că putem proceda rapid la crearea AI, indiferent dacă suntem capabili să deblocam funcționarea interioară secretă a creierului. Nu lăsați misterele creierului să împiedice eforturile noastre de AI. Sigur, continuă să încerci să decodificăm și să descifrem creierul uman, dar nu putem sta și aștepta ca creierul să fie modificat prin inginerie inversă. Dacă asta într-o zi este realizabilă, vești minunate, deși poate că este o imposibilitate sau va apărea eoni de acum încolo.

Sunt gata să împărtășesc acum cu voi disputa muritoare și nemuritoare computerizată. Vă rugăm să vă asigurați că sunteți așezat și gata pentru marea dezvăluire.

Un computer care are o separare clară a hardware-ului și a software-ului ar putea fi pretins ca fiind „nemuritor” prin faptul că hardware-ul poate persista pentru totdeauna (în anumite limite, desigur), în timp ce software-ul ar putea fi scris și rescris din nou și din nou. Puteți menține un computer convențional în funcțiune atâta timp cât puteți face reparații la hardware și păstrați dispozitivul capabil să pornească. Puteți folosi încă și astăzi computerele de casă brute din anii 1970, care erau incluse în kituri pentru asamblare, în ciuda faptului că aveau aproape cincizeci de ani și ceva (mult timp în ani de calculator).

Să presupunem totuși că am optat pentru a face computere care aveau hardware-ul și software-ul funcționând inseparabil (voi spune mai multe despre asta în scurt timp). Luați în considerare acest lucru pe aceeași bază pe care am menționat mai devreme că, probabil, creierul are o compoziție integrală de hardware și software. Dacă ar fi așa, s-ar putea sugera că computerul de acest gen nu ar mai fi nemuritor. În schimb, ar fi interpretat ca fiind „muritor”.

Conform observațiilor făcute la conferința NeurIPS de către vorbitorul principal invitat și remarcabilul guru al inteligenței artificiale Geoffrey Hinton și după cum se arată în lucrarea sa de cercetare însoțitoare:

• „Computerele digitale de uz general au fost proiectate să urmeze cu fidelitate instrucțiunile, deoarece s-a presupus că singura modalitate de a face ca un computer de uz general să îndeplinească o anumită sarcină a fost să scrie un program care să specifice exact ce trebuie făcut în detaliu chinuitor. Acest lucru nu mai este adevărat, dar comunitatea de cercetare a întârziat să înțeleagă implicațiile pe termen lung ale învățării profunde asupra modului în care sunt construite computerele. Mai precis, comunitatea s-a agățat de ideea că software-ul ar trebui să fie separabil de hardware, astfel încât același program sau același set de greutăți să poată fi rulat pe o copie fizică diferită a hardware-ului. Acest lucru face ca cunoștințele conținute în program să moare sau greutățile nemuritoare: cunoașterea nu moare când hardware-ul moare” (așa cum este conținut și citat din lucrarea sa de cercetare „Algoritmul Forward-Forward: Some Preliminary Investigations”, preprint disponibil online) .

Rețineți că tipul special de calcul discutat în acest tip de IA utilizează rețelele neuronale artificiale (ANN).

Să îndreptăm lucrurile în legătură cu asta.

Există neuroni biologici din lumea reală în creierul nostru. Le folosești tot timpul. Ele sunt interconectate biologic și chimic într-o rețea în noggin-ul tău. Astfel, ne putem referi la aceasta ca a rețele neuronale.

În altă parte, există „neuroni” falși pe care îi reprezentăm computațional în computere în scopul creării AI. Mulți oameni din AI se referă și la acestea ca rețele neuronale. Cred că acest lucru este oarecum confuz. Vedeți, prefer să mă refer la ei ca artificial rețele neuronale. Acest lucru vă ajută să faceți distincția imediată între o referire la din capul dvs rețele neuronale (lucru real, parcă) și cele bazate pe computer (artificial rețele neuronale).

Nu toată lumea ia această poziție. Mulți oameni din AI presupun că toți ceilalți din AI „știe” că atunci când se referă la rețele neuronale, aproape întotdeauna vorbesc despre ANN-uri – cu excepția cazului în care apare o situație în care dintr-un motiv oarecare doresc să discute despre neuroni reali și rețele neuronale reale în creier.

Am încredere că mă pricepi. De cele mai multe ori, oamenii AI vor spune „rețele neuronale”, ceea ce este potențial ambiguu pentru că nu știi dacă se referă la cele reale din capul nostru sau la cele computaționale pe care le programăm în computere. Dar, din moment ce oamenii AI se confruntă în general cu instanțe bazate pe computer, ei presupun implicit că vă referiți la rețele neuronale artificiale. Îmi place să adaug cuvântul „artificial” în partea din față a formulării pentru a fi mai clar în ceea ce privește intențiile.

Mergând mai departe, puteți considera oarecum acești neuroni artificiali computaționali ca o simulare matematică sau computațională a ceea ce credem că fac neuronii fizici biochimici reali, cum ar fi utilizarea valorilor numerice ca factori de ponderare care altfel se întâmplă biochimic în creier. Astăzi, aceste simulări nu sunt atât de complexe precum neuronii reali. ANN-urile actuale sunt o reprezentare matematică și computațională extrem de brută.

În general, ANN-urile sunt adesea elementul de bază pentru învățarea automată (ML) și învățarea profundă (DL) - vă rugăm să fiți conștienți de faptul că există mult mai multe detalii în acest sens și vă îndemn să aruncați o privire asupra acoperirii mele extinse despre ML/DL. la linkul aici și linkul aici, De exemplu.

Revenind la tipurile de computere nemuritoare versus muritoare, iată mai multe despre care să rumem, conform cercetătorului:

• „Separarea software-ului de hardware este unul dintre fundamentele informaticii și are multe beneficii. Face posibilă studierea proprietăților programelor fără a vă face griji cu privire la inginerie electrică. Face posibilă scrierea unui program o dată și copiarea acestuia pe milioane de computere. Dacă, totuși, suntem dispuși să renunțăm la nemurire, ar trebui să fie posibil să realizăm economii uriașe în energia necesară pentru a efectua un calcul și în costul fabricării hardware-ului care execută calculul. Putem permite variații mari și necunoscute ale conectivității și neliniarităților diferitelor instanțe de hardware care sunt destinate să îndeplinească aceeași sarcină și se bazează pe o procedură de învățare pentru a descoperi valorile parametrilor care folosesc eficient proprietățile necunoscute ale fiecărei instanțe particulare de hardware-ul. Aceste valori ale parametrilor sunt utile doar pentru acea instanță hardware specifică, astfel încât calculul pe care îl efectuează este mortal: moare odată cu hardware-ul” (ibid).

Acum ți-a fost prezentat modul în care nemuritorii și muritorii sunt folosiți în acest context.

Lasă-mă să explic.

Propunerea este că un computer care este construit special pe baza ANN-urilor ar putea fi conceput astfel încât hardware-ul și software-ul să fie considerate inseparabile. Odată ce hardware-ul într-o zi nu mai funcționează (care, desigur, spunem că înglobează integral software-ul), acest tip de computer aparent nu mai este util și nu va mai funcționa. Se spune că este muritor. Ați putea la fel de bine să îngropați computerul bazat pe ANN, deoarece nu vă va ajuta prea mult de acum înainte, după ce hardware-ul și software-ul inseparabile nu mai funcționează viabil ca o echipă.

Dacă ai vrea să încerci să raportezi asta la analogia cu un creier uman, s-ar putea să-ți imaginezi situația tristă a unui creier uman care se deteriorează complet sau care este cumva afectat iremediabil. Acceptăm ideea că o persoană este muritoare și creierul său va înceta în cele din urmă și inevitabil să funcționeze. Cunoștințele pe care le conțineau în creierul lor nu mai sunt disponibile. Dacă nu s-a întâmplat să încerce să spună altora sau să noteze ceea ce știau, cunoștințele lor au dispărut în întreaga lume.

Fără îndoială, ați auzit sau văzut rapoarte despre încercări de a conserva creierul, cum ar fi punerea lor într-o stare de înghețare, conform teoriei că poate oamenii ar putea fi într-o zi nemuritori sau cel puțin să se extindă dincolo de viețile lor obișnuite. Creierul tău ar putea trăi, chiar dacă nu în corpul tău. O mulțime de filme și povești SF au speculat astfel de idei.

Acum suntem pregătiți pentru o privire detaliată a computerului muritor și a computerului nemuritor ca concept și a ceea ce prevestește.

Discuție atentă și analiză atentă

Înainte de a pătrunde în curajul acestei analize a abordării postulate, merită menționate câteva avertismente importante și puncte suplimentare.

Cercetătorul a subliniat că inventat calculatoare muritoare nu ar înlocui în mod special sau ar scoate din existență calculatoare nemuritoare pe care astăzi le numim computere digitale convenționale. Ar exista o coexistență a ambelor tipuri de calculatoare. Spun asta pentru că reacția unora a fost că apelul la comandă a fost o afirmație generală că toate computerele de necesitate se îndreaptă sau se vor îndrepta către tipul muritor.

Nu a fost o pretenție făcută.

În timpul discursului său, el a menționat că acestea s-au specializat orientat neuromorfic calculatoarele ar efectua lucrări de calcul cunoscute ca calcule mortale: „Vom face ceea ce eu numesc calcul mortal, în care cunoștințele pe care sistemul le-a învățat și hardware-ul sunt inseparabile” (așa cum este citat într-un articol ZDNET de Tiernan Ray pe 1 decembrie 2022).

Și mai ales: „Nu va înlocui computerele digitale” (ibid).

De asemenea, aceste noi tipuri de computere nu vor fi în curând la magazinul dvs. local de calculatoare sau disponibile pentru cumpărare online imediat, așa cum a spus în timpul prezentării sale: „Ceea ce cred este că vom vedea un tip complet diferit de computere. computer, nu pentru câțiva ani, dar există toate motivele pentru a investiga acest tip complet diferit de computer.” Utilizările ar diferi și ele: „Nu va fi computerul care se ocupă de contul tău bancar și știe exact câți bani ai.”

O întorsătură suplimentară este că computerele muritoare se pare că ar fi crescute mai degrabă decât să fie fabricate așa cum facem astăzi pentru fabricarea procesoarelor și cipurilor de calcul.

În timpul procesului de creștere, computerul muritor va crește în capacitatea într-un stil de maturizare computațională. Astfel, un anumit computer muritor ar putea începe cu aproape nicio capacitate și ar putea ajunge la ceea ce urmărea să devină. De exemplu, să presupunem că am vrut să creăm telefoane mobile prin utilizarea computerelor muritoare. Ai începe cu o variantă simplă a unui computer muritor care a fost inițial modelat sau însămânțat în acest scop. S-ar maturiza apoi în versiunea mai avansată pe care o căutați. Pe scurt: „Ai înlocui asta cu fiecare dintre acele telefoane mobile ar trebui să înceapă ca un telefon mobil pentru copii și ar trebui să învețe cum să fie un telefon mobil.”

Pe una dintre diapozitivele sale fundamentale despre calculul muritorilor, beneficiile au fost descrise astfel: „Dacă abandonăm nemurirea și acceptăm că cunoștințele sunt inextricabile din detaliile fizice precise ale unei anumite piese hardware, obținem două mari beneficii: (1) Putem folosi calcule analogice de foarte mică putere, (2) Putem crește hardware-ul a cărui conexiune precisă și comportament analogic sunt necunoscute.”

O parte a aceleiași discuții și, de asemenea, așa cum este conținută în lucrarea sa de cercetare preprint, este o tehnică propusă pentru modul în care ANN-urile pot fi mai bine concepute, la care se referă ca folosind o înainte-înainte abordare în rețea. Unii dintre voi care sunt experimentați în ANN sunt, fără îndoială, deja destul de conștienți de utilizarea backpropagation sau back-prop. S-ar putea să doriți să aruncați o privire la tehnica sa propusă înainte-înainte. Voi acoperi această abordare fascinantă într-o postare viitoare în coloană, așa că fiți atenți la următoarea mea abordare despre asta.

Schimbând vitezele, să luăm în considerare ce se spune pe holuri și pe străzi ale comunității AI despre această nebunie calculator muritor mașinație.

Vom începe cu ceea ce unii ar spune că este un non-începător pe tema totul spus.

Eşti gata?

Nu mai numi chestia asta a mortal computer.

De asemenea, nu mai proclamă că computerele convenționale de astăzi sunt nemuritor.

Ambele utilizări sunt pur și simplu greșite și abundent înșelătoare, îndeamnă scepticii.

O definiție de dicționar de zi cu zi a ceea ce este nemuritor constă în ceva care nu poate muri. Ea trăiește pentru totdeauna. Pentru a nu muri, probabil că trebuie să spui că lucrul în sine este viu. Mergeți pe drumul greșit pentru a afirma că computerele de astăzi sunt vii. Nicio persoană rezonabilă nu ar atribui computerelor moderne proprietăți „vii” de bună credință. Sunt mașini. Sunt lucruri. Ei nu sunt persoane sau animale sau în stare de viață.

Dacă doriți să extindeți definiția nemuritorului pentru a permite că ne referim și la entități nevii, în acest caz, entitatea nevii se pare că nu va trebui să se degradeze niciodată și nu se va putea dezintegra inevitabil în praf. Puteți face o astfel de afirmație despre computerele de astăzi? Acest lucru pare extins (notă secundară: am putea desigur să intrăm într-o mare discuție filosofică despre natura materiei și existenței, dar să nu mergem acolo în acest caz).

Esența este că utilizarea sau unii ar spune că folosirea greșită a cuvintelor „muritor” și „nemuritor” este ciudată și nepotrivită. Luarea unui limbaj vernacular folosit în mod obișnuit și reutilizarea lui în alte scopuri este confuz și face apele tulburi. Trebuie să fii dispus să reconceptualizezi aparent ce înseamnă muritor și nemuritor în acest context specific. Acest lucru devine problematic.

Și mai deconcertant este că aceste alegeri de cuvinte tind să antropomorfizeze aspectele computerizate.

Există deja mai mult decât suficiente probleme asociate cu antropomorfizarea IA, cu siguranță nu trebuie să inventăm mai multe astfel de posibilități. După cum am discutat pe larg în acoperirea mea despre Etica AI și IA etică, există tot felul de moduri sălbatice prin care oamenii atribuie capacități sensibile computerelor. La rândul său, acest lucru îi induce pe oameni să creadă în mod fals că computerele bazate pe inteligență artificială pot gândi și acționa ca oamenii. Este o pantă alunecoasă a punerii în pericol atunci când societatea devine amânată să creadă că AI și computerele de astăzi sunt la egalitate cu intelectul și bunul simț al omenirii, vezi, de exemplu, analiza mea la linkul aici și linkul aici.

Bine, putem respinge sau disprețuim alegerile incomode de formulare, dar sugerează asta că ar trebui să aruncăm copilul cu apa de baie (o expresie veche, probabil aproape de pensionare)?

Unii susțin că poate putem găsi o formulare mai bună pentru această abordare sau concepție generală. Renunțați la utilizarea cuvintelor „muritoare” și „nemuritoare”, astfel încât restul ideilor să nu fie afectate de o utilizare inadecvată sau necorespunzătoare. Între timp, există contraargumente că este perfect acceptabil să folosim acele alegeri de cuvinte, fie pentru că sunt potrivite, fie pentru că nu ar trebui să fim inflexibili în ceea ce privește modul în care optăm pentru reutilizarea cuvintelor. Un trandafir este un trandafir cu orice alt nume, declară ei.

Pentru a evita o dezbatere acerbă ulterioară aici, voi evita de acum înainte să folosesc cuvintele „muritor” și „nemuritor” și voi spune doar că avem două tipuri majore de computere care sunt grupate, unul care este un computer digital convențional de astăzi și altul este o propunere neuromorf computer.

S-ar părea că nu este nevoie să trageți problema mortalității în asta. Țineți cerul senin pentru a vedea ce altceva putem face din problema în cauză.

În acest caz, unii ar susține că ideea propusă a unui computer neuromorf nu este nimic nou.

Puteți urmări din timpurile anterioare ale AI, mai ales când ANN-urile erau explorate inițial și să vedeți că se vorbea despre conceperea computerelor specializate pentru a face munca rețelelor neuronale artificiale. Au fost propuse tot felul de hardware nou. Acest lucru se întâmplă și astăzi. Desigur, ați putea contraargumenta că cea mai mare parte a explorării de astăzi a hardware-ului specializat pentru ANN-uri și învățarea automată se bazează încă pe abordarea convențională a calculului. În acest sens, această inseparabilitate analogică a hardware-ului și software-ului împinge oarecum plicul, și propunerea de „creștere” a computerului face și ea, cel puțin în ceea ce privește ieșirea în afara curentului principal considerat.

Pe scurt, există unii care sunt pe deplin cufundați în aceste chestiuni și sunt surprinși de faptul că oricine altcineva ar putea fi surprins de propunerile prezentate. Aceste noțiuni fie sunt aceleași ca înainte, fie reflectă ceea ce este deja examinat în diferite laboratoare de cercetare.

Nu-ți pune părul în agitație, spun ei.

Acest lucru ne duce la o altă fațetă care este deranjantă pentru mulți.

Intr-un cuvant: Previzibilitate.

Calculatoarele de astăzi sunt în general considerate previzibile. Puteți arunca o privire asupra hardware-ului și software-ului pentru a afla ce va face computerul. De asemenea, puteți urmări ceea ce a făcut deja un computer pentru a afla de ce a făcut orice a făcut. Desigur, există limite pentru a face acest lucru, prin urmare, nu vreau să exagerez predictibilitatea, dar cred că înțelegi ideea în general.

S-ar putea să știți că una dintre problemele spinoase cu care se confruntă AI astăzi este că o anumită IA este concepută pentru a se auto-ajusta. AI pe care dezvoltatorii l-au pus la punct se poate schimba singur în timp ce este utilizat. În domeniul eticii AI, există numeroase exemple de IA care au fost puse în uz, care la început nu au avut părtiniri nejustificate sau tendințe discriminatorii, care apoi au fost auto-mutate din punct de vedere computațional în timpul în care IA a fost în producție, vezi meu evaluări detaliate la linkul aici.

Îngrijorarea este că intrăm deja într-un cadru care implică AI care nu este neapărat previzibil.

Să presupunem că AI pentru sistemele de arme suferă autoajustări și rezultatul este că AI armează și lansează arme letale în ținte și momente neprevăzute. Oamenii ar putea să nu fie în buclă pentru a opri AI. Oamenii care sunt în buclă ar putea să nu poată răspunde suficient de repede pentru a depăși acțiunile AI. Pentru exemple suplimentare înfricoșătoare, consultați analiza mea la linkul aici.

Pentru computerele neuromorfe, preocuparea este că punem imprevizibilitate pe steroizi. De la început, esența unui computer neuromorf ar putea fi că funcționează într-un mod care sfidează predicția. Ne etalăm cu imprevizibilitate. Devine o insignă de onoare.

Două tabere există.

O tabără spune că putem trăi cu preocupările neplăcute de imprevizibilitate, făcând acest lucru punând balustrade pentru a împiedica AI să meargă prea departe pe un pod. Cealaltă tabără susține că duceți lumea pe o cale periculoasă. Va apărea o zi în care balustradele revendicate fie eșuează, fie nu sunt suficient de stricte, fie că din accident sau intenție răutăcioasă balustradele sunt îndepărtate sau cu care se vor juca.

Ar trebui să înlăturăm scrupule cu privire la computerele neuromorfe și predictibilitate?

Conform observațiilor cercetătorului: „Printre oamenii care sunt interesați de calculul analogic, sunt încă foarte puțini cei care sunt dispuși să renunțe la nemurire”. În plus: „Dacă vrei ca hardware-ul tău analogic să facă același lucru de fiecare dată... Ai o problemă reală cu toate aceste lucruri electrice rătăcite și chestii.”

O să ridic asta.

O perspectivă care se profilează și oarecum sumbră este că așa-numita predictibilitate asociată cu computerele digitale de astăzi merge oricum în direcția impredictibilității. După cum am menționat, acest lucru se poate întâmpla în special în funcție de AI care se autoajustează pe platformele computerizate convenționale. Doar pentru că computerele neuromorfe ar putea fi aparent imprevizibile, nu este un semn că computerele digitale convenționale sunt de fapt previzibile.

Steamrollerul impredictibil vine la noi, cu abur, indiferent de platforma de calcul pe care doriți să o alegeți. Pentru evaluarea mea a celor mai recente eforturi de a încerca și a obține siguranța AI în această lumină, a se vedea linkul aici.

Această întorsătură a predictibilității ar trebui să-ți facă mintea să se gândească la ceva de natură dezgropată. Aceia dintre voi care sunteți implicați în Etica AI și Legea AI ar putea nu au luat în considerare ramificațiile calculatoare neuromorfe.

Probabil că ați vizat computerele digitale convenționale care rulează AI. Ei bine, ghiciți ce, aveți un segment complet suplimentar și în curs de dezvoltare de calcul AI de care vă puteți îngrijora acum noaptea. Da, computere neuromorfe. Pune asta pe lista ta de lucruri de făcut.

Îmi pare rău, mai multe nopți nedormite pentru tine.

Să luăm în considerare pe scurt ce au făcut Etica AI și Legea AI cu informatica digitală convențională și AI.

În coloanele anterioare, am acoperit diferitele eforturi naționale și internaționale de a elabora și a adopta legi care reglementează IA, vezi linkul aici, de exemplu. Am tratat, de asemenea, diferitele principii și linii directoare ale eticii IA pe care diferitele națiuni le-au identificat și adoptat, inclusiv, de exemplu, efortul Națiunilor Unite, cum ar fi setul UNESCO de etică IA pe care aproape 200 de țări l-au adoptat, vezi linkul aici.

Iată o listă de temelie utilă a criteriilor sau caracteristicilor AI etice privind sistemele AI pe care le-am explorat anterior îndeaproape:

• Transparență
• Justiție și corectitudine
• Non-Malefință
• Responsabilitate
• Privacy
• Beneficiență
• Libertate & Autonomie
• Încredere
• Durabilitate
• Demnitate
• Solidaritate

Se presupune că acele principii de etică AI sunt utilizate cu seriozitate de dezvoltatorii AI, împreună cu cei care gestionează eforturile de dezvoltare AI și chiar și cei care în cele din urmă activează și realizează întreținerea sistemelor AI.

Toate părțile interesate de-a lungul întregului ciclu de viață al dezvoltării și utilizării AI sunt considerate în scopul respectării normelor stabilite de IA etică. Acesta este un punct important, deoarece presupunerea obișnuită este că „doar codificatorii” sau cei care programează IA sunt supuși aderării la noțiunile de etică AI. După cum s-a subliniat anterior aici, este nevoie de un sat pentru a concepe și a pune în aplicare IA, și pentru care întregul sat trebuie să cunoască și să respecte preceptele de etică AI.

Partea la care s-ar putea să nu te fi gândit prea mult anterior este modul în care aceleași precepte de etică AI și lista în plină dezvoltare a noilor legi AI se vor aplica computerelor neuromorfe. Pentru a clarifica, Etica AI și Legea AI trebuie să țină cont de acest lucru în mod explicit. Subliniez că puțini fac acest lucru și să fiți avertizat că există o șansă ca apariția computerelor neuromorfe să arunce pe mulți pentru o buclă în ceea ce privește o nouă dimensiune pentru a încerca să domnească în AI.

Trebuie să luăm în considerare IA etică și legile AI într-un mod suficient de larg pentru a cuprinde orice IA este nou concepută, inclusiv computerele neuromorfe.

Alternativa cu balansoar este un gambit clasic de pisică și șoarece. Iată cum merge. Sunt concepute și construite noi moduri de a crea IA. Etica AI și legile AI existente sunt luate pe nepregătite și nu cuprind pe deplin cele mai recente șmecherii AI. Se depune un efort grăbit pentru a actualiza preceptele AI etice și pentru a modifica acele Legi AI recent elaborate.

Spumă, clătește, repetă.

Ar fi mai bine pentru noi toți să rămânem înaintea jocului, decât să fim prinși în spatele mingii opt.

Concluzie

Te-am dus într-o mică călătorie.

La început, am oferit că vor fi două subiecte majore de examinat:

1) Legarea integrală atât a hardware-ului, cât și a software-ului pentru mecanizările AI, mai degrabă decât a le avea ca aliați distincti și separați

2) Transferarea sau distilare de formulări de învățare automată de la un model AI la altul care face acest lucru fără a necesita și nici a dori neapărat (sau chiar fezabil altfel posibil) o copiere directă de rasă pură.

Primul subiect despre legarea între hardware și software a fost cea mai mare parte a călătoriei aici. Acest lucru ne-a condus în mlaștina informatică muritor versus nemuritoare. Din care au existat câteva considerații cruciale privind Etica AI și Legea AI, care altfel nu ar fi de obicei abordate, deoarece acest tip de subiect legat de computer este de obicei văzut de unii ca unul pur tehnologic, mai degrabă decât să implice vreo preocupare de impact asupra societății.

Eu spun că cel mai înțelept este să fii mai devreme și mai în siguranță, mai degrabă decât mai târziu și mai rău atunci când vine vorba de aducerea în discuție a IA etică și a Legii IA.

Al doilea subiect, pe care încă nu l-am articulat aici, se referă material la primul subiect.

Uite care-i propunerea.

Să presupunem că avem un „calculator muritor” și dorim să păstrăm capabilitățile, astfel încât să putem avea o copie de rezervă sau copii aparent a ceea ce conține AI. Ne-am putea îngrijora că un anumit computer muritor se apropie de sfârșit. Da, suntem dependenți de asta. Ce trebuie să facem? Un răspuns este că ar trebui să copiem blestemul.

Însă, copierea unui computer neuromorf de tipul care este schițat va fi mai dificilă decât ar părea la prima vedere. Lucrurile pot deveni complicate.

Poate că ar trebui să venim cu o strategie de copiere care să fie generalizabilă și aplicabilă circumstanțelor care implică învățarea automată și rețelele neuronale artificiale. Ne dorim ca acest lucru să funcționeze pe instanțe la scară mare și la scară extrem de mare. Am fi și noi dispuși ca copia să nu fie un duplicat exact și, în schimb, ar putea fi în esență echivalentă sau poate chiar mai bine concepută ca rezultat al acțiunii de copiere.

O tehnică cunoscută ca distilare a fost propus.

Am rămas fără spațiu pentru coloana de astăzi, așa că voi aborda acest al doilea subiect într-o coloană viitoare. M-am gândit că ați dori să aflați imediat despre relația dintre al doilea subiect și primul subiect care a fost tratat pe larg aici. Gândiți-vă la asta ca la o notă suplimentară care servește ca un teaser sau un trailer al ceea ce urmează.

Rămâneți pe marginea scaunului dvs., deoarece subiectul distilarii este unul destul de bun.

Așa cum obișnuia să spună Batman, ține-ți aripile de liliac încrucișate și fii pregătit pentru același timp de lilieci și același canal de dezlegare a întrebării enervante despre cum să copiezi un model ANN sau de învățare automată sau un computer neuromorf pe altul.

O remarcă finală deocamdată. Există o replică celebră în film Revine Cavalerul Întunecat în care cruciatul nostru cu capac spune asta: „Lumea are sens doar dacă o forțezi”. Voi încerca să mă țin de acel ideal când voi acoperi al doilea subiect despre distilarea legată de IA.

Rămâneți pe fază pentru partea a 2-a a acestui dublu antet captivant și captivant.