Generative AI ChatGPT versus acele infinite maimuțe care tastează, niciun concurs nu spune că etica AI și legea AI

Maimuțele acelea zbuciumate.

Există un experiment de gândire destul de faimos despre care probabil ați auzit despre maimuțe. Invenția cu totul intrigantă este adesea folosită de cei care doresc să spună un punct deosebit de perfecționat.

Iată cum decurge complotul.

Imaginează-ți că o maimuță tastează la o mașină de scris. Dacă maimuța continuă să tasteze pe o perioadă infinită de timp și presupunând că maimuța tastează cheile pur la întâmplare, șansele sunt ca toate lucrările lui Shakespeare să fie inevitabil tastate.

Esența aparent este că doar prin întâmplare aleatorie este fezabil să obțineți uneori un răspuns inteligibil. Cu toții avem tendința de a fi de acord că operele lui Shakespeare sunt o expoziție extraordinară de scris și raționament inteligibil. Astfel, orice sau orice mijloc de a produce cuvintele prețioase ale lui Shakespeare ar părea a fi uimitor de impresionant, deși, în același timp, am fi strident dezamăgiți că nu a fost de inteligență în sine, ci doar de noroc întâmplător.

Unii încearcă în zilele noastre să compare această metaforă încărcată de maimuțe cu cea mai recentă din Inteligența Artificială (AI).

Probabil știi că cea mai tare formă de AI în zilele noastre este AI generativă, care este exemplificat printr-o aplicație AI foarte populară și cunoscută sub numele de ChatGPT, realizată de OpenAI. Voi explica mai multe despre AI generativ și ChatGPT într-un moment. Deocamdată, trebuie să știți că aceasta este o aplicație AI text-to-text sau text-to-essay care poate produce un eseu pentru dvs. pe baza unui prompt introdus la alegerea dvs.

Conexiunea pretinsă legată de legendara maimuță care tastează este că se presupune că eseurile impresionante, produse de AI generativă, care par a fi complet fluente, nu sunt mai uluitoare decât realizările primatei care dactilografiază. Dacă acceptați premisa că o maimuță tastând aleatoriu poate genera operele lui Shakespeare și dacă sunteți dispus să recunoașteți că ChatGPT și alte IA generative sunt aparent la fel, trebuie să concluzionați că AI generativă nu este deloc demnă de remarcat. Este doar aleatorie care ne păcălește.

Ei bine, acesta ar putea părea un caz convingător, dar trebuie să-l despachetăm. O despachetare atentă va arăta că comparația dintre cele două este înșelătoare și clar greșită.

Nu mai faceți comparația. Pentru cei care insistă să continue să facă o comparație, vă rugăm să o faceți cel puțin într-un mod prudent și superior.

Cei care pur și simplu aruncă în jurul valorii de comparație fac un rău AI generativă. Și, preocuparea mai importantă este că acest lucru induce în eroare publicul larg și societatea în general. Presupun că am putea adăuga, de asemenea, că le fac un deserviciu și maimuțelor harnice, sau poate subminează valoarea teoremei maimuțelor de tip infinit. Fii corect. Fii bun. Fii sincer.

Înainte de a intra într-o scufundare profundă în acest sens, există o glumă din interior care valorifică noțiunea de maimuță de tastare. S-ar putea să-ți placă.

Un pic de umor cinic este adesea urmărit de corespondența personală în perioada de glorie inițială a internetului. Acesta este momentul în care Internetul ieșea dintr-un tărâm online sumbru și serios și trecea pe teritoriul neîntrerupt de a fi zgomotos, gălăgios și nestăpânit, pe măsură ce numărul de oameni care foloseau Internetul creștea în mod demonstrabil.

Anecdota plină de umor spune că dacă maimuțele care tastează la mașina de scris ar produce în cele din urmă sau ar putea reproduce întregul corp de lucrări ale lui Shakespeare, acum avem dovada că, datorită apariției internetului, acest lucru trebuie hotărât. nu fii adevărat.

Razi?

Unii consideră că aceasta este o remarcă zgomotos de amuzantă.

Gluma este o dezamăgire a modului în care Internetul, cu toate postările sale spumoase și spumate, nu se ridică la nivelul de a produce Shakespeare. Este o remarcă tăioasă care evidențiază că internetul probabil nu a ridicat discursul, ci a denigrat discursul. Mulți au presupus că Internetul va fi un avantaj pentru interacțiunea inteligentă, permițând discuții care provoacă gândirea pe tot globul. Se pare că nu am fost neapărat martori la asta pe o bază atât de mare pe cât ne-am sperat.

Desigur, am fi neglijenți să luăm gluma ca pe un adevărat prevestitor al ceea ce a produs internetul. Există o mulțime de dezvăluiri grozave și valori demne de remarcat asociate cu Internetul. Gluma este o înfrumusețare sau o exagerare. Cu toate acestea, este bine înțeles că trebuie să fim atenți la conținutul insidios și nebun, în timp ce ne propunem să găsim și să înălțăm lucrări inspiratoare pentru societate prin utilizarea internetului. Pentru acoperirea mea despre modul în care AI poate ajuta și totuși într-un dublă utilizare moda subminează discursul societal prin postări adverse pe internet, vezi discuția mea la linkul aici.

În coloana de astăzi, voi aborda diferențele semnificative dintre IA generativă și povestea clasică a maimuțelor care tastează. Îți voi explica unde nu e scurtă comparația. Fără îndoială, veți ajunge să știți mai multe despre teorema maimuțelor de tastare, împreună cu înțelegerea mai concretă a modului în care funcționează AI generativă. Mă voi referi ocazional la ChatGPT, deoarece este gorila de 600 de lire a AI generativă (pun de cuvinte), deși rețineți că există o mulțime de alte aplicații AI generative și, în general, se bazează pe aceleași principii generale.

Între timp, s-ar putea să vă întrebați ce este de fapt IA generativă.

Să acoperim mai întâi elementele fundamentale ale IA generativă și apoi putem arunca o privire atentă asupra comparațiilor teoremelor maimuțelor de tastare.

În toate acestea se regăsesc o mulțime de considerente de etică AI și de legislație AI.

Vă rugăm să fiți conștienți de faptul că există eforturi în desfășurare pentru a introduce principiile AI etice în dezvoltarea și implementarea aplicațiilor AI. Un contingent tot mai mare de eticieni ai inteligenței artificiale îngrijorați și de altădată încearcă să se asigure că eforturile de a concepe și adopta IA țin cont de viziunea de a face AI pentru bine si evitarea AI pentru rău. De asemenea, există noi legi propuse pentru AI, care sunt puse în discuție ca potențiale soluții pentru a împiedica eforturile AI să devină dezmembrate cu privire la drepturile omului și altele asemenea. Pentru acoperirea mea continuă și extinsă a eticii AI și a legii AI, consultați linkul aici și linkul aici, Doar pentru a numi câteva.

Dezvoltarea și promulgarea preceptelor de IA etică sunt urmărite pentru a preveni, sperăm, ca societatea să cadă într-o multitudine de capcane care inducă IA. Pentru acoperirea mea a principiilor de etică a ONU AI așa cum au fost concepute și susținute de aproape 200 de țări prin eforturile UNESCO, a se vedea linkul aici. Într-o ordine similară, sunt explorate noi legi AI pentru a încerca să mențină AI pe o chilă uniformă. Una dintre cele mai recente preluari constă într-un set de propuse Declarația drepturilor AI pe care Casa Albă a SUA a eliberat recent pentru a identifica drepturile omului într-o epocă a IA, vezi linkul aici. Este nevoie de un sat pentru a menține AI și dezvoltatorii AI pe calea corectă și pentru a descuraja eforturile intemeiate sau accidentale care ar putea submina societatea.

Voi integra în această discuție considerațiile legate de Etica AI și Legea AI.

Fundamentele AI generative

Cea mai cunoscută instanță de IA generativă este reprezentată de o aplicație AI numită ChatGPT. ChatGPT a apărut în conștiința publicului în noiembrie, când a fost lansat de firma de cercetare AI OpenAI. De când ChatGPT a adunat titluri uimitoare și a depășit uimitor cele cincisprezece minute de faimă alocate.

Bănuiesc că probabil ați auzit de ChatGPT sau poate chiar cunoașteți pe cineva care l-a folosit.

ChatGPT este considerată o aplicație AI generativă deoarece ia ca intrare ceva text de la un utilizator și apoi generează sau produce o ieșire care constă într-un eseu. AI este un generator text-to-text, deși descriu AI-ul ca fiind un generator text-to-essay, deoarece asta clarifică mai ușor pentru ce este folosit în mod obișnuit. Puteți folosi AI generativ pentru a compune compoziții lungi sau îl puteți face să ofere comentarii destul de scurte și concise. Totul este la cererea ta.

Tot ce trebuie să faceți este să introduceți o solicitare, iar aplicația AI va genera pentru dvs. un eseu care încearcă să răspundă la solicitarea dvs. Textul compus va părea ca și cum eseul a fost scris de mâna și mintea omului. Dacă ar fi să introduceți un mesaj care spune „Spune-mi despre Abraham Lincoln”, IA generativă vă va oferi un eseu despre Lincoln. Există și alte moduri de AI generativă, cum ar fi text-to-art și text-to-video. Mă voi concentra aici pe variația text-to-text.

Primul tău gând ar putea fi că această capacitate generativă nu pare atât de mare în ceea ce privește producerea de eseuri. Puteți face cu ușurință o căutare online pe Internet și puteți găsi cu ușurință tone și tone de eseuri despre președintele Lincoln. Dezactivarea în cazul IA generativă este că eseul generat este relativ unic și oferă o compoziție originală mai degrabă decât o imitație. Dacă ar fi să încercați să găsiți eseul produs de inteligență artificială online undeva, este puțin probabil să îl descoperiți.

IA generativă este pregătită în prealabil și folosește o formulare matematică și computațională complexă care a fost creată prin examinarea tiparelor din cuvintele scrise și poveștile de pe web. Ca rezultat al examinării a mii și milioane de pasaje scrise, AI poate scoate noi eseuri și povești care sunt o mizerie a ceea ce a fost găsit. Adăugând diferite funcționalități probabilistice, textul rezultat este destul de unic în comparație cu ceea ce a fost folosit în setul de antrenament.

Există numeroase preocupări cu privire la IA generativă.

Un dezavantaj esențial este că eseurile produse de o aplicație AI bazată pe generație pot avea încorporate diverse falsuri, inclusiv fapte vădit neadevărate, fapte care sunt descrise în mod înșelător și fapte aparente care sunt în întregime fabricate. Aceste aspecte fabricate sunt adesea denumite o formă de halucinații AI, o expresie pe care o dezamăgesc, dar, din păcate, pare să câștige popularitate oricum (pentru explicația mea detaliată despre motivul pentru care aceasta este o terminologie proastă și nepotrivită, consultați acoperirea mea la linkul aici).

O altă îngrijorare este că oamenii își pot asuma cu ușurință creditul pentru un eseu generativ produs de inteligență artificială, în ciuda faptului că nu au compus eseul ei înșiși. S-ar putea să fi auzit că profesorii și școlile sunt destul de îngrijorați de apariția aplicațiilor AI generative. Elevii pot folosi AI generativ pentru a scrie eseurile atribuite. Dacă un elev susține că un eseu a fost scris de propria mână, există șanse mici ca profesorul să poată discerne dacă a fost în schimb falsificat de IA generativă. Pentru analiza mea a acestei fațete care confundă elevul și profesorul, consultați acoperirea mea la linkul aici și linkul aici.

Pe rețelele de socializare au existat câteva afirmații exagerate despre AI generativă afirmând că această ultimă versiune a AI este de fapt AI sensibil (nu, au gresit!). Cei din Etica AI și Legea AI sunt îngrijorați în special de această tendință în plină dezvoltare a revendicărilor extinse. Ai putea spune politicos că unii oameni exagerează ceea ce poate face de fapt IA de astăzi. Ei presupun că AI are capacități pe care încă nu le-am putut realiza. Ce păcat. Mai rău încă, ei își pot permite lor și altora să intre în situații îngrozitoare din cauza presupunerii că IA va fi simțitoare sau asemănătoare omului pentru a putea lua măsuri.

Nu antropomorfizați IA.

Dacă procedați astfel, veți fi prins într-o capcană de încredere lipicioasă și dură de a aștepta ca AI să facă lucruri pe care nu le poate realiza. Acestea fiind spuse, cea mai recentă IA generativă este relativ impresionantă pentru ceea ce poate face. Fiți conștienți de faptul că există limitări semnificative pe care ar trebui să le aveți în vedere în mod continuu atunci când utilizați orice aplicație AI generativă.

O ultimă avertizare deocamdată.

Indiferent ce vedeți sau citiți într-un răspuns AI generativ, asta pare pentru a fi transmis ca fiind pur faptice (date, locuri, oameni etc.), asigurați-vă că rămâneți sceptici și sunteți dispus să verificați din nou ceea ce vedeți.

Da, datele pot fi inventate, locurile pot fi inventate, iar elementele la care de obicei ne așteptăm să fie fără reproș sunt toate supus suspiciunilor. Nu credeți ceea ce citiți și păstrați un ochi sceptic atunci când examinați eseuri sau rezultate generative de AI. Dacă o aplicație generativă de inteligență artificială vă spune că Abraham Lincoln a zburat prin țară cu avionul său privat, ați ști fără îndoială că acest lucru este malarky. Din păcate, unii oameni s-ar putea să nu realizeze că avioanele cu avioane nu existau pe vremea lui sau s-ar putea să știe, dar să nu observe că eseul face această afirmație nespusă și scandalos de falsă.

O doză puternică de scepticism sănătos și o mentalitate persistentă de neîncredere vor fi cel mai bun atu al tău atunci când folosești IA generativă.

Suntem gata să trecem la următoarea etapă a acestei elucidări.

Ce se întâmplă cu acele maimuțe care tastează

Acum că aveți o imagine a ceea ce este IA generativă, putem explora comparația cu maimuțele care tastează. Într-un fel, voi dezasambla treptat teorema de tastare a maimuței. Fac asta pentru a lumina bazele. Apoi putem folosi elementele revelate pentru a face o comparație cu AI generativă.

Teorema sau ipoteza maimuțelor de tastare conține un set de bază de elemente:

• a) Cine sau Ce. Creatura sau actorul identificat care face tastarea
• b) Numărul și longevitatea. Câte dintre ele sunt și statutul lor de longevitate
• c) Simboluri transmise. Producerea de litere și simboluri cunoscute printr-un dispozitiv rudimentar
• d) Timpul. Durata de realizare a sarcinii
• e) Inteligența. Ce inteligență aduc ei în îndeplinirea sarcinii
• f) Rezultate vizate. Producția vizată a ceea ce vrem să producă

Să examinăm mai întâi maimuțele care tastează.

Vă amintiți că am menționat la deschiderea acestei discuții că trebuia să ne imaginăm că o maimuță tasta la o mașină de scris. M-am referit la conceptele de bază ca implicând doar o maimuță care face acest lucru. Putem ajusta acea fațetă.

Iată moduri în care situația este adesea descrisă:

• O maimuță solitară cu o existență muritoare de zi cu zi
• O mie de astfel de maimuțe
• Un milion de astfel de maimuțe
• Un număr infinit de astfel de maimuțe
• O maimuță solitară care este nemuritoare
• Un anumit număr de maimuțe nemuritoare
• Etc

Observați că, în loc să avem o singură maimuță, am putea reforma experimentul de gândire și să avem o multitudine de maimuțe care lucrează probabil simultan. Mai mult, un alt aspect reglabil este dacă maimuțele sunt muritoare sau nemuritoare. Voi săpa mai departe în acest moment.

De asemenea, trebuie să includem factorul timp ca ingredient crucial.

De obicei, factorul timp este unul dintre aceste două considerente:

• Perioada de timp finita
• Timp infinit

Un alt element subiacent oarecum nerostit este că maimuțele sunt folosite în acest caz, deoarece le considerăm relativ negândite. Ei nu știu să scrie sau să citească. Ei nu sunt capabili să manifeste inteligență în același mod în care asociem inteligența cu capacitățile umane.

Acest lucru este oarecum jignitor atunci când vă gândiți puțin. Cred că toți putem fi de acord în mod rezonabil că maimuțele sunt uimitor de inteligente, cel puțin pentru ceea ce pot realiza în limitele lor de gândire. Aș îndrăzni să spun că atribuim maimuțelor o mai mare pricepere de gândire decât o facem multor alte animale. Există o mulțime de experimente de cercetare studioase care au fost făcute pentru a arăta cât de ascuțite din punct de vedere mental pot fi maimuțele.

În orice caz, în sensul metaforei, presupunerea este că maimuțele nu sunt capabile să gândească într-o măsură în care ar putea să conceapă de la sine operele lui Shakespeare. În timp ce filmul clasic Planeta Maimutelor a încercat să ne avertizeze că aceasta ar putea fi o presupunere greșită, oricum mergem cu ea în lumea de astăzi.

Dacă am înlocuit folosirea furnicilor cu maimuțe, metafora se risipește oarecum. Nu credem că furnicile sunt capabile să tasteze la mașina de scris. Am putea încerca să înlocuim folosirea câinilor sau a pisicilor, deoarece acestea aproape că ar putea să tasteze la o mașină de scris, dar în cele din urmă, utilizarea maimuțelor este cea mai bună, deoarece acestea pot scrie într-un mod care amintește de tastarea oamenilor. Ei au membrele și structura corporală adecvate pentru a îndeplini sarcina la îndemână. De asemenea, mental sunt priviți ca capabili să tasteze, deși presupunem că nu știu ce tastează.

În afară de aceasta, au existat multe experimente de cercetare care au implicat maimuțe și recunoașterea lor a simbolurilor. În aceste diverse studii au fost incluse configurații care au făcut ca maimuțele să tasteze la mașini de scris sau dispozitive similare. Dacă este făcut în mod corespunzător, acest lucru poate fi semnificativ în căutarea unor perspective utile despre inteligență și apariția unor comportamente inteligente.

Din păcate, cercetările care implică tastarea la mașini de scris nu sunt uneori făcute într-un mod deosebit de serios. Uneori, abordarea folosită nu a fost altceva decât o clincheială slabă a capului către celebra sau infama teoremă de tastare a maimuțelor, mai degrabă decât către activitățile de cercetare fundamentală de bună credință. Mie nu mi se pare amuzante sau potrivite astfel de tragedii. Ideea a fost că maimuțelor li s-au dat fizic mașini de scris și au fost încurajate să tasteze pe baza capriciului lor sau, uneori, pentru delicii precum mâncarea. Cu excepția cazului în care acest lucru este făcut într-o manieră experimentală robustă, de bună credință, nu este nimic mai mult decât o fațadă.

O ușoară întorsătură care este mai plăcută constă în crearea de simulări pe computer care pretind să realizeze ceea ce maimuțele ar putea face în aceste circumstanțe. Calculatorul este folosit pentru a simula aceste aspecte. Nu sunt implicate maimuțe reale. Unii au mers chiar atât de departe încât au făcut un pic de așa-zis știința cetățenească prin repartizarea simularii către oricine dorește să permită ca laptopul sau computerul lor să fie folosit pentru aceste eforturi. Nu vă lăsați de înșelătorii false care pretind în mod insidios că fac asta pentru știință, atunci când realitatea este că încearcă să vă infecteze computerul cu un virus informatic. Fii atent.

Revenind la problema în discuție.

Un aspect care este, de asemenea, esențial pentru circumstanță este că mașinile de scris sunt folosite în acest ipotetic maimuță de tastare.

De ce mașini de scris?

Pentru că așa putem obține producția de litere, care apoi pot fi transformate în cuvinte, care pot fi apoi transformate în povești. Aceeași noțiune sau similară de a produce o mulțime de litere nu necesită neapărat să le introducem. Într-adevăr, există variante ale acestei metafore care se întorc în zilele lui Aristotel și, prin urmare, nu existau mașini de scris pe atunci.

Am putea schimba metafora și să ne referim la tastaturile și computerele moderne. Am putea spune că maimuțele bat cu un laptop sau poate chiar pe un smartphone. Frumusețea referirii la mașini de scris este că asociem mașinile de scris ca fiind necomputerizate și, prin urmare, nu ajută la procesul de tastare în sine. Acest lucru este esențial pentru mecanismul implicat.

În cele din urmă, ni se prezintă de obicei aspectul că operele lui Shakespeare urmează să fie produse. Am putea înlocui cu ușurință Shakespeare cu orice alt autor cunoscut. S-ar putea să dorim să știm dacă maimuțele pot produce lucrările întregi ale lui Charles Dickens, Jane Austen, Ernest Hemingway și așa mai departe. Nu contează în mod deosebit. Esența este că scrisul trebuie să fie ceva pe care îl știm cu toții și despre care recunoaștem că este o scriere remarcabilă.

Putem înlocui cu ușurință orice scriere pe care dorim să o setăm ca țintă.

Comoditatea de a face referire la Shakespeare este că lucrările sale sunt interpretate ca fiind cel mai de sus sau apogeul scrisului uman. În schimb, am putea găsi un eseu scris de un elev de clasa întâi și să-l folosim ca țintă. Credeți sau nu, aceleași precepte încă se aplică. Oamenii probabil că nu ar găsi acest lucru inspirator că maimuțele au putut să reproducă scrisul unui copil. Pentru a menține lucrurile captivante, scrisul trebuie să fie de cel mai înalt calibru.

O variantă a producției vizate ar fi să se refere la o anumită operă a lui Shakespeare, mai degrabă decât la întregul său corp de lucrări. După cum veți vedea în curând, nu are nicio diferență în esența chestiunii. Bănuiesc că mulți oameni tind să menționeze Cătun ca parte a teoremei de tastare a maimuței, poate din moment ce aceasta se întâmplă să fie cea mai lungă joacă a lui, însumând o dimensiune raportată de 29,551 de cuvinte (compusă din aproximativ 130,000 de litere sau cam asa ceva).

Oricare dintre piesele lui ar fi de ajuns.

Întreaga invenție depinde de diferitele legi ale probabilității. S-ar putea să fi învățat despre nuanțele probabilităților în acele cursuri obositoare de statistică și matematică pe care le-ai luat la școală.

Să folosim cuvântul „Hamlet” pentru a vedea ce este nevoie pentru a produce aleatoriu acele șase litere în acea secvență specifică a lui Hamlet.

Cea mai ușoară modalitate de a calcula aritmetic aceasta constă în a presupune că avem un număr rotund ușor al numărului de taste disponibile pe o mașină de scris. Să presupunem că avem o mașină de scris care are 50 de taste distincte și la fel de utilizabile. Fiecare tastă reprezintă un anumit simbol, cum ar fi simbolurile alfabetului englez obișnuit. Să presupunem că tastele sunt aranjate în ordine aleatorie și că nu am manipulat situația punând tastele separate Hamlet într-un anumit aranjament pentru a induce tastarea acelor taste specifice mai mult decât orice alte taste.

Fiecare tastă este apăsată complet independent de orice tastă a fost apăsată înaintea ei. Prin urmare, din cele 50 de taste, șansele ca orice tastă să fie apăsată sunt considerate 1 din 50 de șanse. Același lucru este valabil pentru toate tastele și pe parcursul întregului efort de tastare. Calculul pentru o singură tastă care este apăsată este o șansă de 1 din 50, sau aceasta este 1/50.

Atunci șansele de a tasta litera „H” sunt 1/50, iar șansele de a tasta litera „a” sunt 1/50, iar șansele de a tasta litera „m” sunt 1/50 și așa mai departe.

Aceasta este:

• Probabilitatea ca „H” să fie tastat este de 1/50.
• Probabilitatea ca „a” să fie tastat este 1/50.
• Probabilitatea ca „m” să fie tastat este 1/50.
• Probabilitatea ca „l” să fie tastat este 1/50.
• Probabilitatea ca „e” să fie tastat este 1/50.
• Probabilitatea ca „t” să fie tastat este 1/50.

O regulă sau lege standard a probabilității afirmă că, dacă două sau mai multe evenimente sunt complet independente statistic unul de celălalt, putem calcula șansele ca ambele să se producă prin simpla înmulțire a probabilităților lor una cu alta. Putem face acest lucru cu privire la aceste șase scrisori.

Avem acest calcul: „H” (1/50) x „a” (1/50) x „m” (1/50) x „l” (1/50) x „e” (1/50) x „t” (1/50)

Adică: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Numărul minuscul ajunge la 1/15,625,000,000.

Șansele de a introduce cuvântul din șase litere „Hamlet” sunt de aproximativ una la 15 miliarde, toate celelalte fiind egale.

Sunt șanse descurajante. Și acest lucru este doar pentru tastarea unui anumit cuvânt de șase litere. Încercați să aplicați același calcul celor 29,551 de cuvinte din întreaga piesă Hamlet. Dacă decideți să calculați acest lucru, realizați și că spațiile dintre cuvinte trebuie luate în considerare.

Cu cât rezultatul vizat este mai lung, cu atât cresc șansele împotriva capacității noastre de a genera acele seturi precise de litere și cuvinte. Cotele devin din ce in ce mai mici. Șansele sunt atât de mici încât aproape să aruncăm prosopul și să spunem că se pare că nu s-ar întâmpla „niciodată” (fii precaut când folosești cuvântul „niciodată”, deoarece aceasta este o ceartă formidabilă).

Luați de exemplu o maimuță muritoare.

Conform diferitelor indicații online de renume, durata de viață obișnuită a unei maimuțe în sălbăticie este de aproximativ 40 de ani sau cam asa ceva. Dacă doriți să dezbateți această durată de viață, putem folosi doar numărul 100 și să trecem cu o limită superioară destul de puțin probabilă. O maimuță care tastează la o mașină de scris non-stop timp de o sută de ani, fără să includă timpul de odihnă, timpul de mâncare sau altele asemenea, și presupunând că asta este tot ce a făcut maimuța din momentul nașterii până la ultima suflare, a câștigat totuși nu ajută la egalarea șanselor scrisului Cătun toate spuse (maimuța, dacă tastează o tastă în fiecare secundă fără oprire timp de 100 de ani, ar apăsa aproximativ 3,155,673,600 de taste).

Putem spune în mod rezonabil că este extrem de puțin probabil ca o maimuță muritoare să ajungă să tasteze din întâmplare piesa. Cătun.

Puteți crește numărul de maimuțe muritoare, dar acest lucru nu reduce șansele copleșitoare împotriva tastării Hamlet. Unii presupun că există o mie de maimuțe. O altă abordare spune că există un milion de maimuțe. Presupunând că toți au trăit până la 100 de ani și fiecare a tastat câte o tastă aleatorie pe propria mașină de scris, într-un ritm neîntrerupt de o tastă pe secundă, acest lucru încă nu face o problemă notabilă din punct de vedere statistic în tastarea piesei. Cătun.

Gândește-te la toate acestea.

Oarecum iubitor, unde anume ai adăposti un milion de maimuțe pentru această sarcină? Imaginați-vă și că mașinile de scris trebuie să reziste o sută de ani de utilizare continuă (poți găsi un milion de mașini de scris funcționale pe care nimeni nu le dorește și nu este dispus să le doneze acestui proiect de odinioară?). Se pare că ar trebui să aveți o mulțime de mașini de scris de rezervă gata imediat. Și așa mai departe. Logistica este uluitoare.

Toate acestea par sumbru că maimuțele muritoare nu se pot reproduce Cătun.

Dar să presupunem că îi facem nemuritori. Da, le dăm niște poțiuni magice care îi lasă să trăiască pentru totdeauna. Nici măcar nu avem nevoie de mai mult de o maimuță nemuritoare. Doar unul va face. Ar putea face metafora mai incitantă să susțin că avem o mie sau un milion de maimuțe nemuritoare.

Dacă avem o maimuță care poate trăi pentru totdeauna, am putea sugera că aceasta este o maimuță infinită. Poate pentru o perioadă infinită de timp să bată tastele mașinii de scris. Maimuța aceea va continua să meargă și să meargă. În consecință, chiar dacă șansele de a tasta jocul Cătun erau extrem de mici, aspectul pe care maimuța îl va continua la nesfârșit sugerează că la un moment dat piesa Cătun aproape sigur va fi fost dactilografiată.

Regula de bază, așa cum ar fi, este că o secvență de evenimente care are șanse diferite de a se întâmpla, deși șansele extraordinar de scăzute, am fi de acord în mod rezonabil că aproape că se va întâmpla dacă avem timp infinit pentru a ne juca, toate celelalte fiind egale. Cei din domeniile matematică și statistică sunt predispuși să descrie aceeași considerație prin utilizarea șirurilor de caractere sau chiar a numerelor binare de 0 și 1. Dacă aveți un set finit de simboluri, și există un șir infinit al acestora, în care fiecare simbol are fost ales uniform la întâmplare, există un șir finit acolo pe care aproape sigur ai putea anticipa că va apărea.

Există o mare captură în toate acestea.

Trăim într-o lume a finitului. Niciunul dintre noi nu pare să aibă la dispoziție timp infinit. Pentru aceia dintre voi care spun că da, felicitări. Pălăria mea stă la tine.

Dacă impuneți lumea finită maimuțelor care tastează, vă veți găsi lovind un zid destul de dur. Analizele teoremei maimuței de tastare vor oferi aproape că probabilitatea realizării piesei Cătun este suficient de aproape de zero într-un timp finit încât, pentru orice bază operațională motivată, pur și simplu nu este probabil să se întâmple. Reprezentarea obișnuită este că, dacă ai folosit atâtea maimuțe câte atomi există în universul cunoscut și au continuat să tasteze de multe miliarde de ori din intervalul de timp al universului, încă te uiți la șanse de neconceput, mici și insondabile de a vedea Joaca Cătun.

Teorema maimuței de tastare este destul de uimitoare și este adesea clasată ca fiind în primele șapte experimente gândite ale vremurilor noastre. Sunteți binevenit să faceți o analiză suplimentară despre teoremă, deoarece există o mulțime de analize disponibile online. Este o modalitate vie și plăcută de a înțelege probabilitatea și statisticile. În loc să te ocupi exclusiv de numere uscate, poți să-ți imaginezi acele maimuțe iubitoare de distracție și toate acele mașini de scris de modă veche.

Acum suntem gata să aducem IA generativă în dilema maimuțelor și mașinilor de scris.

AI generativ este iritat de maimuțele care tastează

Premisa pe care o vom examina îndeaproape este afirmația controversată că AI generativă, cum ar fi ChatGPT, nu este diferită de maimuțele care tastează. Se spune că dacă ChatGPT sau orice AI generativ poate produce Cătun sau lucrări similare cunoscute, acesta este în întregime un rezultat aleatoriu care, probabil, a apărut în același mod în care maimuțele ar putea ajunge să scrie această piesă shakespeariană de mult prețuită și profund venerată.

Îmi pare rău, este o gândire greșită pe acest subiect serios.

Să vedem de ce.

În primul rând, să revizuim și să extindem în ce constă IA generativă.

Amintiți-vă că am indicat mai devreme că AI generativă este un software care implică utilizarea algoritmilor pentru a antrena date pe textul care există pe Internet și prin alte surse asemănătoare. O gamă largă de potriviri de modele a identificat modele matematic și computațional printre milioanele și milioanele de narațiuni și eseuri pe care noi, oamenii, le-am compus.

Cuvintele nu au o semnificație specială în sine. Gândește-te la ele ca la obiecte. În computer, ele sunt reprezentate ca numere pe care le notăm ca jetoane. Ele sunt folosite ca un mijloc convenabil de a asocia alte cuvinte sau simboluri unul cu celălalt, făcând acest lucru într-o structură web aprofundată și complexă statistică.

Unii din domeniul AI sunt îngrijorați că acest lucru nu este altceva decât ceea ce se numește a papagal stocastic.

Vedeți, mai degrabă decât să încercați să conectați o aparență de „sens” la cuvinte, în schimb, aceasta este doar o indexare extinsă a cuvintelor care par a fi folosite în jurul sau lângă alte cuvinte. În schimb, presupunem că oamenii pot „înțelege” natura și sensul cuvintelor.

Luați în considerare accesul dvs. zilnic la prezența corespondențelor cuvânt cu cuvânt. La fel ca atunci când utilizați o funcție obișnuită de completare automată în software-ul dvs. de procesare a textului, computerul calculează matematic că un anumit cuvânt este de obicei urmat de un alt cuvânt anume, care, la rândul său, este urmat de un alt cuvânt anume și așa mai departe. Astfel, de multe ori puteți începe să scrieți o propoziție, iar pachetul de procesare de text vă va arăta o ghicire a cuvintelor suplimentare ale propoziției.

Este o presupunere, deoarece statistic, acestea ar putea fi cuvintele obișnuite ale propoziției, dar s-ar putea să aveți altceva în minte de spus, astfel că predicția este îndepărtată de ceea ce ați vrut să scrieți. Există, probabil, suficiente alte exemple de propoziții care folosesc acele cuvinte, pe care algoritmul le poate estima că probabil că doriți să terminați propoziția cu cuvintele prezise. Acest lucru nu este de fier. De asemenea, nu există nici un „sens” asociat cu această presupunere computațională.

Unii cercetători AI susțin că pentru a obține IA adevărată, adesea inventată ca Inteligența generală artificială (AGI), va trebui să codificăm cumva în computere o formă de „înțelegere” încă descoperită sau inventată (vezi coloana mea pentru numeroase postări despre AGI și urmărirea AGI). Ei își fac griji că mania asupra IA generativă nu este mai mult decât o fundătură. Vom continua să încercăm să împingem din ce în ce mai mult IA generativă, mărind dimensiunea rețelelor de calcul și aruncând din ce în ce mai multă putere de procesare a computerelor în această problemă. Toate acestea vor fi în zadar când vine vorba de sosirea la AGI, susțin ei.

O scuză suplimentară este că poate că această căutare a unui presupus punct mort ne distrage atenția de la cursul corect sau adecvat de acțiune. Vom cheltui o energie și un efort imens către o stare finală greșită. Sigur, inteligența artificială generativă ar putea fi uimitoare la trucul mimetismului, dar s-ar putea ca acest lucru să aibă puțin sau nimic de-a face cu AGI. Ne-am putea păcăli pe noi înșine, irosind o concentrare prețioasă. S-ar putea să întârziem sau poate chiar să nu ajungem vreodată la AGI din cauza acestei distrageri atrăgătoare.

Oricum, în scopul tastării maimuțelor, să revenim la conflictul general.

Trebuie să luăm în considerare acești factori notați:

• 1) Conștient versus nesimțit
• 2) A gândi versus a nu „gândi”
• 3) Procese limitate de gândire versus algoritmi bazați pe computer și potrivirea modelelor
• 4) Neinstruit sau incapabil să se antreneze versus datele de calcul antrenate

Să abordăm fiecare dintre acești factori.

Sentient versus Nu Sentient

Cred că putem admite că maimuțele sunt ființe simțitoare. Indiferent de cât de deștepți sau lipsiți de inteligență ați dori să susțineți că sunt; ei sunt incontestabil sensibili. Acesta este un fapt. Nimeni nu poate susține în mod rezonabil altfel.

Inteligența artificială de astăzi nu este sensibilă. Punct, punct.

În plus, susțin că nu suntem nicăieri aproape de sensibilitatea AI. Alții ar putea, desigur, să nu fie de acord. Dar oricine are un calm rezonabil ar fi de acord că IA de astăzi nu este sensibilă. Pentru analiza mea a etichetării abisal de greșite a sensibilității AI de către acel inginer Google anul trecut, vedeți discuția mea la linkul aici.

Deci, o diferență crucială între acele maimuțe care tastează cu nerăbdare și IA generativă de astăzi este că maimuțele sunt ființe simțitoare, în timp ce IA nu este. În plus, este adesea o pantă alunecoasă să începeți să comparați IA de astăzi cu orice lucru sensibil. Există o tendință de antropomorfizare a IA. Îndemn strident ca, pentru a încerca să prevenim această capcană mentală ușoară să ne atingă, să evităm orice comparație între AI și ființele simțitoare, cu excepția cazului în care ne aflăm deasupra bordului și identificăm și delimităm în mod clar și explicit această diferență.

Puțini, dacă nici unul, fac această demarcație atunci când compară maimuțele care tastează și IA generativă. Ei presupun că fie vei realiza deja că există această diferență, fie nu le pasă că există o diferență, fie nu s-au gândit la asta etc.

A gândi versus a nu „gândi”

Aș pretinde că maimuțele pot gândi. Sunt ființe gânditoare. Putem dezbate cu ușurință cât de multă gândire pot face. Aproape sigur, totuși, trebuie să fiți de acord că maimuțele pot gândi.

AI de astăzi de toate tipurile, inclusiv IA generativă, nu se ridică la ceea ce consider capacitatea umană de gândire.

Voi repeta refrenul meu tocmai menționat legat de simțire. Este înșelător și susțin greșit să spun că AI de astăzi poate gândi. Din păcate, oamenii fac asta tot timpul, inclusiv cercetătorii AI și dezvoltatorii AI. Cred că acest lucru este încă o dată o antropomorfizare nefericită și prost recomandată. Oferiți o aparență de capacitate sau capacități inteligenței artificiale care nu există și care vor dezinforma societatea în general în această chestiune. Nu mai face asta.

AI generativă este o structură complexă, asemănătoare web, cu proprietăți matematice și computaționale. Este admirabil. Este o ghiobie de ceea ce realizează asta. Nu cred că nicio interpretare rezonabilă a „gândirii” așa cum o concepem noi, în toată gloria ei, se potrivește acestei IA.

Procese de gândire limitate versus algoritmi bazați pe computer și potrivirea modelelor

Maimuțele sunt limitate în procesele lor de gândire.

S-ar putea să găsiți interesant faptul că există multe comparații în literatura științifică a creierului de maimuță versus creierul oamenilor. De exemplu, luați în considerare acest studiu de cercetare: „Creierul uman este de aproximativ trei ori mai mare decât creierul rudei noastre cele mai apropiate, cimpanzeul. Mai mult, o parte a creierului numită cortex cerebral – care joacă un rol cheie în memorie, atenție, conștientizare și gândire – conține de două ori mai multe celule la oameni decât aceeași regiune la cimpanzei. Rețelele de celule cerebrale din cortexul cerebral se comportă, de asemenea, diferit la cele două specii” (într-un articol publicat în eLife, septembrie 2016, intitulat „Diferențe și asemănări între progenitorii neurali umani și cimpanzei în timpul dezvoltării cortexului cerebral”).

Cu toții realizăm că maimuțele nu sunt la egalitate cu gândirea umană. Acele creaturi minunate pot fi drăguțe și pot gândi o cantitate surprinzătoare, fără îndoială. Pur și simplu nu se ridică la nivelurile gândirii umane. Voi regreta că am spus asta, odată ce maimuțele vor prelua omenirea.

Am spus deja cu un moment în urmă că AI-ul de astăzi nu gândește. Am subliniat că ceea ce face AI nu ar trebui să fie etichetat drept „gândire”, deoarece acest lucru este înșelător și confuz.

Iată unde IA generativă eclipsează maimuțele, în ceea ce privește utilizarea procesării computerizate bazate pe algoritmi creați de om și bazate pe scrieri produse de oameni. Există puține sau deloc șanse ca maimuța gânditoare să poată absorbi și să se potrivească tiparului cu utilizarea vastă a simbolurilor scrise pe care oamenii le-au creat. Maimuțele nu au acest tip de capacitate de gândire.

Ezit să sugerez o astfel de comparație, având în vedere celelalte nelamuriri exprimate. Dar, precizez clar care sunt ipotezele și cum să întreprind corect și adecvat această analiză.

Neinstruit sau incapabil de a se antrena versus datele informatice instruite

Similar cu ceea ce tocmai am spus, nu veți putea antrena o maimuță gânditoare cu privire la utilizarea vastă a simbolurilor scrise ale omenirii. Puteți face acest lucru pe o bază extrem de limitată, iar studiile au arătat că maimuțele se pot gândi la simboluri scrise. Acest lucru este mult mai puțin decât capacitatea de a memora și repeta înapoi modele extinse de cuvinte, propoziții și narațiuni întregi.

AI generativă este o mimetizare statistică bazată pe computer care poate fi antrenată computațional de date. Dacă continuăm să furnizăm mai multe date, cum ar fi texte suplimentare pe care le colectăm sau le găsim, presupunerea și speranța sunt că modelele găsite vor deveni din ce în ce mai profunde. În plus, utilizarea cipurilor și procesării de computer din ce în ce mai rapide va crește, de asemenea, această capacitate de potrivire a modelelor și de răspuns.

Privind la linia de jos

Dacă AI generativă ar produce piesa Cătun, ce ar însemna asta?

În primul rând, trebuie să luăm în considerare dacă povestea sau piesa a fost introdusă sau nu în IA generativă în momentul antrenamentului de date. Dacă da, nu este nimic deosebit de notabil sau remarcabil în ceea ce privește AI-ul generativ, care va scoate mai târziu aceleași cuvinte pe care le-a scanat anterior.

Un cercetător AI ar putea fi puțin consternat, deoarece potrivirea modelelor probabil a mers peste bord, după ce în esență a memorat cuvintele. De obicei, ne referim la asta în domeniul învățării automate ca supraîncadrarea la datele care au fost utilizate în timpul antrenamentului. De obicei, nu doriți ca cuvintele exacte să fie modelate, doriți să se formeze un model generalizat.

Am discutat în coloanele mele despre îngrijorarea că uneori am putea vedea intruziuni în confidențialitate și dezvăluirea datelor confidențiale în cazurile în care AI generativ a făcut o potrivire precisă mai degrabă decât o potrivire generalizată a datelor furnizate, vezi acoperirea mea la linkul aici.

În al doilea rând, să presupunem că piesa Cătun nu a fost alimentat în IA generativă. Următoarea considerație ar fi atunci dacă vreuna dintre lucrările lui Shakespeare a fost scanată în timpul antrenamentului de date.

Dacă da, este de imaginat ca piesa Cătun ar putea fi produsă pe baza modelelor asociate cu celelalte lucrări ale lui Shakespeare, mai ales dacă există alte referințe sau mențiuni ale Cătun altundeva în setul de antrenament de date. Toate acestea ar putea fi potențial utilizate de potrivirea modelului pentru formarea unui stil de Cătun. Desigur, fiind capabil să genereze Cătun cuvânt cu cuvânt ar fi o atingere extinsă, un rezultat considerabil de deschidere a ochilor și surprinzător.

În al treilea rând, dacă AI generativă a produs întregul Cătun și nu fusese niciodată hrănit înainte cu nimic despre Shakespeare, ei bine, asta ar fi uimitor. Deși nu ar fi neapărat la fel cu natura pur aleatorie a ciugulirii tastelor la o mașină de scris. Trebuie să realizăm că cuvintele lui Shakespeare sunt cuvinte, prin urmare, ele fac parte din totalitatea formulărilor găsite în vasta gamă de povești text și narațiuni introduse în IA generativă. Îmbunătățiți șansele începând cu piatra de temelie a cuvintelor și asocierile dintre cuvinte. Totuși, șansele sunt destul de mici ca așa ceva să se întâmple.

Concluzie

Când vine vorba de producerea de cuvinte și eseuri, IA generativă devine un gangbuster, deoarece se bazează pe cuvinte și eseuri create de om (desigur, trebuie să ne ocupăm în mod direct de erori, falsități și halucinații AI). AI nu „înțelege” cuvintele emise. Nu există acolo, acolo.

Nu trebuie să așteptați o perioadă infinită de timp pentru a vedea eseuri fluente și rezultate complet lizibile. Se întâmplă zilnic și la atingerea unui buton. Nu sunt amestecate, cel puțin nu de cele mai multe ori, deoarece sunt modele produse pe baza a ceea ce au scris oamenii. Potrivirea modelului ar trebui să fie reglată în continuare și, în cele din urmă, suficient de bună pentru a reduce o mare parte din cuvintele ciudate, vedeți explicația mea despre cum ar putea funcționa acest lucru, prezentată la linkul aici. Această reglare va fi rafinată în mod continuu și vom fi cu toții din ce în ce mai încântați de ceea ce produce IA generativă.

Cuvintele nu sunt alese pur aleatoriu. Cuvintele nu sunt scrise pur aleatoriu. Există câteva aspecte probabilistice, cum ar fi atunci când se generează eseul rezultat, cu privire la cuvintele pe care să le selectezi. Dar aceasta se bazează încă pe scrieri umane și, prin urmare, nu se presupune pur la întâmplare. Se bazează pe o alegere aleatorie între o mână sau un anumit număr de opțiuni de formulare care altfel ar putea fi toate fezabile din punct de vedere statistic ca fiind următorul cuvânt sau set de cuvinte alese.

Unde se potrivesc maimuțele în asta?

Acele maimuțe care tastează sunt cu siguranță atractive ca bază pentru comparație cu IA generativă. Maimuțe producătoare Cătun versus producerea generativă de IA Cătun. Este un concurs captivant. Ai putea spune că nu este deloc implicat un concurs. AI care a fost conceput de omenire și se bazează pe scrierile omenirii are un avantaj nedrept în acest sens.

Apropo de tastarea maimuțelor, într-un episod din Simpsons, domnul Burns decide să angajeze maimuțe pentru a merge mai departe și a tasta la mașini de scris, ca parte a grupului de dactilografiere de la birou. El este genul de șef ticălos care ar gravita cu bucurie spre utilizarea maimuțelor în munca de birou de care are nevoie, în detrimentul folosirii oamenilor, dacă ar putea face acest lucru.

Fanii emisiunii s-ar putea să-și amintească ce se întâmplă.

Domnul Burns apucă una dintre paginile tastate și citește cu nerăbdare ce a scris maimuța. Citește pagina cu voce tare și spune „A fost cel mai bun timp, a fost estompează de ori” (adică, există un cuvânt care este încurcat, „blurst” sau ceva care sună așa). El devine complet furios și total dezamăgit de acele „maimuțe proaste” în ceea ce privește ceea ce pot produce.

Știm că, dacă o maimuță a tastat acea parte din „Povestea a două orașe” a lui Charles Dicken, ar trebui să fim extaziați și să sărim de bucurie. Nu e așa pentru domnul Burns.

Ca un ultim comentariu pentru această discuție, poate că ar trebui să invocăm propoziția completă pe care Charles Dickens a scris-o: „A fost cel mai bun timp, a fost cel mai rău, a fost epoca înțelepciunii, a fost epoca prostiei, a fost epoca înțelepciunii. a fost epoca credinței, a fost epoca neîncrederii, a fost anotimpul luminii, a fost anotimpul întunericului, a fost primăvara speranței, a fost iarna disperării.”

Nu suntem siguri încotro ne îndreptăm cu AI. Unii spun că va fi cel mai bun lucru de la feliile de pâine. Alții avertizează că IA pe care o facem va fi un risc existențial pentru supraviețuirea umanității. Într-adevăr, este fie cel mai bun timp, fie cel mai rău.

Nu fi surprins să vezi că AI generativ scoate exact acele cuvinte. Fii surprins dacă se întâmplă să vezi maimuțe într-o grădină zoologică care probabil tastează la mașini de scris și reușesc să tasteze aceleași cuvinte perspicace.

Vă rog să-mi spuneți dacă vedeți că se întâmplă.

Sunt dispus să aștept mult timp ca acest lucru să se întâmple, dar probabil nu la infinit.