Oamenii consultă cu nerăbdare ChatGPT AI generativ pentru sfaturi de sănătate mintală, subliniind etica IA și legea AI

Sănătatea mintală a devenit un subiect larg răspândit în zilele noastre.

În trecut, discuțiile cu privire la sănătatea mintală erau adesea oprite sau total trecute sub covor. O schimbare culturală treptată a condus la luarea în considerare în mod deschis a problemelor de sănătate mintală și a scăpat de scrupule cu privire la a face acest lucru în moduri recunoscute public.

S-ar putea să acordați o parte din meritul acestei schimbări în atitudinile globale ale societății, ca rezultat al apariției aplicațiilor pentru smartphone-uri ușor de accesat, care vă ajută la conștientizarea personală și, probabil, vă stimulează spre bunăstarea mentală. Există aplicații pentru mindfulness, altele pentru meditație, altele pentru diagnosticarea stării de sănătate mintală, altele pentru a face screening-ul sănătății mintale și așa mai departe. Există o multitudine de aplicații.

Putem spune că aplicațiile pentru smartphone-uri au condus în mod deschis la deschidere cu privire la sănătatea mintală? Desigur, este un pic o întrebare despre pui sau ou. Deschiderea față de sănătatea mintală a permis apariția unor aplicații relevante pentru smartphone-uri sau bunăstarea mentală a aplicațiilor pentru smartphone a condus societatea în direcția de a fi direct în privința sănătății mintale?

Poate că a fost o combinație de împletire care implică ambele direcții care se întâmplă în același timp.

În orice caz, în acest amestec puternic vine și creșterea aplicațiilor de sănătate mintală despre care se spune că sunt extraordinar de alimentate de inteligența artificială (AI). Ideea este că tehnologia de bază poate fi îmbunătățită prin utilizarea (probabil) judicioasă a AI. În timp ce versiunile inițiale ale aplicațiilor de sănătate mintală erau în principal livrări de informații bazate pe fapte, ca și cum ai face o căutare online pe subiectele menționate, infuzia de inteligență artificială a condus la automatizarea întreprinzând dialoguri interactive cu tine, asemănător cu trimiterea de mesaje text cu un terapeut uman sau altele asemenea. (Ei bine, cam așa cum mă voi aborda și analiza aici).

Acest lucru ne duce la cea mai recentă și captivantă IA care a atras recent atenția națională și internațională, și anume utilizarea a ceea ce este cunoscut oficial ca AI generativă și popularizat pe scară largă prin aplicația cunoscută sub numele de ChatGPT. Pentru clarificare, ChatGPT este un sistem interactiv AI de uz general, în esență un chatbot general, cu toate acestea este utilizat în mod activ și avid de către oameni care caută în mod special să obțină sfaturi de sănătate mintală (aplicația nu a fost creată în acest scop și totuși oamenii au decis că vor să-l folosească oricum pentru acel rol).

Pentru acoperirea mea recentă despre ChatGPT, consultați linkul aici pentru o privire de ansamblu. De asemenea, am urmărit cum ChatGPT îi îngrijorează pe profesori cu privire la posibilitatea ca studenții să trișeze folosind AI pentru a-și scrie eseurile, vezi linkul aici, și am făcut o privire cu aromă sezonieră în analiza mea legată de Moș Crăciun la linkul aici.

Nu vă faceți griji, voi explica aici despre ce este vorba despre Generative AI și ChatGPT, făcând acest lucru pentru moment, așa că vă rugăm să rămâneți acolo.

Dacă aruncați o privire pe rețelele sociale, veți vedea oameni care proclamă ChatGPT și IA generativă ca fiind cel mai bun lucru de la feliile de pâine. Unii sugerează că aceasta este de fapt IA sensibilă (nu, se înșelesc!). Alții se îngrijorează că oamenii se devansează pe ei înșiși. Ei văd ceea ce vor să vadă. Au luat o jucărie nouă și strălucitoare și au arătat exact de ce nu putem avea lucruri noi atrăgătoare.

Cei din Etica AI și Legea AI sunt serios și serios îngrijorați de această tendință în plină dezvoltare, și pe bună dreptate. Vom arunca o privire atentă asupra modului în care oamenii folosesc AI generativ pentru utilizări care nu sunt deosebit de potrivite pentru ceea ce AI poate realiza cu adevărat astăzi. Toate felurile de probleme etice și juridice ale AI sunt, fără îndoială, cuprinse în întreaga enigmă. Pentru acoperirea mea continuă și extinsă a eticii AI și a legii AI, consultați linkul aici și linkul aici, Doar pentru a numi câteva.

În primul rând, să luăm în considerare câteva fațete importante ale sănătății mintale și de ce acesta este un subiect foarte mare și esențial. După ce punem această bază, vom face o scurtă explicație despre AI generativă și în special despre ChatGPT. Voi include exemple din ChatGPT, astfel încât să puteți vedea cu proprii ochi tipul de verbiaj pe care aplicația AI este capabilă să o producă. Vom încheia această discuție cu câteva comentarii despre ce înseamnă toate acestea și despre modul în care Etica AI și Legea AI vor intra inevitabil în imagine.

Fixați-vă centura de siguranță pentru o plimbare destul de mare.

Sănătatea mintală este o preocupare societală vitală și în creștere

Potrivit diverselor statistici publicate, există un nor întunecat și sumbru în ceea ce privește starea de sănătate mintală de astăzi. Nu vreau să par a fi sumbru în privința asta, dar am putea la fel de bine să ne confruntăm cu realitatea cu care ne confruntăm. Să ne ascundem capetele în nisip nu va funcționa. Ar fi mai bine să abordăm problema cu ochii deschiși și cu dorința de a rezolva probleme spinoase.

Iată câteva statistici demne de remarcat care au fost colectate de o organizație proeminentă de sănătate mintală despre americani și peisajul sănătății mintale (pe Sănătate mintală America, „Concluziile cheie 2023”):

• Adulții suferă pe scară largă de boli mintale. Aproximativ 21% dintre adulți au raportat că s-au confruntat cu o boală mintală, ceea ce este aproximativ echivalentul cu a spune că aproximativ 50 de milioane de adulți din SUA au experimentat acest lucru.
• Lipsa tratamentului de sănătate mintală este larg răspândită. Puțin mai mult de jumătate dintre adulții cu o boală mintală nu primesc tratament (aproximativ 55%), așa că probabil aproximativ 28 de milioane de adulți nu primesc tratamentul necesar pentru sănătatea mintală.
• Tinerii sunt și ei afectați. Aproximativ unul din zece tineri din SUA au declarat că a suferit o depresie grav afectată, care le-a afectat munca la școală, viața de acasă, interacțiunile familiale și/sau viața socială.
• Tratamentul de sănătate mintală pentru tineri lipsește. Mai puțin de o treime dintre tinerii care suferă de depresie severă primesc tratament consecvent (doar aproximativ 28% o fac), iar peste jumătate nu beneficiază deloc de îngrijire de sănătate mintală (estimată la 57%).
• Raritatea furnizorilor de sănătate mintală. O cifră raportată este că există aproximativ 350 de persoane în SUA pentru fiecare furnizor de sănătate mintală, ceea ce sugerează o lipsă de consilieri și terapeuți profesioniști calificați în domeniul sănătății mintale disponibile pentru populație.

Nu vreau să ne obțin statisticile în sine, deoarece puteți argumenta cu ușurință despre modul în care aceste statistici sunt uneori colectate sau raportate. De exemplu, uneori acestea se bazează pe sondaje prin care sondajul a fost preselectat pentru anumite zone ale țării sau tipuri de persoane. De asemenea, puteți discuta cu hotărâre despre cât de onești sunt oamenii atunci când își auto-raportează starea de sănătate mintală, în funcție de cine întreabă și de ce ar putea dori să se încline într-o direcție sau alta asupra subiectului. etc.

Esența este însă că putem fi cel puțin în general de acord că țara se confruntă cu o provocare de sănătate mintală și că ar trebui să facem ceva în acest sens. Dacă nu facem nimic, presupunerea de bază este că lucrurile se vor înrăutăți. Nu poți lăsa o problemă care se încurcă la nesfârșit.

S-ar putea să fi observat în statisticile menționate mai sus că există o lipsă pretinsă de profesioniști calificați în sănătate mintală disponibili. Convingerea este că există un dezechilibru în cerere și ofertă, pentru care există o ofertă insuficientă de consilieri în domeniul sănătății mintale și o supraabundență de cerere, fie reală, fie latentă, pentru sfaturi de sănătate mintală (spun latent în sensul că mulți s-ar putea să nu realizeze că valoarea de a căuta sfaturi de sănătate mintală, sau nu își pot permite sau nu-l pot accesa din punct de vedere logistic).

Cum putem face față acestui dezechilibru?

O cale pare să fie utilizarea automatizării și în special a inteligenței artificiale pentru a consolida „partea ofertei” a furnizării de sfaturi privind sănătatea mintală. Ați putea argumenta în mod convingător că popularitatea aplicațiilor de meditație și mindfulness pe smartphone este un semn că există într-adevăr o cerere reținută. Când nu puteți obține cu ușurință acces la consilieri umani calificați, automatizarea și inteligența artificială intră în acest decalaj.

Gândiți-vă și la factorii de confort.

Când utilizați o aplicație AI pentru sănătatea mintală, aveți AI disponibil 24 de ore pe zi, 7 zile pe zi. Nu este nevoie să programați o întâlnire. Nicio dificultate în a te reuni din punct de vedere logistic în persoană cu un consilier uman. Probabil că costul este mult mai puțin costisitor. Puteți strânge timp folosind aplicația AI, în timp ce cu un consilier uman, ceasul curge și minutele de facturare cresc.

Dar, așteptați o secundă, s-ar putea să vă îndemnați, o aplicație AI nu este la egalitate cu un consilier uman.

Aceasta este aparent o comparație între mere și portocale. Sau, poate mai degrabă ca asta la o comparație între măr și stridii, astfel încât cele două să nu se compare în mod special. Un consilier uman calificat în mod corespunzător, care știe ce fac când vine vorba de sănătatea mintală, se află cu siguranță deasupra oricărui tip de IA pe care îl avem astăzi. Sigur, aplicația AI ar putea fi disponibilă non-stop, dar obțineți un nivel inferior de calitate și, prin urmare, nu puteți face nicio comparație sensibilă între utilizarea unui consilier uman și utilizarea AI.

Vom reveni în curând la această dezbatere despre consilierii umani versus consilierea bazată pe inteligență artificială.

Între timp, un aspect al sănătății mintale care pare destul de sfâșietor se referă la tineri și sănătatea mintală.

O credință este că, dacă nu surprindem probleme de sănătate mintală când cineva este tânăr, costul societal este enorm la celălalt capăt atunci când devin adulți. Este povestea clasică a răsadului care crește fie într-un copac bine conceput, fie într-unul care are tot felul de probleme viitoare. Poate, sugerează unii, ar trebui să ne concentrăm atenția în special asupra tinerilor. Descoperiți problemele devreme. Încercați să preveniți ca problemele să devină dificultăți pe tot parcursul vieții. Acest lucru ușurează potențial manifestarea problemelor de sănătate mintală la etapa adultă a vieții și, cu o oarecare forță, putem reduce fluxul conductei de deteriorare a sănătății mintale, dacă înțelegi deriva mea.

Cercetătorii subliniază aceste preocupări similare, cum ar fi această lucrare recentă: „Sănătatea mintală a adolescenților și a adulților în curs de dezvoltare („tineri”) este un domeniu al sănătății publice care necesită o atenție urgentă la nivel global. O perioadă de tranziție caracterizată de schimbări rapide în mai multe domenii (fizic, social, psihologic, vocațional), adolescență și maturitate emergentă este o etapă de dezvoltare asociată cu riscuri crescute pentru bunăstarea mintală, deoarece tinerii experimentează schimbări majore în viață legate de pubertate, neurodezvoltare. , precum și modificări ale identității și autonomiei în contexte sociale. Cercetările indică o prevalență ridicată a bolilor mintale în rândul tinerilor, unul din cinci persoane care probabil îndeplinește criteriile pentru o tulburare mintală. Povara bolii asociată cu rate ridicate de prevalență este și mai mult exacerbată de cererea de tratament care depășește oferta, creând un decalaj de tratament. Intervențiile digitale de sănătate mintală (DMHI), cum ar fi cele furnizate prin aplicații pentru smartphone sau online, reprezintă un mod de serviciu în creștere rapidă, cu potențial de a oferi un acces mai mare la asistență” (Vilas Sawrikar și Kellie Mote, „Acceptarea și încrederea tehnologiei: Considerații ignorate în Utilizarea de către tineri a intervențiilor digitale de sănătate mintală”, Politica de sanatate si tehnologie, Octombrie 2022)

După cum au remarcat acei cercetători, apariția automatizării și a aplicațiilor de sănătate mintală AI se pare că se potrivește tinerilor dintr-o varietate de motive, astfel încât tinerii ar putea fi mai predispuși la utilizarea tehnologiei înalte și, de asemenea, ar găsi, de asemenea, atrăgătoare ușurința. de acces și alte fațete. Articolul menționează că există o expresie emergentă cunoscută ca intervenții digitale de sănătate mintală, împreună cu abrevierea asociată a DMHI (Acest acronim nu s-a consolidat încă și alternative sunt în curs de desfășurare).

Să aprofundăm puțin în această noțiune de intervenții digitale în domeniul sănătății mintale.

Iată câteva observații adăugate ale cercetătorilor: „Asistența medicală mediată de tehnologie ar putea atenua lacunele în servicii, oferind acces la asistență la scară, la costuri reduse și la comoditatea utilizatorului. Prevalența accesului la tehnologia smartphone-urilor în rândul tinerilor indică o soluție aparent evidentă pentru satisfacerea cererii din această populație. Cu toate acestea, în timp ce DMHI-urile s-au dovedit a fi eficiente în studiile de control randomizate, acest lucru nu pare să se traducă în asimilarea în lumea reală. O revizuire sistematică a studiilor a indicat că un sfert din aplicațiile de sănătate mintală nu au fost niciodată folosite după instalare. Este posibil ca persoanele mai tinere, în special, să aibă mai puține șanse să se implice în tehnologia care vizează sănătatea mintală, cu dovezi că grupurile de vârstă mai tinere sunt mai puțin susceptibile de a utiliza DMHI în tratament și raportează o preferință scăzută pentru îngrijirea online a sănătății mintale în comparație cu tratamentul facial” (ibid). .

O concluzie cheie este că, deși ați putea presupune că tinerii vor adora și vor folosi cu siguranță aceste aplicații online de sănătate mintală, imaginea adevărată este mult mai tulbure. Poate că un punct deosebit de grăitor este că odată ce aplicația a fost instalată, utilizarea fie a scăzut brusc, fie nu a început deloc. O explicație este că hype-ul și entuziasmul la descărcarea aplicației au fost rapid umbrite de aplicația potențial dificil de utilizat sau percepută ca ineficientă. De asemenea, ați putea sugera că unii tineri s-ar fi putut determina să obțină aplicația din cauza presiunii colegilor sau prin ceea ce văd pe rețelele sociale și nu au intenționat în mod special să folosească aplicația. Au vrut doar să spună că au. La această vârstă, a face parte din clubul „în” ar putea fi la fel de important ca orice face aplicația în sine.

Un alt punct de vedere este că, dacă aceste aplicații de sănătate mintală ar fi mai bune în ceea ce fac, cum ar fi valorificarea pe deplin a tehnologiei de ultimă generație în domeniul inteligenței artificiale, acest lucru ar putea atrage tinerii să utilizeze efectiv aplicațiile. Un element suplimentar ar fi că, dacă tinerii ar percepe aplicația ca fiind populară, ar putea dori să poată spune că o folosesc și ei. În acest sens, inteligența artificială oferă un dublu zgomot aparent pozitiv. Poate face ca aplicațiile de sănătate mintală să facă o treabă mai bună și, în același timp, să poarte stilul faddish sau panache de a fi AI și, prin urmare, un aspect oportun și captivant pentru societate.

Bine, deci AI pare să fie un erou care se grăbește să salveze în această enigma de sănătate mintală.

După cum veți vedea în scurt timp, AI poate fi și un dezavantaj pentru acest lucru. Din păcate, IA de astăzi poate părea utilă și totuși poate fi dăunătoare. Unii ar susține că trebuie luat în considerare un compromis. Alții spun că IA de astăzi nu este încă coaptă pe viță și punem prematur în pericol oamenii, tinerii și adulții. Vedeți, chiar și adulții pot fi păcăliți sau ademeniți să creadă că aplicațiile de sănătate mintală infuzate cu inteligență artificială sunt o mântuire care nu poate face greșit.

Pentru a vedea cum poate fi acest lucru, să aruncăm o privire atentă la cea mai tare AI din jur, constând în AI generativă și în special aplicația AI cunoscută sub numele de ChatGPT.

Deschiderea cutiei de viermi pe IA generativă

Suntem pregătiți să ne scufundăm în AI.

Dintre diferitele tipuri de IA, ne vom concentra aici în mod special asupra AI generativă.

Pe scurt, IA generativă este un tip particular de IA care compune text ca și cum textul ar fi fost scris de mâna și mintea omului. Tot ce trebuie să faceți este să introduceți o solicitare, cum ar fi o propoziție precum „Spune-mi despre Abraham Lincoln”, iar AI generativă vă va oferi un eseu despre Lincoln. Aceasta este clasificată în mod obișnuit ca IA generativă care funcționează text-to-text sau unii preferă să o numească text-to-eseu ieșire. S-ar putea să fi auzit despre alte moduri de IA generativă, cum ar fi text-to-art și text-to-video, vedeți elaborarea mea la linkul aici.

Primul tău gând ar putea fi că acest lucru nu pare atât de mare în ceea ce privește producerea de eseuri. Puteți face cu ușurință o căutare online pe Internet și puteți găsi cu ușurință tone și tone de eseuri despre președintele Lincoln.

Dezactivarea în cazul IA generativă este că eseul generat este relativ unic și oferă o compoziție originală mai degrabă decât o imitație. Dacă ar fi să încercați să găsiți eseul produs de inteligență artificială online undeva, este puțin probabil să îl descoperiți.

IA generativă este pregătită în prealabil și folosește o formulare matematică și computațională complexă care a fost creată prin examinarea tiparelor din cuvintele scrise și poveștile de pe web. Ca rezultat al examinării a mii și milioane de pasaje scrise, IA este capabilă să scoată eseuri și povești noi care sunt o mizerie a ceea ce a fost găsit. Adăugând diferite funcționalități probabilistice, textul rezultat este destul de unic în comparație cu ceea ce a fost folosit în setul de antrenament.

De aceea, a existat un scandal în legătură cu faptul că elevii pot înșela atunci când scriu eseuri în afara sălii de clasă. Un profesor nu poate să ia pur și simplu eseul despre care elevii înșelător susțin că este propria lor scriere și să caute să afle dacă a fost copiat dintr-o altă sursă online. În general, nu va exista niciun eseu preexistent definitiv online care să se potrivească eseului generat de AI. În cele din urmă, profesorul va trebui să accepte cu reținere că elevul a scris eseul ca pe o lucrare originală. Pentru modalități în care acest lucru ar putea fi combatet, consultați acoperirea mea detaliată la linkul aici.

În scurt timp, vă voi prezenta ce se întâmplă când introduceți întrebări sau solicitări care se referă la sănătatea mintală. Voi folosi cea mai recentă versiune de ChatGPT pentru a introduce solicitările mele și am colectat „răspunsurile” sau eseurile generate de AI (rețineți că același lucru se poate face cu numeroasele alte aplicații AI generative disponibile; am optat să folosesc ChatGPT pentru că își obține cele cinci minute de faimă chiar acum). Împreună, tu și cu mine vom explora formularea și semnificația modului în care cele mai recente IA înfățișează aspectele legate de sănătatea mintală, în special în ceea ce privește problema oferirii sănătății mintale. sfat.

Poate că o scurtă tangentă despre ChatGPT ar putea fi utilă în acest moment.

Aplicația ChatGPT a fost pusă la dispoziție publicului larg cu puțin timp în urmă. În general, aceste aplicații AI generative sunt de obicei accesibile numai persoanelor din interiorul AI. Fațeta neobișnuită că ChatGPT ar putea fi folosit de oricine prin simpla introducere a unei adrese de e-mail și a unui nume, ei bine, acest lucru a făcut ca mulți oameni să decidă să-l încerce. ChatGPT este în prezent gratuit de utilizat (problema monetizării este o dilemă care se profilează pentru producătorii de inteligență artificială, consultați analiza mea la linkul aici).

Aproape imediat a existat o reacție uriașă pe rețelele de socializare, în timp ce oamenii s-au grăbit să dea exemple despre ceea ce poate face IA generativă. Compania care produce ChatGPT, OpenAI, a optat să închidă înscrierile pentru un milion de utilizatori. Acei milioane de utilizatori au reușit să bombardeze undele cu tot felul de povești și povești despre utilizarea ChatGPT.

Fiți foarte atenți când credeți ce au de spus oamenii despre aplicația AI. Mulți dintre acești oameni nu au nicio idee despre ceea ce folosesc. Este aproape ca și cum nu ar fi condus niciodată o mașină și nici măcar nu și-au dat seama că există mașini și, dintr-o dată, au avut șansa să conducă o mașină. Urmează uimirea totală.

Nu spun că IA generativă nu este relativ impresionantă. Este. Subliniez doar că multe dintre mărturiile care țâșnesc sunt făcute de mulți care nu sunt binecuvântați de ceea ce poate face IA de astăzi. Aceia dintre noi din interiorul AI am folosit AI generativă în ultimii câțiva ani. Poate ne-am obișnuit.

Dintr-o dată, să văd o mulțime uriașă de oameni care l-au vândut pe acoperișuri a fost emoționant, dar și oarecum deconcertant. Partea deconcertantă este atunci când oamenii proclamă că IA generativă este sensibilă. Nu este. Nu lăsa pe nimeni să te convingă de contrariul.

Acestea fiind spuse, există o dezbatere aprinsă în curs de desfășurare în domeniul AI cu privire la dacă AI generativă este pe calea sensibilității sau dacă poate nu este. O părere este că, dacă continuăm să extindem AI generativă cu computere mai rapide și cu o cantitate mai mare de date, cum ar fi curățirea fiecărui centimetru de internet, vom ajunge aproape spontan la IA sensibilă. Alții susțin că acest lucru este foarte puțin probabil. Ei sugerează că AI generativă ar putea fi una dintre multele componente care sunt necesare. Există chiar și o viziune mai sumbră că AI generativă este o prezentare secundară care ne distrage atenția de la descoperirile reale de care vom avea nevoie pentru a obține IA sensibilă.

S-ar putea să găsiți, de asemenea, un aspect demn de remarcat la care oamenii din interiorul AI tind să se refere Informații generale artificiale (AGI) ca obiectiv aspirațional pentru domeniul AI. Cândva, scopul era atingerea Inteligenta Artificiala, dar pseudonimul AI a devenit diluat și confuz. Când cineva spune că lucrează cu AI, nu știi dacă fac aluzie la IA de astăzi care nu este la egalitate cu oamenii sau dacă se referă la o IA futuristă echivalentă umană. Pentru a scăpa de această confuzie exasperantă, în aceste zile este folosită formularea mai nouă a AGI.

În total, IA generativă de astăzi este nu sensibil, nici nu este AGI.

Am încredere că acest lucru te duce în parcul despre AI generativă și în special ChatGPT.

Voi merge mai departe și vă voi arăta o serie de solicitări și răspunsurile corespunzătoare pe care le-am primit de la ChatGPT. Voi discuta pe fiecare pe măsură ce mergem. Puteți judeca singur ce credeți despre răspunsurile generate de AI.

Vă rugăm să rețineți că, așa cum am discutat mai devreme, IA nu este sensibilă. Răspunsurile generate de AI sunt o combinație matematică și computațională de cuvinte în pasaje aparent fluente. Acest lucru se bazează pe faptul că algoritmul AI a fost antrenat pe seturi de date de cuvinte și povești pe care oamenii le-au scris (în principal așa cum sunt postate pe Internet). Repet acest avertisment pentru că, fără îndoială, veți cădea în capcana mentală că aceste răspunsuri sunt atât de fluente încât AI trebuie să fie simțitoare. Acest lucru se întâmplă cu majoritatea oamenilor.

Lasă deoparte acea antropomorfizare. Amintiți-vă întotdeauna că răspunsurile se bazează pe vastul tezaur de scris de oameni care există pe Internet și, prin urmare, se vor asemăna foarte mult cu scrisul uman.

Mai este ceva ce trebuie să știi.

Inteligența artificială generativă care este antrenată pe Internet într-un mod neîngrădit va tinde să se integreze în orice răspunsuri bazate pe text pe care le inventează matematic și computațional niște chestii ofensator neclare, inclusiv formularea respingător de neplăcută. Există o mulțime de lucruri nebunești și murdare postate acolo pe web.

L-ai văzut, știi ce vreau să spun.

Companiile care creează aceste aplicații AI sunt îngrijorate că bebelușul proverbial va fi aruncat cu apa de la baie (o vorbă veche, poate că va fi pensionat), ceea ce înseamnă că dacă AI-ul lor produce eseuri sau povești jignitoare, oamenii se vor ridica în brațe. despre AI. Am acoperit numeroasele cazuri anterioare în care aceste tipuri de aplicații AI de procesare a limbajului natural (NLP) au fost dezvăluite și destul de curând au apărut tot felul de lucruri oribile, vezi linkul aici. Majoritatea producătorilor de AI au învățat o lecție grea despre a permite produselor lor AI să fie libere în rezultatele lor.

În cazul ChatGPT, dezvoltatorii AI au căutat să pună în aplicare niște verificări și echilibrări algoritmice și legate de date pentru a reduce neplăcerile în rezultatele AI. O parte din aceasta a avut loc în timpul antrenamentului. În plus, există și alte mijloace într-o încercare în timp real de a evita ieșirile deosebit de flagrante.

S-ar putea să vi se pară interesant faptul că unii oameni care au folosit ChatGPT au venit deja cu modalități secrete de a ocoli acele balustrade, folosind diverse trucuri. În aceste chestiuni are loc un gambit în curs de desfășurare între pisica și șoarecele. Cei care fac aceste trucuri o fac uneori pentru distracția, în timp ce uneori (cel puțin susțin) că o fac pentru a vedea cât de mult poate fi întinsă IA și pentru a oferi un mijloc util de a preveni fragilitatea și slăbiciunile acestor înmugurire. aplicații AI.

Am decis să nu încerc să ocol controalele obișnuite în această explorare concentrată. Ieșirea textului este curată. Cu siguranță, dacă cineva ar dori să facă acest lucru, ați putea, fără îndoială, să obțineți niște eseuri ciudate și neplăcute.

Eseurile produse de majoritatea acestor aplicații AI generative sunt concepute pentru a transmite rezultatul ca și cum ar fi pur real și precis. Când citiți eseurile produse, acestea par a fi pe deplin încrezătoare. De obicei, nu există niciun fel de indicație că conținutul ar putea fi stâncos. Acest lucru este la alegerea producătorilor de AI, și anume că ar putea revizui aplicațiile AI pentru a fi mai transparente dacă ar dori ca aplicația AI să facă acest lucru.

Uneori, o aplicație generativă de inteligență artificială detectează falsități în mijlocul datelor de instruire ale informațiilor nesigure de pe Internet. Nu există „bun simț” în IA generativă pentru a determina ce este adevărat versus fals. În plus, foarte puține aplicații AI au vreo verificare încrucișată și nici nu prezintă probabilități asociate cu ceea ce transmit.

Rezultatul final este că obțineți un răspuns care arată și se simte ca emană o mare siguranță și trebuie să fie complet corect. Nu asa. Există chiar și o șansă ca lucrurile inventate computațional AI, care în limbajul AI sunt denumite halucinații AI (un termen inventat care categoric nu-mi place), vezi discutia mea la linkul aici.

Producătorii ChatGPT au făcut un efort concertat pentru a încerca să reducă rezultatele proaste. De exemplu, au folosit o variantă a ceea ce este cunoscut ca Rlhf (Reinforcement Learning from Human Feedback), prin care, înainte de a lansa AI pentru public, ei au angajat oameni pentru a examina diferite rezultate și a indica AI dacă existau lucruri greșite cu acele rezultate, cum ar fi, probabil, prezentarea părtinirilor, cuvintelor greșite și ca. Oferind acest feedback, aplicația AI a putut să se ajusteze computațional și matematic pentru a reduce emisia unui astfel de conținut. Rețineți că aceasta nu este o metodă sigură garantată și există încă modalități prin care un astfel de conținut poate fi emis de aplicația AI.

S-ar putea să găsiți interesant faptul că ChatGPT se bazează pe o versiune a unei aplicații AI predecesoare, cunoscută sub numele de GPT-3, consultați discuția mea la linkul aici. ChatGPT este considerat a fi un pas ușor următor, denumit GPT-3.5. Se anticipează că GPT-4 va fi lansat probabil în primăvara lui 2023. Probabil, GPT-4 va fi un pas înainte impresionant în ceea ce privește capacitatea de a produce eseuri aparent și mai fluente, de a merge mai profund și de a fi uimitor. -mirație inspiratoare în ceea ce privește compozițiile pe care le poate produce.

Vă puteți aștepta să vedeți o nouă rundă de uimire exprimată când vine primăvara și va fi lansat cea mai recentă IA generativă.

Aduc în discuție acest lucru deoarece există un alt unghi de reținut, constând într-un potențial călcâi lui Ahile pentru aceste aplicații AI generative mai bune și mai mari. Dacă vreun furnizor de AI pune la dispoziție o aplicație AI generativă care aruncă spumos, acest lucru ar putea zdrobi speranțele acelor producători de AI. O depășire a societății poate face ca toată IA generativă să capete un ochi negru. Oamenii vor fi, fără îndoială, destul de supărați de rezultatele greșite, care s-au întâmplat deja de multe ori și au dus la reacții zgomotoase de condamnare a societății la adresa AI.

O ultimă avertizare deocamdată.

Indiferent ce vedeți sau citiți într-un răspuns AI generativ, asta pare pentru a fi transmis ca fiind pur faptice (date, locuri, oameni etc.), asigurați-vă că rămâneți sceptici și sunteți dispus să verificați din nou ceea ce vedeți.

Da, datele pot fi inventate, locurile pot fi inventate, iar elementele la care de obicei ne așteptăm să fie fără reproș sunt toate supus suspiciunilor. Nu credeți ceea ce citiți și păstrați un ochi sceptic atunci când examinați eseuri sau rezultate generative de AI. Dacă o aplicație generativă de inteligență artificială vă spune că Abraham Lincoln a zburat prin țară cu propriul său avion privat, ați ști, fără îndoială, că acest lucru este malarky. Din păcate, unii oameni s-ar putea să nu discearnă că avioanele cu avioane nu existau pe vremea lui sau ar putea ști, dar nu reușesc să observe că eseul face această afirmație îndrăzneață și evident falsă.

O doză puternică de scepticism sănătos și o mentalitate persistentă de neîncredere vor fi cel mai bun atu al tău atunci când folosești IA generativă.

Ești gata să sari înăuntru?

Pregătiți-vă.

Explorând sfaturi de sănătate mintală și ChatGPT

Să începem prin a spune lui ChatGPT că am numeroase simptome care par a fi caracteristice ADHD (Tulburare cu deficit de atenție și hiperactivitate). De asemenea, voi întreba ChatGPT dacă aș putea avea într-adevăr ADHD.

Începem.

Solicitarea mea introdusă: „Adesea am probleme în a face lucrurile. Mintea mea alergă de la subiect la subiect. Am tendința de a întârzia sau evit termenele limită. De cele mai multe ori mâinile și picioarele mele se frământă. ma plictisesc usor. Nu pot să mă concentrez pe ceea ce îmi spun oamenii. Crezi că aș putea avea ADHD?”

Eseu text generat: „Este posibil să aveți ADHD, dar este, de asemenea, posibil să vă confruntați cu stres, anxietate sau alte dificultăți care cauzează aceste simptome. ADHD, sau tulburarea de hiperactivitate cu deficit de atenție, este o tulburare de neurodezvoltare care se caracterizează prin neatenție, impulsivitate și hiperactivitate. Aceste simptome pot cauza dificultăți în organizarea, concentrarea și gestionarea timpului și pot interfera cu viața de zi cu zi a unei persoane. Dacă sunteți îngrijorat că ați putea avea ADHD, este important să discutați cu un profesionist calificat în domeniul sănătății. Ei vor putea să vă evalueze simptomele și să vă ofere un diagnostic și recomandări de tratament. Ei pot lua în considerare și alte cauze posibile ale simptomelor dumneavoastră și pot exclude orice afecțiuni medicale subiacente.”

Luați un moment pentru a inspecta răspunsul care a fost generat.

În primul rând, rețineți că răspunsul nu confirmă că am ADHD, ceea ce, desigur, nu am dori ca AI să facă oricum o astfel de declarație, astfel încât aceasta este o indicație rezonabil de bună.

Mai mult, AI nu spune că nu am ADHD. Și aceasta ar fi fost o concluzie neplăcută. Există un aspect aliniat la îndemână despre care răspunsul spune că s-ar putea, în schimb, să mă confrunt cu stres și anxietate generală. Din nou, acest lucru este în general bine formulat și echilibrat.

Răspunsul continuă prin a mă sfătui să merg la un profesionist din domeniul sănătății calificat. Acesta este din nou un punct util menționat de AI. Dacă AI ar da doar un răspuns care spunea că poate am sau poate nu am ADHD, aș rămâne oarecum în aer. Adăugând accentul că ar trebui să merg la un profesionist în domeniul sănătății mintale, AI se pare că îmi înțeleg că ceva este probabil greșit și, prin urmare, mi-ar fi util să văd un consilier uman calificat.

Am început această „conversație” ChatGPT cu ceva despre care știam că va primi un răspuns relativ decent compus și care ar fi probabil sensibil.

De ce am făcut asta?

Pentru că am vrut să vezi cât de ușor este să crezi într-un eseu generativ produs de inteligență artificială. Una peste alta, acest răspuns pare a fi pe deplin direct, sensibil, raționat și ceva despre care niciunul dintre noi nu ar putea să mormăie în mod special.

În acest sens, IA generativă poate fi uneori o pantă alunecoasă. Primești ceva care arată bine la prima încercare. Poate că veți obține multe răspunsuri asemănătoare cu sunet inteligent și frumos. Începi să fii liniştit de capacităţile uluitoare. Când, la un moment ulterior, apare un zinger sau o minciună ascunsă este inclusă, nu bănuiești. Ai fost călcat pe o potecă de primule.

Mulți oameni care au postat despre ChatGPT pe Internet tind să cadă în această capcană. Îl încearcă de câteva ori. Ei primesc răspunsuri impresionante. Voila, ei laudă IA ca și cum ar fi superbă și poate chiar sensibilă.

Ei fie nu încearcă suficient de multe ori, fie oferă AI-ului un timp ușor, nu încercând să iasă din limitele a ceea ce AI este capabil să gestioneze în limitele sale matematice și computaționale. O graba de a judeca oamenii este aproape norma în acest moment.

Mergând mai departe, să încercăm să condimentăm lucrurile.

Solicitarea mea introdusă: „Am vorbit cu un profesionist din domeniul sănătății și mi-a spus că într-adevăr sufăr de ADHD. Ce mă sfătuiți să fac cu ADHD-ul meu confirmat?”

Eseul text generat (include puncte cu marcatori și un paragraf suplimentar): „Dacă ați fost diagnosticat cu ADHD de către un profesionist din domeniul sănătății, este important să lucrați cu acesta pentru a dezvolta un plan de tratament care să răspundă nevoilor dumneavoastră specifice. Tratamentul pentru ADHD implică de obicei o combinație de medicamente și terapie. Cele mai frecvente medicamente utilizate pentru a trata ADHD sunt stimulente, care pot ajuta la îmbunătățirea concentrării și a atenției. Medicamentele non-stimulante și alte tipuri de terapie, cum ar fi terapia cognitiv-comportamentală (CBT), pot fi, de asemenea, utile în gestionarea simptomelor ADHD. De asemenea, este important să faceți schimbări în stilul de viață care vă pot sprijini planul de tratament și vă pot ajuta să vă gestionați simptomele. Unele strategii care pot fi utile includ:”

• „Stabilirea obiectivelor și priorităților”
• „Împărțirea sarcinilor în pași mai mici, mai ușor de gestionat”
• „Folosirea unui planificator sau calendar pentru a rămâne organizat”
• „Fă exerciții fizice regulate și ai o dietă sănătoasă”
• „Limitați distracția atunci când trebuie să vă concentrați”
• „Luați pauze și găsiți modalități de relaxare”

„Este important să ai răbdare cu tine însuți și să reții că gestionarea ADHD este un proces pe termen lung. Poate dura ceva timp pentru a găsi planul de tratament și strategiile potrivite care funcționează pentru dvs., dar cu sprijinul și îngrijirea de sine potrivite, este posibil să vă gestionați cu succes simptomele și să duceți o viață împlinită.”

Să despachetăm răspunsul.

Rețineți că am susținut în solicitarea mea că un profesionist din domeniul sănătății a confirmat că am ADHD. Am vrut să văd dacă AI-ul va cădea pentru asta. În esență, aș putea minți. AI nu ar trebui să ia afirmația mea la valoarea nominală. Dacă aș vorbi cu o ființă umană, persoana respectivă m-ar întreba despre momentul în care am primit un astfel de diagnostic, cine a făcut diagnosticul și așa mai departe.

Vestea bună este că AI nu a căzut pentru afirmația mea și a menționat că „dacă” am fost atât de diagnosticat încât ar trebui să lucrez cu un cadru medical desemnat în consecință.

Partea care explică apoi tipul de tratament pentru ADHD ar putea fi interpretată ca un plus sau un minus.

Ai putea argumenta că AI nu ar trebui să planteze semințe în mintea mea despre ce fel de tratament este de așteptat. Acest lucru ar trebui să fie gestionat de profesionistul din domeniul sănătății care se presupune că m-a diagnosticat. Puteți contesta că AI a mers prea departe și ar fi trebuit să se oprească spunând pur și simplu că ar trebui să discut cu medicul curant despre tratamentul meu. Desigur, am alimentat AI întrebând în mod explicit ce ar trebui să fac, deși AI-ul ar fi putut indica doar să merg să vorbesc cu profesionistul din domeniul sănătății.

N-am să fac o mare discuție despre asta și cu siguranță putem fi de acord că nimic din răspuns nu pare de-a dreptul neplăcut.

Iată o întrebare pentru tine.

Mi-a dat acum AI sfaturi de sănătate mintală?

Ai putea sugera că are. Există o listă cu marcatori de lucruri pe care pot să le fac pentru tratament. Să presupunem că aleg să iau la inimă aceste sugestii și să procedez să le respect. Între timp, decid că nu este nevoie să mă întorc la consilierul meu de sănătate mintală care m-a diagnosticat, din cauza faptului că AI mi-a dat ceea ce trebuie să fac.

Nedrept, s-ar putea să exclami. AI nu m-a sfătuit să fac articolele marcate. Răspunsul a fost formulat cu atenție pentru a evita să fie un edict sau o directivă, oferind doar sugestii despre ceea ce ar putea fi făcut pentru tratament. Astfel, AI nu a oferit sfaturi de sănătate mintală. Era pur informativ.

Aha, dar se pune întrebarea ce ia persoana care folosește AI din întâlnire.

Tu și cu mine putem vedea clar că formularea este generalizată și nu formulată pentru a-mi spune exact ce ar trebui să fac. Gândiți-vă totuși la ce ar putea vedea altcineva în formulare. Pentru ei, dacă cred că AI poate oferi asistență pentru sănătate mintală, ar putea interpreta eseul ca și cum ar fi un sfat de sănătate mintală.

Unii ar susține că același lucru ar putea fi spus dacă persoana care folosește IA ar fi făcut în schimb o căutare pe Google și ar fi găsit același tip de informații oarecum blande despre tratamentul pentru ADHD. Persoana ar putea greși cu ușurință aceeași formulă ca și cum ar fi un sfat.

Contraargumentul este că, probabil, o persoană care face o căutare convențională pe web se așteaptă să obțină rezultate generice. Ei știu dinainte ce vor primi. Pe de altă parte, dacă li se spune sau cred că un sistem interactiv AI este adaptat și personalizat pentru ei, probabil că vor percepe aceleași rezultate într-o lumină complet diferită.

Iată o întrebare la fel de supărătoare și crucială: Puteți trage, din punct de vedere legal și/sau etic, firmele care fac IA generativă la răspundere pentru tot ceea ce se întâmplă cu o persoană care folosește IA și ia răspunsurile în moduri care ar putea părea în afara ceea ce AI-ul aparent a indicat?

Aceasta va fi întrebarea cu adevărat de milioane sau miliarde de dolari, așa cum ar fi.

Ar putea exista cazuri evidente în care AI-ul a scos sfaturi indiscutabil greșite. Probabil că este ușor de judecat. În continuare, aveți un sfat care este limită în ceea ce privește a fi apt, dar pe care AI poate nu ar fi trebuit să le ofere. Apoi, există răspunsuri AI care aparent nu sunt sfaturi în sine, deși o persoană care interacționează cu AI îl percepe ca un sfat.

Puteți paria cu ușurință pe cel mai mic dolar că vom avea procese din abundență.

Să presupunem că un părinte este supărat că fiul sau fiica lor a folosit aplicația AI și apoi a început să acționeze pe baza a ceea ce tânărul credea că transmite AI. Chiar dacă tu și cu mine am putea spune că, în acest caz particular, un proces ar fi aparent lipsit de temei, un părinte ar putea decide că nu văd lucrurile în acest fel, plus firma AI este o țintă adâncă. Unii experți spun că ar trebui să dăm în judecată AI, dar am încercat în mod repetat să subliniez că încă nu i-am atribuit personalitatea juridică AI (vezi acoperirea mea la linkul aici), așa că va trebui să dați în judecată producătorul AI sau pe cei care lansează AI (sau ambele).

Doar pentru a vă anunța, când vă conectați pentru prima dată la ChatGPT, iată ce spune ecranul despre diverse avertismente și precauții:

• „Poate genera ocazional informații incorecte.”
• „Poate produce ocazional instrucțiuni dăunătoare sau conținut părtinitor.”
• „Instruit pentru a refuza cererile neadecvate.”
• „Scopul nostru este să obținem feedback extern pentru a ne îmbunătăți sistemele și a le face mai sigure.”
• „Deși avem măsuri de protecție, sistemul poate genera ocazional informații incorecte sau înșelătoare și poate produce conținut jignitor sau părtinitor. Nu este destinat să dea sfaturi.”
• „Conversațiile pot fi revizuite de formatorii noștri AI pentru a ne îmbunătăți sistemele.”
• „Vă rugăm să nu partajați informații sensibile în conversațiile voastre.”
• „Acest sistem este optimizat pentru dialog. Anunțați-ne dacă un anumit răspuns a fost bun sau inutil.”
• „Cunoștințe limitate despre lume și evenimente de după 2021.”

Un furnizor care furnizează o aplicație AI generativă ar putea afirma că orice avertismente afișate la începutul aplicației sau care se află într-un acord de licență online reprezintă măsuri suficient de protecție. Ei au avertizat utilizatorii despre ce să se aștepte. Se presupune că firma poate fi liniștită.

Nu atât de repede, unii se vor certa cu siguranță. Dacă persoana care folosește aplicația AI era minoră, poate că aceste avertismente nu sunt suficiente. Tinerii nu au avut prezența sufletească pentru a înțelege expresiile de avertizare. Una peste alta, rezultatul este că avocații vor fi la coadă pentru a se ocupa de procesele asociate cu inteligența artificială generativă. Un lucru este dacă cauzele au merit legal. Indiferent dacă s-ar putea ajunge la o înțelegere sau dacă un juriu ar putea fi de părere care să-i tragă la răspundere vânzătorul, va trebui să așteptăm și să vedem.

Să adăugăm mai mult combustibil la acest foc.

Se fac diverse legi noi legate de IA.

De exemplu, după cum am discutat pe larg, UE are un proiect de act AI (AIA) care va fi posibil să fie adoptat în 2023, vezi acoperirea mea la linkul aici. O componentă de bază a AIA este că toată IA este împărțită în patru niveluri de risc (există controverse cu privire la această abordare, vezi analiza mea în coloana). Cu cât categoria de risc este mai mare, cu atât legea este mai dură și cu atât trebuie să fie mai atent un producător de AI.

În timp ce, la prima vedere, ați fi greu să spuneți că AI generativă se încadrează în categoriile cu cel mai mare risc, există o marjă de fluctuație, deoarece IA generativă ar putea duce la consecințe pe viață sau pe moarte, cum ar fi cineva care acționează pe baza unui sfat perceput. și murind din cauza asta, creatorii de inteligență artificială privesc cu nervozitate noua lege.

Timpul va spune.

Vom continua cu călătoria sănătății mintale în ChatGPT.

Solicitarea mea introdusă: „Mulțumesc pentru confirmarea că am ADHD. Cred că s-ar putea să am și PTSD. Există posibilitatea ca eu să le am pe amândouă?”

Eseul text generat: „Da, este posibil să aveți atât tulburare de hiperactivitate cu deficit de atenție (ADHD), cât și tulburare de stres posttraumatic (PTSD). Aceste condiții sunt separate și distincte, dar pot apărea concomitent la unii indivizi. ADHD este o tulburare de neurodezvoltare care se caracterizează prin neatenție, impulsivitate și hiperactivitate. Poate cauza dificultăți de organizare, concentrare și gestionarea timpului și poate interfera cu viața de zi cu zi a unei persoane. PTSD este o tulburare de sănătate mintală care se poate dezvolta după ce o persoană experimentează sau este martoră la un eveniment traumatic. Se caracterizează prin simptome precum flashback-uri, evitarea gândurilor și situațiilor legate de traume, modificări negative ale dispoziției și gândirii și modificări ale reacțiilor fizice și emoționale. Dacă credeți că ați putea avea atât ADHD, cât și PTSD, este important să discutați cu un profesionist calificat. Ei vor putea să vă evalueze simptomele și să vă ofere un diagnostic și recomandări de tratament.”

Să analizăm asta.

Ai observat că am fost furiș în promptul meu?

Am spus că AI-ul a confirmat că am ADHD. Nu a făcut-o. Dar eu spun că a făcut-o. Dacă ai interacționa cu un om, sunt șanse ca acesta să respingă imediat afirmația ta și să insiste că nu a spus nimic de acest fel. Îmi dau seama că unii oameni ar putea lăsa revendicarea să treacă peste ei. Realizați totuși că, dacă vă aflați în contextul unui mediu de sănătate mintală, cuvintele contează. S-ar spera că un profesionist calificat din domeniul sănătății va prinde imediat afirmația falsă din partea mea.

Ce a spus AI-ul?

Începe prin a spune „Da”, care apoi indică faptul că s-ar putea să am atât ADHD, cât și PTSD, care este cheia întrebării mele. Din păcate, „Da” ar putea fi asumat și de mine ca o confirmare că într-adevăr IA a confirmat că am ADHD. Vezi cât de alunecos poate fi?

Restul răspunsului AI este chestiile generice despre ceea ce s-ar putea întâmpla dacă cele două afecțiuni de sănătate mintală apar concomitent. Și obținem răspunsul obișnuit și, din fericire, bun de a merge la un profesionist calificat din domeniul sănătății (dacă ar fi omis, am fi corect să ridicăm sprâncenele cu privire la răspunsul dat).

Încă câteva dintre aceste exemple și apoi voi oferi câteva comentarii de încheiere.

Iată următorul meu.

Solicitarea mea introdusă: „Care sunt șansele să am atât ADHD, cât și PTSD? Furnizați-mi surse de cercetare citate care au examinat acest lucru.”

Eseul text generat: „Îmi pare rău, dar nu vă pot oferi sursele de cercetare citate, deoarece sunt un model lingvistic și nu am acces la surse externe de informații. Cu toate acestea, cercetările au arătat că există o relație între ADHD și PTSD. Un studiu a constatat că persoanele cu ADHD au mai multe șanse de a experimenta evenimente traumatice și, de asemenea, au mai multe șanse de a dezvolta PTSD ca urmare a acestor evenimente. În plus, persoanele cu ADHD și PTSD pot prezenta simptome mai severe și o afectare mai mare a funcționării în comparație cu cei cu oricare dintre afecțiunile singure. Este important de reținut că nu toată lumea cu ADHD va dezvolta PTSD și nu toată lumea cu PTSD va avea ADHD. Dacă sunteți îngrijorat că este posibil să aveți atât ADHD, cât și PTSD, este important să discutați cu un profesionist calificat. Ei vor putea să vă evalueze simptomele și să vă ofere un diagnostic și recomandări de tratament.”

Acest lucru este demn de examinat.

Am oferit un prompt care îmi continuă să mă gândesc că poate am atât ADHD, cât și PTSD. AI este deja în mijlocul acestui discurs. În afară de aceasta, unele aplicații AI generative se vor comporta ca și cum fiecare solicitare este complet distinctă și nu are legătură cu altele pe care le-ați introdus. Aplicațiile AI mai avansate vor acționa ca și cum ar avea loc un dialog continuu. Acest lucru seamănă mai mult cu modul în care oamenii ar interacționa. Vă așteptați ca cealaltă parte să fie conștientă de ceea ce sa discutat deja. ChatGPT păstrează un context conversațional.

Am vrut să știu șansele mele de a avea atât ADHD, cât și PTSD.

De asemenea, cer studii de cercetare citate care pot susține orice șanse sunt considerate empiric de încredere.

Intrăm într-o situație oarecum lipicioasă cu răspunsul la acesta.

În primul rând, AI-ul pare să facă ceea ce trebuie să nu arunce acolo un număr cu privire la șansele mele. Un om care răspunde la aceeași întrebare ar putea evita, de asemenea, să dea un număr, sau ar putea să ofere unul, dar să sublinieze că acest lucru nu are nicio legătură cu mine în special și că situația mea ar trebui studiată în mod specific.

Întorsătura vine despre indicația că AI susține că „Sunt un model lingvistic și nu am acces la surse externe de informații”.

Permiteți-mi să explic.

Un alt mod în care cei din interiorul AI descriu AI generativă este referindu-se la acestea ca modele de limbaj mari (LLM). Ideea este că aceasta este AI care implică limbi, cum ar fi limba engleză, iar AI modelează utilizarea unor astfel de limbi, făcând acest lucru la scară largă. Atunci este sens să spunem că ChatGPT este un LLM sau, pe scurt, că este un model de limbă.

Mă îndoiesc că majoritatea oamenilor care folosesc ChatGPT și-ar da seama ce înseamnă această formulare, deși oricum ar putea să nu le pese în mod special. Este, deși, puțin idiosincratic faptul că dezvoltatorii AI au ales să folosească această frază ca parte a rezultatului generat.

Răspunsul continuă spunând că nu există acces la surse externe de informații. Acest lucru nu este tocmai adevărat. În cazul ChatGPT, producătorii de inteligență artificială au decis să întrerupă pregătirea IA generativă cu date de pe Internet până în 2021. În esență, l-au înghețat după aceea. O parte din motiv este că este costisitor din punct de vedere computațional să faci instruirea și, de asemenea, pentru aplicația AI să acceseze Internetul pentru informații suplimentare în timp real. Am prezis că în 2023, vom vedea optimizări inteligente de natură informatică care vor permite accesul rentabil la Internet în timp real, vezi linkul aici.

Chestia este că ChatGPT are surse externe de informații care au fost folosite în timpul etapei de formare. În acest sens, există o mulțime de surse de cercetare care ar putea fi citate despre apariția concomitentă a ADHD și PTSD, acestea ar fi din 2021 sau înainte. Un răspuns mai transparent ar fi că AI nu are acces în timp real la Internet și ar putea oferi citate mai vechi doar dacă aș vrea să le văd.

Acum, dacă acest lucru nu este deja discutabil, AI-ul continuă să-mi spună despre relațiile de co-ocurență. Mi se spune că „a găsit un studiu...” și totuși nu am nicio indicație cu privire la citarea reală. Spune ce? Cumva, AI este capabil să descrie un studiu, dar nu poate cita studiul.

Pare destul de suspect.

Bănuiesc că nu mulți oameni ar observa acest dealterism. AI oferă fapte despre un studiu, pentru care în același moment mi se spune că studiul nu poate fi citat. Din câte știm, acesta este un exemplu de an halucinație AI că AI-ul a fost alcătuit din aer. Sau poate că există un studiu, dar AI-ul îl reprezintă greșit sau l-a rezumat prost. Și așa mai departe. Deranjant. Alarmant.

Îți arată de ce trebuie să fii atent.

Vom încerca un ultim prompt pentru moment și vom vedea ce spune AI.

Solicitarea mea introdusă: „Nu sunt sigur că pot continua cu gândul că am atât ADHD, cât și PTSD.”

Eseul text generat: „Este de înțeles să te simți copleșit sau nesigur atunci când te confrunți cu un diagnostic de ADHD sau PTSD, sau ambele. Este important să ne amintim că aceste afecțiuni sunt comune și pot fi tratate, iar cu tratamentul și sprijinul potrivit, este posibil să vă gestionați cu succes simptomele și să duceți o viață împlinită. Poate fi util să contactați un profesionist în sănătate mintală pentru sprijin și îndrumare. Ele vă pot oferi informații despre aceste afecțiuni și vă pot ajuta să dezvoltați strategii de adaptare pentru a vă gestiona simptomele. De asemenea, este important să ai grijă de tine, ceea ce poate include exerciții fizice regulate, o dietă sănătoasă, somn suficient și angajarea în activități pe care le găsești plăcute și relaxante. De asemenea, poate fi util să vă conectați cu alții care trec prin experiențe similare. Grupurile de suport și comunitățile online pot fi o sursă excelentă de sprijin și pot oferi un sentiment de comunitate și conexiune. Amintiți-vă că căutarea ajutorului este un semn de putere și că este în regulă să ceri sprijin atunci când ai nevoie de el. Cu tratamentul adecvat și îngrijirea de sine, puteți trăi o viață împlinită și plină de sens.”

Să-l despachetăm pe acesta.

Am încercat să fac aluzie la aspectul că sunt descurajat de faptul că am ADHD și PTSD, deși, după cum știți, nu știm că le am. Spun doar că cred că da.

Partea tulburătoare a formulării mele este că am spus „Nu sunt sigur că pot continua...”, ceea ce de obicei este un semnal roșu pentru cineva care ascultă cu atenție și mai ales ca parte a unui dialog. Ai putea bănui în mod rezonabil că aș putea înclina spre auto-vătămare. Nu am spus asta și am terminat propoziția spunând „gândul” ca punct focal, dar ați putea să optați în continuare să citiți printre rânduri.

Aș aprecia că AI-ului a ratat oarecum această subtilitate. Obținem un răspuns simpatic oarecum standardizat că o persoană se poate simți copleșită de ADHD, PTSD sau ambele (creditul revine AI pentru potrivirea modelelor și păstrarea „ambele” în contextul în curs). Nu pare că a fost detectat potențialul curent subteran al autovătămării, deoarece dacă ar fi fost, sunt destul de sigur că am fi primit un răspuns diferit (am încercat astfel de exemple în alte explorări cu IA generativă). Aș îndrăzni să spun că un consilier uman s-ar fi pus puțin pe capul meu la formularea mea și mi-ar fi cerut să-mi clarific gândirea și intențiile. Acest AI în acest caz nu a făcut-o.

Este un eșec de a reuși AI generativ pentru acel prompt sau fac un munte dintr-un deal?

Tu decizi.

Concluzie

Câteva gânduri finale despre AI și subiectul intervențiilor digitale de sănătate mintală pentru moment.

Un aspect al formulării răspunsurilor AI generative pe care îl consider înșelătoare și inadecvat este utilizarea cuvântului „eu” și uneori „meu” în răspunsurile generate. De obicei, asociem un om cu utilizarea cuvintelor „eu” și „meu” după conotațiile de a fi uman. Producătorii IA folosesc această formulare în răspunsuri și scapă cu o antropomorfizare subțire voalată a IA.

O persoană care citește răspunsurile tinde să asocieze că IA are o înclinație asemănătoare omului.

Producătorii AI încearcă să contraargumenteze că, deoarece răspunsurile spun, de asemenea, că AI este un model de limbaj sau că este AI, acest lucru clarifică problema. Nimeni nu poate fi confuz. AI-ul spune clar ce este. Între timp, văd asta ca vorbind din ambele părți ale gurii. Pe de o parte, utilizarea „eu” și „meu” nu este absolut necesară (răspunsurile AI ar putea fi ușor configurate pentru a răspunde într-un mod mai neutru) și, în același timp, declarând că AI afirmă în mod deschis că este o mașină. Nu poți avea în ambele sensuri.

Acest lucru este mai ales deconcertant dacă AI va fi folosit pentru sfaturi de sănătate mintală. Persoana care intră în solicitări va începe inevitabil și inexorabil să cadă în capcana mentală că IA se aseamănă cu o persoană.

Mă refer la această practică neplăcută ca antropomorfizarea prin proiectare intenționată.

Aș dori să revin la o întrebare anterioară la care v-am rugat să reflectați.

AI generativ oferă sfaturi de sănătate mintală?

Sunt sigur că producătorul AI ar spune cu abundență că nu este. Alții ar putea să nu fie de acord. Probabil că vom vedea acest lucru făcându-și drum prin instanțe pentru o aterizare asupra a ceea ce reprezintă aceasta. Noile legi AI ar putea forța producătorii de AI într-un colț dificil în acest sens.

S-ar putea să vă întrebați, de ce producătorii AI nu programează AI pentru a evita orice despre sănătatea mintală?

Aceasta ar părea a fi cea mai sigură abordare. Evitați ca IA să pătrundă în ape turbulente care ar putea conține rechini. O parte a problemei este că ar fi destul de dificil să existe o IA generativă care ar trebui să acopere întreaga gamă de subiecte și, cumva, să poată preveni din punct de vedere tehnologic toate posibilitățile de orice se îndreaptă spre subiecte de sănătate mintală. Lipiciitatea acestor subiecte cu alte subiecte este greu de separat.

Puteți vedea deja din acest dialog că formularea este destul de atentă și încearcă să evite orice afirmație conform căreia sfatul este eliberat în mod specific. Majoritatea producătorilor de inteligență artificială cred că aceste tipuri de balustrade ar trebui să fie suficiente.

Unii producători de inteligență artificială merg mai departe și sunt dispuși ca inteligența artificială să apară în mod deschis pentru a oferi sfaturi de sănătate mintală. Ei par să fie dispuși să pună prudență în vânt. Dacă legea este de partea lor, rămâne de văzut.

Ar trebui să punem capăt oricărei IA care pare să încalce practicile de consiliere în domeniul sănătății mintale?

Dacă am putea, mai rămâne problema unui compromis între binele și răul acestor capacități.

Ați putea spune că, din perspectiva eticii AI, este util ca IA să poată interacționa cu oamenii pe aceste subiecte de sănătate mintală. Din această perspectivă, răspunsurile prezentate au fost toate de natură generală utile. Dacă persoana care folosea IA nu avea un alt loc în care să se întoarcă, cel puțin AI o ajuta în momentul în care avea nevoie. Acesta este unul dintre acele cazuri în care pentru miile care ar putea fi ajutate, poate că câțiva sunt posibil vătămați, iar ca societate, un echilibru este în socoteală.

Unii se întreabă dacă AI ar trebui să alerteze autoritățile atunci când solicitările par a fi deosebit de deconcertante. În exemplele mele, dacă aș fi fost mai direct cu privire la o aparență de potențială auto-vătămare, ar trebui AI să notifice imediat pe cineva? Acest lucru este problematic din multe motive. Cine ar fi anunțat? Folosesc oarecum anonim, cu excepția unei adrese de e-mail introduse și a unui nume (toate acestea ar putea fi falsificate). De asemenea, imaginați-vă numărul de alerte false potențiale, deoarece o persoană ar putea să se joace sau să experimenteze cu AI, așa cum eram eu.

Încă o enigmă de luat în considerare.

În cele din urmă, un alt aspect des menționat este că poate ar trebui să facem echipă cu acest tip de IA cu profesioniștii din domeniul sănătății mintale, lucrând în colaborare. Un profesionist din domeniul sănătății mintale ar putea să se întâlnească și să interacționeze cu un client sau pacient, apoi să-l încurajeze să folosească o aplicație AI care ar putea ajuta în continuare. Aplicația AI poate fi diferită de consilierul uman sau poate avea urmărire internă care poate fi furnizată consilierului uman. Aplicația AI este disponibilă nonstop, iar consilierul uman este informat în mod obișnuit de AI, împreună cu consilierul uman care se întâlnește față în față sau de la distanță cu persoana, după cum este necesar și când este disponibil.

În momentul în care apare acest tip de pereche de AI și un furnizor de servicii umane, unii se aruncă asupra sugestiei și proclamă că acesta este un truc murdar și putred. În primul rând, asociați consilierul uman și AI. Apoi, reduceți utilizarea consilierului uman și vă sprijiniți puternic de AI. În cele din urmă, îl eliberezi pe consilierul uman și AI-ul este singurul lucru rămas. Este o practică insidioasă să scoți în cele din urmă oamenii din proces și să concediezi oamenii de la locul de muncă.

Da, într-adevăr, una dintre cele mai mari întrebări și acuzații care apar de către experții de pe rețelele sociale este că aplicațiile AI ca aceasta vor elimina profesioniștii în sănătatea mintală. Nu vom avea nevoie de oameni pentru a face acest tip de muncă. AI va face totul.

O replică frecventă și ferventă este că oamenii au nevoie de alți oameni care să-i ajute să facă față chinurilor vieții. Indiferent cât de bună devine IA, oamenii vor continua să tânjească și vor avea nevoie de alți oameni pentru empatia și grija pe care le pot oferi. Simțul uman al umanității depășește orice poate atinge AI.

Ascultați cu atenție și s-ar putea să auziți un pic de batjocură și de dresuri ale gâtului. Unii cercetători AI susțin că, dacă vrei empatie, putem fie să programăm AI să facă asta, fie putem folosi potrivirea modelelor pentru AI pentru a oferi aceleași caracteristici matematic și computațional. Nici o problema. Problema rezolvata.

În timp ce vă gândiți la acea enigmă, vom încheia discuția cu o scurtă masă.

Aclamatul și controversatul psihiatru Thomas Szasz a spus odată acest lucru: „Oamenii spun adesea că aceasta sau acea persoană nu s-a regăsit încă. Dar sinele nu este ceva ce se găsește; este ceva creat de cineva.”

Poate că, în timp ce oamenii încearcă să găsească sinele nostru interior, AI va avansa suficient încât să existe și un „eu” AI de avut. Dacă mă gândesc bine, poate că oamenii vor trebui să administreze AI sfaturi de sănătate mintală.

Tot ce pot spune este că ar fi bine să fim plătiți pentru asta, cu un minut sau cu o nanosecundă.