Îngrijorările înfuriate că AI ChatGPT generativ îi îndeamnă pe studenți să înșele foarte mult atunci când scriu eseuri, generează o atenție fermecată pentru etica IA și legea AI

Este eseul scris al studenților din zilele noastre un niciodată mai mult?

Iese febril pe fereastră lucrarea plină de neliniște?

Acesta este brouhaha care a izbucnit într-un zgomot total recent. Vedeți, apariția unei aplicații AI cunoscută sub numele de ChatGPT a atras multă atenție și a strâns, în egală măsură, multă furie. Pentru acoperirea mea cuprinzătoare despre ChatGPT, consultați linkul aici. Pentru acoperirea mea continuă și extinsă a eticii AI și a legii AI, consultați linkul aici și linkul aici, Doar pentru a numi câteva.

Esența țipetelor și urletelor este că acest tip de IA, denumit de obicei AI generativă, va fi semnul morții pentru a le cere studenților să facă teme în stil eseu.

De ce da?

Pentru că cea mai recentă IA generativă este capabilă să producă eseuri aparent fluente prin simpla introducere a unui simplu prompt. Dacă introduceți un rând precum „Spune-mi despre Abraham Lincoln”, AI va genera un eseu despre viața și vremurile lui Lincoln, care este adesea suficient de bun pentru a fi confundat cu faptul că a fost scris în întregime și exclusiv de mâini umane. Mai mult, și aici este adevăratul kicker, eseul nu va fi o copie duplicată sau vizibilă a altceva deja scris pe același subiect. Producerea eseului va fi în esență un „original” din câte ar putea constata orice inspecție obișnuită.

Un student care se confruntă cu o temă de scriere poate doar să invoce una dintre aceste aplicații AI generative, să introducă un prompt și voila, întreg eseul lor a fost scris pentru el. Ei trebuie doar să taie și să lipească textul generat automat într-un document gol, să-și plaseze pe ascuns numele și informațiile despre clasă și, cu un pic de bravudă destul de curajoasă, să-l transforme în propria lor lucrare.

Șansele ca un profesor să poată descoperi că eseul a fost scris de AI și nu de elev sunt aproape de zero.

Scandalos!

Titlurile au proclamat în grabă că am ajuns la capătul amar de a-i face pe studenți să scrie eseuri sau să facă, în esență, orice fel de teme de scris în afara clasei. Singurul mijloc de a face față situației ar părea să fie folosirea eseurilor în clasă. Atunci când elevii se află într-un mediu controlat, cum ar fi o sală de clasă și presupun că nu au acces la laptopuri sau smartphone-urile lor, se vor afla limitați să scrie eseuri în mod demodat.

Pentru a clarifica, modul de modă veche înseamnă că vor trebui să scrie numai prin utilizarea propriilor noggins.

Orice fel de eseu făcut în afara sălii de clasă va fi imediat suspectat. Elevul a scris eseul sau a făcut-o o aplicație AI? După cum am menționat, eseul va fi atât de bine scris încât nu puteți detecta cu ușurință că a fost scris de o mașină. Ortografia va fi impecabilă. Sintaxa va fi extraordinară. Linia discursului și potențialele argumente antrenate formulate vor fi convingătoare.

La naiba, într-un fel de a vorbi, ați putea sugera că IA generativă își va înclina mâna proverbială, făcând un eseu care depășește capacitățile studentului care optează pentru această cale nefastă. Un profesor ar putea deveni suspicios din cauza faptului că eseul este puțin prea bun. Un profesor priceput ar fi tentat să ghicească că elevul nu ar fi putut scrie o proză atât de elegantă și etanșă. Soneriile interne de alarmă încep să sune.

Desigur, provocarea unui student cu privire la eseul său va fi urâtă și poate avea consecințe negative.

Să presupunem că elevul a scris eseul cu atenție, de unul singur. S-ar putea să-l fi verificat de două ori și de trei ori. Există și o șansă ca poate să fi avut un prieten sau o cunoștință să arunce o privire pentru a vedea ceva care are nevoie de lustruire suplimentară. Una peste alta, este încă eseul lor așa cum a fost scris de ei. Imaginați-vă un profesor care îi pune acestui elev serios și studios întrebări ascuțite despre eseu. Rușinea și supărarea de a fi acuzat de înșelăciune sunt palpabile, chiar dacă profesorul nu face o astfel de afirmație cu voce tare. Simpla confruntare în sine este suficientă pentru a submina stima elevului și a-i face să se simtă calomniați în mod fals.

Unii insistă că orice profesor care are suspiciuni cu privire la paternitatea unui eseu ar trebui să-i ceară elevului să explice ceea ce a scris. Probabil, dacă eseul a fost scris de student, acesta îl poate explica în mod adecvat. Profesorii au făcut acest tip de anchetă de eoni. Un student s-ar putea să fi îngrădit un alt student să-și scrie eseul pentru el. Este posibil ca elevul să fi determinat un părinte să-și scrie eseul. În lumea de astăzi, studentul ar putea plăti pe cineva de pe internet pentru a-și scrie eseul în secret în numele său.

Astfel, a cere unui student să verifice calitatea de autor printr-o anchetă în clasă este obișnuit și nu este mare lucru.

Mă bucur că ai adus în discuție asta.

Încercarea de a găti un student la grătar ușor sau demonstrabil nu este un test de turnesol atât de simplu pe cât ați putea crede. Studentul ar fi putut studia îndeaproape eseul produs de AI și s-ar fi pregătit pentru un potențial interogatoriu.

Gândește-te așa. Studentul generează mai întâi eseul printr-o simplă apăsare a unui buton. Studentul petrece apoi o mulțime de timp pe care l-ar fi dedicat scrierii eseului, în loc examinând și studiind eseul meticulos. După un timp, cuvintele sunt aproape în totalitate memorate. Studentul aproape că se amăgește făcând să creadă că într-adevăr a scris eseul. Această aparență de încredere și conștientizare le-ar putea aduce cu ușurință printr-un control condus de profesor.

Aha, unii spun, cu un pic de contrapunct față de temerile aplicațiilor AI generative, rețineți că studentul a „învățat” de fapt ceva, generând eseul. Sigur, elevul nu a făcut treaba pentru a cerceta subiectul și nici nu a compus eseul, dar, cu toate acestea, dacă a studiat cu atenție eseul, pare să arate că a învățat despre tema atribuită. Studentul care se angajează să învețe pe de rost eseul despre Lincoln probabil că a învățat ceva substanțial despre Lincoln.

Învățarea s-a întâmplat.

Uau, spune replica, sarcina a fost probabil un proces dublu. Învățarea despre Lincoln ar fi putut fi relativ secundară. Scopul real a fost ca elevul să învețe să scrie. Această parte esențială a misiunii a fost complet subestimată. Profesorii atribuie adesea subiecte deschise și își propun doar ca elevul să experimenteze scrisul. Trebuie să expuneți ceea ce doriți să scrieți, trebuie să vă dați seama ce cuvinte le veți folosi, trebuie să puneți cuvintele într-un set sensibil de propoziții și paragrafe și așa mai departe. Pur și simplu citirea unui eseu produs de inteligență artificială nu este deloc în concordanță cu acel aspect fundamental al unei sarcini de eseu.

Contrapunctul la aceasta este afirmația că studentul învață potențial despre scris, examinând îndeaproape scrisul produs de AI. Nu-i studiem cu toții pe marii maeștri ai scrisului pentru a vedea cum scriu ei? Scrierea noastră este o încercare de a ajunge la oameni ca Shakespeare și alți mari scriitori. Studierea cuvântului scris este un mijloc valid de a aduna cum se scrie.

Ca un meci aprig de tenis, mingea se deplasează pe partea cealaltă a fileului. Deși a studia scrisul bun este bine, trebuie să scrii în cele din urmă dacă vrei să poți să scrii. Nu poți să citești la nesfârșit și apoi să presupui în gol că studentul știe acum să scrie. Ei trebuie să scrie și să scrie și să continue să scrie până când sunt capabili să-și arate și să-și îmbunătățească în mod tangibil capacitățile de scriere.

Vedeți cum toate acestea sunt destul de o enigmă?

Fiți conștienți de că există aproximativ un miliard sau mai multe întorsături în toate acestea.

Voi acoperi câteva dintre cele mai ingenioase și mai interesante răsturnări.

Ajustarea eseului prin AI Prompting

După ce tocmai l-am menționat pe Shakespeare, iată un aspect al IA generativă care ar putea fi surprinzător pentru tine. În multe dintre aplicațiile AI generative, puteți spune ceva de genul acesta: „Scrieți un eseu despre Lincoln ca și cum Shakespeare ar fi scris eseul”. AI va încerca să genereze un eseu care pare să fie scris în limba folosită în mod obișnuit de Shakespeare în scrierile sale. Este o performanță destul de distractivă și captivantă de văzut și mulți se bucură de asta.

Cum se leagă acest lucru cu studentul care „înșeală” folosind AI generativă pentru a-și scrie eseurile?

În multe aplicații AI generative, îi poți spune AI să scrie într-un mod mai puțin stelar. AI va încerca să producă un eseu oarecum dur pe margini. Există probleme de sintaxă aici sau acolo. Logica eseului poate fi sarcină sau ușor dezarticulată.

Acesta ar fi un șiretlic inteligent. Elevul ia eseul rezultat și îl predă. Eseul este suficient de bun pentru a obține o notă superioară, dar între timp nu atât de perfect încât să provoace furia profesorului. Încă o dată, AI a făcut toată treaba pentru student, inclusiv a făcut eseul oarecum imperfect.

În plus, majoritatea aplicațiilor AI generative vă permit să utilizați aplicația atât cât doriți. Iată cum se joacă. Un student scrie că aplicația AI este să facă un eseu oarecum imperfect despre Lincoln. Se produce eseul. Elevul se uită la eseu și își dă seama că este încă prea perfect. Elevul introduce un alt prompt care instruiește AI să facă imperfecțiunile mai pronunțate.

Spumă, clătește, repetă.

Elevul continuă să introducă solicitări și să inspecteze eseurile produse. Din nou și din nou acest lucru se întâmplă. În cele din urmă, studentul aduce AI la nivelul potrivit de imperfecțiune în eseu. Versiunea goldilocks a fost atinsă. Este suficient de perfect pentru a obține o notă mare și suficient de imperfect pentru a nu trezi suspiciuni.

Sunt sigur că unii dintre voi spuneți cu înțelepciune că, dacă studentul ar fi optat pentru a scrie eseul blestemat în primul rând, ar fi petrecut poate mai puțin timp sau cel puțin același timp în scrierea eseului în sine. Toată această utilizare care consumă energie a aplicației AI ar fi putut fi direcționată pur și simplu spre a continua scrierea eseului.

Ei bine, ține minte, studentul nu are asta în minte. Ușurința de a introduce solicitări și de a revizui și selecta în mod iterativ eseul dorit va fi cu siguranță mult mai ușor de realizat pentru student. O oră de a face acest lucru este mult mai puțin grea decât a scrie eseul direct. Smarminess în acest caz trebuie să fie cântărit față de realitate.

Ce se întâmplă dacă alți studenți fac același lucru

Pariez că ai avut în vedere acest gând inteligent în timp ce citești analiza anterioară despre eseuri și aplicații AI generative, și anume că, fără îndoială, studentul va fi prins dacă mulți alți studenți fac același lucru.

Permiteți-mi să explic.

Un profesor îi atribuie întregii clase să scrie un eseu despre Lincoln. Să presupunem că 90% dintre studenți decid să folosească o aplicație AI generativă pentru această temă. Dacă 90% pare excesiv de deprimant, continuă și folosește 10% în schimb. Rețineți că, pe măsură ce studenții înțeleg utilitatea aplicațiilor AI generative, tentația de a le folosi se va răspândi.

Bine, deci un procent notabil din clasă folosește o aplicație AI generativă. Ai presupune că, așadar, toți studenții vor prezenta aproximativ același eseu Lincoln. Profesorul va observa, când va nota al treilea sau al patrulea eseu, că eseurile sunt aproape toate la fel. Acesta va fi un indiciu imens că ceva nu este în regulă.

Îmi pare rău, dar este puțin probabil să fii atât de norocos.

Majoritatea aplicațiilor AI generative sunt foarte sensibile la modul în care este compus în mod special un prompt. Dacă scriu „Spune-mi despre Lincoln” versus dacă scriu „Spune-mi despre viața lui Lincoln”, șansele sunt ca eseurile să fie substanțial diferite. În primul rând, poate eseul produs de AI se concentrează pe președintele Lincoln în timpul mandatului său la Casa Albă și omite orice despre copilăria lui. Celălalt îndemn ar putea produce un eseu care să acopere nașterea sa până la moarte.

Elevii probabil nu vor introduce exact orice le-a dat profesorul ca îndemn pentru eseu. Ar părea logic, ca trișor, să încerce variații. Dar chiar dacă toți studenții introduc exact același prompt, șansele sunt destul de bune ca fiecare eseu să fie oarecum diferit de celelalte.

Aceste aplicații de inteligență artificială folosesc o vastă rețea matematică și computațională realizată în interior, care practic are modele larg potrivite pe textul găsit pe Internet. Inclus în procesul de generare a unui eseu este un factor probabilistic. Cuvintele alese este puțin probabil să fie în aceeași ordine și de aceeași formulă exactă. Fiecare eseu generat va fi în general diferit.

Există totuși o captură în asta. Dacă subiectul ales este destul de obscur, există șansa ca unele dintre eseurile produse să semene între ele. Asta s-ar datora parțial pentru că modelul de la rădăcina textului a fost subțire pentru început. Acestea fiind spuse, modul în care este compus eseul ar putea fi încă destul de diferit. Tot ce spun este că esența conținutului în sine ar putea fi aproximativ aceeași.

Nu vreau să par sumbru, dar ați putea face aceeași afirmație despre un subiect comun precum viața lui Lincoln. În câte moduri diferite poți detalia aspectele generale ale vieții lui? Dacă ai asigurat cumva studenții într-o clasă închisă pentru a scrie despre Lincoln și le-ai dat acces online pentru a-și cerceta viața, îndrăznesc să spun că șansele ca eseurile să fie oarecum asemănătoare s-ar putea întâmpla oricum.

Factorul liber și ușor este substanțial

Dacă un student din zilele noastre dorește să înșele plătind pe cineva pe internet să-și scrie eseul, este foarte simplu să facă acest lucru (sper că nu te șochează, poate că ar fi trebuit să ofer un avertisment de declanșare în prealabil).

Problema este însă că trebuie să plătești eseul. De asemenea, există o mică șansă ca, mai târziu, să fii prins, poate. Ați folosit un card de credit pentru a plăti eseul? Poate mai bine să utilizați o formă de procesare a plăților subterane pentru a încerca să vă păstrați urmele clare.

Frumusețea sau poate factorul exasperant al IA generativă este că în acest moment majoritatea sunt disponibile gratuit. Nu este necesară nicio plată. Nu există un istoric special al utilizării dvs. (ei bine, pentru a fi clar, aplicația AI ar putea ține evidența utilizării dvs., mai ales că multe dintre aplicațiile AI necesită să vă înscrieți cu o adresă de e-mail, dar, desigur, puteți falsifica și asta ).

Unii oameni presupun în mod natural că trebuie să fii un vrăjitor AI pentru a utiliza o aplicație AI generativă.

Nu este așa.

În general, aplicațiile AI generative sunt uimitor de simplu de utilizat. Invocați aplicația AI. Vă prezintă o casetă de text deschisă pentru a vă introduce solicitarea. Introduceți o solicitare și apăsați pe trimitere. Aplicația AI generează textul.

E vorba de asta.

Nu sunt necesare limbaje informatice specializate. Fără cunoștințe de baze de date sau știință a datelor. Vă asigur că aproape orice copil din școală poate folosi cu ușurință o aplicație AI generativă. Dacă un copil poate scrie, poate folosi aceste aplicații.

Unii susțin că companiile care furnizează aplicații AI generative ar trebui să verifice mai întâi vârsta utilizatorului, probabil pentru a împiedica persoanele care nu sunt adulți să folosească AI în scopuri de înșelăciune atunci când scriu eseuri. Dacă utilizatorul indică că nu este un adult, nu-l lăsați să folosească aplicația AI. Sincer, acesta este un scenariu de prevenire improbabil, cu excepția cazului în care au fost adoptate într-un fel legi legate de IA care încearcă să stabilească astfel de restricții. Chiar dacă sunt adoptate astfel de legi, probabil că puteți ocoli acest lucru folosind o aplicație AI generativă care este găzduită într-o altă țară etc.

Un alt unghi prohibitiv ar fi dacă aplicațiile AI generative costă bani de utilizat. Să presupunem că există o taxă pe tranzacție sau o taxă de abonament. Acest lucru ar pune aplicația AI generativă la egalitate cu acei oameni de pe Internet care vă vor scrie un eseu care vă va cere să faceți acest lucru. Munca ar merge cap la cap cu AI (în afară de asta, toate acestea sugerează că oamenii care, pentru a trăi, scriu eseuri pentru studenți vor fi înlocuiți cu AI care face același lucru; întrebarea este să fim întristați sau mulțumiți? că acei oameni care își fac astfel de existență nu vor mai putea face acest lucru în acest fel).

Companiile care produc aplicații AI generative sunt cu siguranță dornice să câștige bani din aceste aplicații, deși cum să facă acest lucru este încă în aer. Perceperea unei taxe de tranzacție, a unei taxe de abonament sau, poate, a unei taxe pe cuvânt generat sunt toate pe masă. În loc să taxeze oamenii, monetizarea se poate face prin utilizarea reclamelor. Poate că de fiecare dată când utilizați o anumită aplicație AI generativă, mai întâi trebuie să vedeți un anunț. Acesta ar putea fi un generator de bani.

Urăsc să vărs lapte în asta, dar ca mijloc de a depăși înșelăciunea studenților, nu va fi nici un fel de glonț de argint. Nici măcar pe aproape.

Există versiuni open-source ale AI generative. Oamenii le pun acolo, iar alții sunt apți să facă aplicația disponibilă gratuit. Într-un fel sau altul, chiar dacă unele companii percep o taxă, veți putea găsi variante care pot fi utilizate gratuit, deși este posibil să aveți nevoie să vedeți reclame sau poate să vă înscrieți și să oferiți câteva informații despre dvs. în scopuri de marketing.

Multi-Pas ajută la asta

Un student optează să folosească o aplicație AI generativă pentru a-și produce eseul.

În loc să predea imediat eseul, studentul decide să editeze eseul. Ei scot judicios câteva cuvinte aici. Pune în câteva cuvinte acolo. Mutați o propoziție în sus. Mutați o propoziție mai jos. După puțină editare și perfecționare, acum au un eseu pe care sunt gata să îl predea.

Este acest eseu lucrarea studentului sau nu?

V-am adus la întrebarea nerezolvată fără răspuns, de un milion de dolari.

Să facem câteva detalii despre drepturile legale și încălcarea acestora. Acesta este un subiect pe care l-am abordat destul de mult, cum ar fi linkul aici și linkul aici, De exemplu.

Probabil că știți deja ceva despre drepturile de autor și despre ceea ce este cunoscut sub numele de proprietate intelectuală (IP). Cineva care are o poveste protejată prin drepturi de autor ar trebui să păstreze diferite drepturi legale asociate cu acea poveste. Ei nu au un aspect atotcuprinzător de drepturi legale. Există excluderi și excepții.

Una dintre cele mai dificile probleme legate de încălcarea materialului protejat prin drepturi de autor al cuiva este apropierea de ceea ce ați putea avea în comparație cu sursa originală. Poate ați citit sau ați văzut știri despre cântăreți celebri și versurile lor, în care altcineva a scris o melodie cu versuri aparent similare și dacă acest lucru era legal sau nu.

Menționam mai devreme că, de obicei, aplicația AI generativă nu produce un eseu care este o copie carbon a altor materiale pe care a fost instruită anterior prin examinarea conținutului de pe Internet. Sunt șanse ca materialul să fie generalizat și să fie amestecat împreună, astfel încât să nu mai semene îndeaproape din orice ar fi conținutul sursă.

Va trebui să așteptăm și să vedem cum se ocupă procesul legal cu acest lucru. Dacă o aplicație AI generativă produce o lucrare de artă care este în mod evident similară cu unele lucrări de artă din sursă, probabil că ne-am înclina să acuzăm AI și creatorii AI că au încălcat drepturile de autor asociate lucrării originale. O putem vedea cu ochii noștri.

Când vine vorba de eseuri, acest lucru poate fi mai complicat. Exemplele evidente sunt când propozițiile și paragrafele întregi sunt identice cuvânt cu cuvânt. Cu toții putem vedea asta. Dar când formularea diferă cu un minim de diferențe, intrăm în zone gri.

Cât de departe de materialul original trebuie să fie materialul nou realizat pentru a declara că este un original de bună credință pe propriile sale merite?

E o întrebare grea.

Să legăm acest lucru de studentul care folosește aplicația AI generativă pentru eseul său.

Pretindeți pentru moment că un anumit eseu generat de aplicația AI va fi interpretat ca un eseu „original”. Spun să presupunem că nu încalcă în nici un fel aparent niciun alt eseu sau narațiune text preexistentă oriunde pe pământ.

Apoi elevul începe cu o sursă originală a materialului. După cum sa indicat deja, studentul editează și rafinează acest material. Lucrurile ajung într-un punct în care originalul produs de aplicația AI diferă acum de versiunea rafinată pe care studentul a conceput-o.

Asta este înșelăciune?

Poate ca da poate ca nu.

Puteți argumenta că este. Elevul a început cu AI-ul scriindu-și eseul pentru ei. Tot ceea ce a făcut studentul este jucat mecanic cu eseul. Ne așteptăm ca elevul să scrie eseul din aer și să-și folosească propriul nogging pentru a face acest lucru. Este clar că este o înșelăciune să folosești aplicația AI pentru a-și genera linia de bază. Atribuiți o notă „F” elevului.

Nu asa de repede. Puteți argumenta că nu este o înșelăciune. Elevul a reformulat materialul sursă. Dacă o comparație între eseul produs de aplicația AI și versiunea rafinată de elev este o diferență suficient de mare, am spune că studentul a scris eseul. Desigur, au folosit alt material în acest sens, dar nu poți spune același lucru dacă au folosit o enciclopedie sau o altă sursă? Acest elev merită o notă „A” pentru că a compus un eseu prin propria inteligență (în ciuda faptului că a făcut referire la alte materiale pentru a face acest lucru).

Profesorii vor fi prinși în mijlocul acestei întrebări deja supărătoare.

O abordare este aceea că un profesor ar putea afirma categoric că elevii trebuie să enumere toate materialele de referință, inclusiv dacă a fost folosită sau nu o aplicație AI generativă. Dacă un elev nu reușește să enumere direct AI-ul generativ ca referință și dacă profesorul află că nu a reușit să-l enumere, studentul primește suma „F” la sarcină. Sau, poate că unele școli vor considera că acesta este un act de înșelăciune care îl determină pe elev să fie greșit automat. Sau poate expulzat. Va trebui să vedem cât de departe merg școlile în aceste chestiuni.

În general, ne îndreptăm către o lume răsturnată a proprietății intelectuale și a proprietății legale a unor lucrări precum eseuri (text), artă (imagini) și videoclipuri, inclusiv:

• Unii vor solicita reparații legale de la creatorii generativi de AI cu privire la sursele de conținut care au fost utilizate de AI pentru a genera rezultatul produs.
• Unii vor lua rezultatul AI generativ și vor considera rezultatul ca fiind propriile lor lucrări, apoi vor încerca să solicite despăgubiri legale de la oricine care își încalcă munca „originală”.
• Acest lucru s-ar putea să circule, astfel încât cineva să producă rezultate din AI generativă, care este postată pe Internet, și apoi apare o altă IA generativă și o folosește în formarea sa de a produce lucrări similare.

Transformarea unui negativ într-un pozitiv

Toate aceste discuții despre răutatea AI generativă atunci când vine vorba de înșelarea studenților poate ne întunecă mințile, ne îndeamnă unii.

Luați asta într-o altă direcție.

stai jos?

Poate că profesorii ar trebui să ia în considerare în mod intenționat ca elevii să folosească IA generativă ca parte a procesului de învățare despre cum să scrie eseuri.

Am mai scris despre așa-zisa utilizări duble de AI, vezi linkul aici. Ideea este că uneori un sistem AI poate fi folosit pentru rău, iar uneori poate fi schimbat și folosit pentru bine. Aspectul îngrijorător este atunci când cineva scrie AI pentru bine și nu conștientizează cât de ușor AI-ul său poate fi transformat în spectrul răului. O parte din AI etică este conștientizarea că AI ar trebui concepută astfel încât să nu poată fi transformată peste noapte într-un blestem. Aceasta este o preocupare continuă.

Înapoi la IA generativă pentru producerea de eseuri.

Am adus mai devreme în discuție conceptul că un student ar putea să învețe despre scris uitându-se la lucrări scrise care există deja. Acest lucru are sens abundent. Practic, cu cât citiți mai mult, sunt șansele să vă extindeți aparența mentală pentru a putea scrie. După cum am spus mai devreme, mai trebuie să scrii, deoarece toată lectura din lume nu te va face neapărat să fii un scriitor bun dacă nu exersezi actul de a scrie.

Am putea folosi AI generativă pentru a promova această cuplare între citire și scriere. Rugați un elev să folosească în mod intenționat IA generativă. AI produce un eseu. Studentului i se dă sarcina de a critica eseul produs de AI. Apoi, studentului i se atribuie un nou eseu, poate pe un subiect diferit, dar poate folosi structura și alte elemente generale ale eseului anterior generat de AI.

Acest lucru ar putea fi chiar mai productiv, sugerează unii, pentru studenți decât pur și simplu să citească cărți sau alte texte ale scriitorilor cu care elevul nu are acces să „interacționeze”. Cu aplicația AI, studentul ar putea încerca să relueze și să producă eseul inițial utilizând o multitudine de solicitări, una după alta. Elevul ar putea spune AI să scrie un eseu despre Lincoln. Apoi, elevul cere un eseu lung despre Lincoln, care este scris cu o voce informală. După ce se uită la asta, studentul indică aplicației AI să producă o versiune foarte formalizată a eseului Lincoln. etc.

Afirmația făcută este că acest lucru ar putea ajuta material un student să învețe despre scris și cum poate avea loc scrisul.

O lucrare de cercetare recentă propune tocmai acest punct: „Autorii acestei lucrări cred că AI poate fi folosită pentru a depăși trei bariere în calea învățării la clasă: îmbunătățirea transferului, ruperea iluziei de profunzime explicativă și formarea elevilor să evalueze critic explicațiile” ( într-o lucrare intitulată „New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments”, Dr. Ethan Mollick și Dr. Lilach Mollick, Școala Wharton a Universității din Pennsylvania și Wharton Interactive, 12 decembrie 2022)

De exemplu, ei subliniază că îmbunătățirea transferului de învățare s-ar putea întâmpla în acest fel: „AI este o modalitate ieftină de a oferi elevilor multe exemple, dintre care unele pot fi inexacte sau necesită explicații suplimentare sau pot fi pur și simplu inventate. Pentru studenții cu cunoștințe fundamentale despre un subiect, puteți folosi inteligența artificială pentru a-i ajuta să-și testeze înțelegerea și pentru a-i împinge în mod explicit să numească și să explice inexactitățile, lacunele și aspectele lipsă ale unui subiect. AI poate oferi o serie nesfârșită de exemple de concepte și aplicații ale acestor concepte și îi puteți împinge pe elevi să: compare exemple în diferite contexte, să explice nucleul unui concept și să sublinieze inconsecvențele și informațiile lipsă în modul în care AI aplică conceptele. la situații noi” (ibid).

Este asemănător cu vechiul refren, dacă nu-i poți învinge, alătură-te lor.

Transformă IA generativă într-un instrument educațional.

Da, vine răspunsul rapid.

Puneți vulpea în coșul de găini. Elevilor care nu aveau idee ce este IA generativă li se va arăta acum, în mod deschis, prin acțiunile deschise ale unui profesor și ale școlilor lor. Dacă studenții nu aveau nicio idee despre oportunitățile de a înșela, le puneți direct în fața și în mâinile lor.

Pare cu totul respingător faptul că cei care dețin autoritate ar prezenta elevilor un mijloc de a înșela. Prin urmare, veți pune pentru totdeauna pe cei mai cinstiți dintre studenți în tărâmul ispitelor de înșelăciune. Toată lumea va avea acces la mașina de înșelăciune. Li se spune să facă asta. Nu este nevoie să-l ascundeți. Nu este nevoie să pretinzi că nu folosești AI generativ. Școala și profesorul te-au făcut să-l folosești.

Replică la aceasta este că trebuie să-ți ai capul în nisip orbește și ignorant pentru a crede că studenții nu se vor familiariza cu IA generativă. În timp ce tu te prefaci prostește că nu știu despre asta, ei se grăbesc în afara școlii să-l folosească. Alegerea dvs. mai bună este să le prezentați lucrul, să discutați pentru ce poate și pentru ce nu poate fi folosit și să aduceți o lumină strălucitoare în întreaga enigmă.

E destul de aiurea.

Pentru aceia dintre voi care fac cercetări despre inovațiile educaționale ale tehnologiei, ar putea dori să aruncați o privire asupra AI generativă și cum ar putea schimba natura abordărilor educaționale și poate avea impact asupra învățării elevilor. Vine destul de curând.

Folosind detectarea pentru a ne salva din ruină

Schimbați pălăriile și să luăm în considerare opera de artă digitală pentru un moment.

Dacă creați o piesă de artă digitală, este posibil să doriți să o marcați într-un fel, astfel încât să puteți, mai târziu, să discerneți dacă cineva a ales să vă folosească sau să refolosească talentul artistic. O modalitate simplă de a face acest lucru constă în modificarea unor pixeli sau puncte din opera de artă digitală. Dacă faci câteva aici sau acolo, aspectul operei de artă va părea în continuare același pentru ochii oamenilor. Ei nu vor observa acei pixeli care sunt mici și au fost setați la o culoare specială care poate fi văzută numai la o inspecție atentă prin instrumente digitale.

S-ar putea să știți despre aceste tehnici ca fiind o formă de filigranare. Așa cum în vremurile de demult au existat încercări de a filigrana materiale pe hârtie și alte conținuturi nedigitizate, am observat treptat creșterea filigranelor digitale.

Un filigran digital poate fi ascuns în imaginea unei opere de artă digitală. Dacă acest lucru poate părea intruziv pentru imagine, puteți încerca să încorporați filigranul în fișierul care conține opera de artă digitală (așa-numitele „metadate” ale lucrării digitale).

Există un joc cu pisica și șoarecele care poate apărea.

Vine un răufăcător și îți descoperă filigranul digital. Îl scot. Acum, aparent pot folosi în mod liber opera de artă digitală, fără să vă faceți griji că veți putea, mai târziu, să o aruncați și să arătați că este o fraudă a eforturilor dvs. Nemernicii ăia!

Trebuie să creștem filigranul digital, ceea ce îl putem face prin utilizarea tehnicilor și tehnologiilor criptografice. Gândiți-vă la mesajele secrete și la codificare.

Ideea este că codificăm filigranul digital, astfel încât să fie greu de găsit. De asemenea, este potențial greu de îndepărtat. Am putea chiar să încercăm să ne asigurăm că software-ul care va afișa sau permite utilizarea operei de artă digitală trebuie mai întâi să verifice și să vadă că există un filigran digital codificat valid în lucrare, altfel este considerat o copie necorespunzătoare. Te-am prins în flagrant.

Putem face același lucru pentru IA generativă care produce text?

A fost pusă o mănușă. Problema poate fi însă mai grea într-o oarecare măsură decât atunci când luăm în considerare filigranele digitale pentru lucrări de artă.

Iata de ce.

Să presupunem că singurul loc în care puteți plasa filigranul este direct în textul însuși. Spun asta pentru că textul care este generat nu intră neapărat într-un fișier. Textul este doar text. Îl puteți tăia și lipi din instrumentul AI generativ. În acest sens, de obicei nu există metadate sau fișier în care să poată fi încorporat filigranul.

Trebuie să vă concentrați doar pe text. Text pur.

O cale ar fi ca AI generativ să producă textul într-un mod care poate fi urmărit. Ca exemplu grosolan, dar nepractic, imaginați-vă că am decis să începem fiecare a treia propoziție cu cuvântul „Și” la începutul propoziției. Am genera totuși un eseu aparent complet fluent. Singura șmecherie este că fiecare a treia propoziție începe cu cuvântul magic ales de noi. Nimeni altcineva nu știe ce facem noi.

Un student folosește IA generativă pentru a produce eseul atribuit despre Lincoln. Elevul îl ia direct din aplicația AI și îl trimite prin e-mail profesorului. Se pare că studentul a așteptat până în ultimul moment și s-a confruntat cu termenul publicat. Nu e timp pentru a revizui eseul. Doar trimite-l și speră la bine.

Profesorul se uită la eseu. Să presupunem că i-am spus că filigranul nostru constă din cuvântul magic folosit la începutul fiecărei a treia propoziții. Profesorul detectează că acesta este cazul în acest eseu trimis. Deși există probabil o șansă incredibil de subțire ca studentul să scrie eseul și poate să-i placă să folosească acest cuvânt special la începutul fiecărei a treia propoziții, cred că putem fi de acord în mod rezonabil că acest lucru este foarte puțin probabil și, în schimb, elevul a folosit probabil IA generativă. pentru a produce eseul.

Vedeți cum funcționează?

Am încredere că o faci.

Problema acum este cum să vină cu un filigran care nu este chiar atât de evident. Un elev ar putea observa că propozițiile par să folosească în mod ciudat un anumit cuvânt. S-ar putea să ghicească ce se întâmplă. La rândul său, elevul s-ar putea să se deplaseze în jurul propozițiilor și să facă unele reformulări. Acest lucru scufundă acest filigran, deoarece eseul nu mai este ușor de observat ca fiind scris de AI generativ.

Jocul pisica și șoarecele continuă din nou.

Trebuie să producem text fluent care conține cumva un „filigran” într-un mod care nu poate fi ușor de deslușit. În plus, dacă este posibil, filigranul ar trebui să continue să persiste chiar dacă eseul este ușor revizuit. O revizuire completă probabil nu va permite filigranului să supraviețuiască. Dar dorim o oarecare redundanță și rezistență, astfel încât filigranul să fie de preferință detectabil chiar dacă se fac anumite modificări în zona de text.

Un cercetător care lucrează pentru compania care face ChatGPT (aplicația AI de la OpenAI) explorează câteva eforturi criptografice interesante în legătură cu aceste considerente de filigranare. Scott Aaronson este profesor de informatică la Universitatea Texas din Austin și a ținut recent o discuție despre unele dintre lucrările care au loc (o transcriere este postată pe blogul său).

Luați în considerare acest fragment în care explică pe scurt abordarea existentă: „Cum funcționează? Pentru GPT, fiecare intrare și ieșire este un șir de jetoane, care ar putea fi cuvinte, dar și semne de punctuație, părți de cuvinte sau mai multe - există aproximativ 100,000 de jetoane în total. În esență, GPT generează în mod constant o distribuție de probabilitate pentru următorul token de generat, condiționat de șirul de token-uri anterioare. După ce rețeaua neuronală generează distribuția, serverul OpenAI eșantionează apoi un token în conformitate cu acea distribuție – sau o versiune modificată a distribuției, în funcție de un parametru numit „temperatură”. Atâta timp cât temperatura este diferită de zero, totuși, de obicei va exista o oarecare aleatorie în alegerea următorului jeton: puteți rula din nou și din nou cu același prompt și să obțineți o completare diferită (adică, șir de jetonuri de ieșire) de fiecare dată .”

După cum s-a menționat, există o cantitate desemnată de aleatorie cu privire la cuvintele care vor fi plasate în continuare în eseul care este derivat de aplicația ChatGPT. Acest lucru explică, de asemenea, punctul anterior, conform căruia fiecare eseu este probabil să fie oarecum diferit, chiar dacă este pe același subiect. O utilizare intenționată a unei abordări ale selecției aleatorii care se află în anumite limite este rularea sub capotă în timpul generării eseului.

Ajungem acum la partea suculentă, amestecarea criptografică: „Așadar, pentru a filigrana, în loc să selectăm următorul token aleatoriu, ideea va fi să-l selectăm pseudo-aleatoriu, folosind o funcție criptografică pseudoaleatorie, a cărei cheie este cunoscută doar de OpenAI. . Acest lucru nu va face nicio diferență detectabilă pentru utilizatorul final, presupunând că utilizatorul final nu poate distinge numerele pseudoaleatoare de cele cu adevărat aleatoare. Dar acum puteți alege o funcție pseudoaleatoare care influențează în secret un anumit scor - o sumă peste o anumită funcție g evaluată la fiecare n-gramă (secvență de n jetoane consecutive), pentru niște n mici - care scor pe care îl puteți calcula și dacă știți cheia acestei funcții pseudoaleatoare.”

Îmi dau seama că ar putea părea oarecum blocat din punct de vedere tehnologic.

Esența este că eseul produs va părea fluent și nu veți putea discerne cu ușurință citind eseul că conține un filigran digital. Pentru a vă da seama dacă un anumit eseu conține un filigran, ar trebui să introduceți eseul într-un detector special conceput. Programul care face detectarea ar calcula o valoare pe baza textului și ar putea să o compare cu o cheie stocată. În abordarea descrisă, cheile ar fi deținute de vânzător și nu ar fi disponibile în alt mod, astfel încât, presupunând că cheile sunt păstrate secrete, doar programul de detectare uns ar putea calcula dacă eseul a fost probabil derivat din ChatGPT în acest caz.

El continuă și recunoaște că acest lucru nu este sigur: „Acum, toate acestea pot fi învinse cu suficient efort. De exemplu, dacă ați folosit un alt AI pentru a parafraza rezultatul GPT - bine, nu vom putea detecta asta. Pe de altă parte, dacă doar introduceți sau ștergeți câteva cuvinte ici și colo, sau rearanjați ordinea unor propoziții, semnalul de filigran va fi în continuare acolo. Pentru că depinde doar de o sumă peste n-grame, este robust împotriva unor astfel de intervenții.”

Un profesor ar putea avea acces la un program de detectare care ar verifica eseurile elevilor. Să presupunem că problema este relativ ușoară în sensul că profesorul îi trimite pe e-mail elevilor eseurile lor profesorului și detectorului automat. Aplicația detector informează apoi profesorul cu privire la probabilitatea ca eseul să fie elaborat de ChatGPT în acest caz.

Acum, dacă detectorul este disponibil în mod deschis pentru oricine, veți avea studenți trișori „depășitori” care pur și simplu își vor introduce eseurile în detector și ar face o serie de modificări până când detectorul a indicat o probabilitate scăzută ca eseul să fie derivat de generativ. AI. Mai mult de pisica și șoarecele. Probabil că detectorul trebuie să fie protejat strâns prin utilizarea parolei sau sunt necesare alte mijloace sau metode de abordare a abordărilor criptografice (există o varietate de metode atât bazate pe chei, cât și fără chei care pot fi utilizate).

Un profesor s-ar putea confrunta cu posibilitatea ca zeci sau sute de aplicații AI generative disponibile pentru utilizare pe Internet. În acest caz, încercarea de a-i determina pe toți să folosească un filigran digital și a trebui să introducă un eseu în toate, ei bine, devine mai ademenitor și complicat din punct de vedere logistic.

Gata cu eseuri în afara clasei

O perspectivă nefericită este că poate profesorii vor trebui să renunțe la utilizarea scrisului de eseuri din exterior. Toate eseurile trebuie scrise numai în mediul controlat al unei săli de clasă.

Acest lucru are o mulțime și o mulțime de probleme.

Să presupunem că un student ar avea nevoie în mod normal de zece ore pentru a scrie un anumit eseu complet care este un proiect de clasă. Cum s-ar face acest lucru într-o sală de clasă? Ai de gând să-l împărți și să-i pui elevului să scrie o mică parte din eseu pe o serie de zile? Gândiți-vă la dificultățile pe care aceasta le prezintă.

Unii susțin că, probabil, chestiunea este exagerată.

Profesorii ar trebui să facă așa cum au făcut întotdeauna cu privire la plagiatul de către elevi. Dinainte, profesorul declară că plagiatul este o problemă serioasă de înșelăciune. Subliniați că utilizarea AI generativă, în orice mod, va fi considerată o acțiune de înșelăciune.

Faceți sancțiuni care au o greutate semnificativă, cum ar fi o notă scăzută, o clasă greșită sau expulzarea dintr-o școală dacă se ajunge atât de departe. Solicitați elevilor să ateste în scris pentru fiecare temă exterioară de eseu că ceea ce au predat este munca lor (a făcut acest lucru fără ajutoare, cum ar fi IA generativă, copierea de pe Internet, folosirea colegilor, folosirea unui părinte, plătirea pentru a o finaliza și curând). De asemenea, cereți studenților să enumere orice instrumente online utilizate în pregătirea lucrării, inclusiv să noteze în special orice utilizare generativă a AI.

Profesorul poate folosi sau nu o aplicație detector pentru a încerca să discerne dacă eseul trimis este probabil de o aplicație AI generativă. Acesta este un pas potențial împovărător, în funcție de cât de ușor sunt de utilizat și de accesat detectoarele.

Profesorii ar trebui să ia deja măsuri pentru a afla dacă eseurile scrise din exterior par legitime. Scriind eseuri în clasă, există șansa de a compara și de a contrasta, realizând totuși că timpul pentru scriere într-o clasă este mai mic și ar putea fi, de asemenea, îngreunat de restricția de a nu permite accesul la materiale de referință online.

Esența este că nu ar trebui să luăm calea de a renunța brusc la utilizarea scrisului de eseuri din exterior. Unii ar deplânge acest lucru ca fiind un act neplăcut și unul care pare să amintească de a arunca copilul cu apa de la baie (o vorbă veche, poate că merită să te retragi).

Dacă scrierea exterioară este întreruptă în întregime ca activitate de învățare, există probabil dezavantaje grave și prelungite în eliminarea acestei activități educaționale aparent cotidiene din curriculum. Există un compromis implicat. Câți studenți vor înșela, în ciuda tuturor controalelor și echilibrului menționate mai sus? Câți studenți nu vor înșela și, prin urmare, vor continua să folosească o abordare educațională benefică pentru a-și avansa priceperea de a scrie?

În teorie, sperăm că procentul de trișori va fi suficient de mic, astfel încât scrierea din exterior să fie încă meritorie pentru preponderența studenților.

Concluzie

AI poate fi o durere de cap destul de mare.

Pentru profesori, AI poate fi atât o binecuvântare, cât și un blestem. În orice caz, înseamnă că profesorii trebuie să cunoască despre AI, împreună cu cum să se confrunte cu răsturnările și întorsăturile AI asociate cu activitățile lor de predare, ceea ce este încă o greutate suplimentară pentru spatele și umerii lor deja supraîntinși. Multumesc profesorilor de pretutindeni.

Poate ne dorim ca AI să dispară.

Nope.

Vedeți, nu vom întoarce ceasul înapoi și vom elimina IA generativă. Oricine cere asta este un visător. Și, deoparte, folosesc cuvântul „Și” ca prim cuvânt al celei de-a treia propoziții a acestui paragraf (hopa, dând cheia!), IA generativă este aici pentru a rămâne.

Iată un prompter pentru a începe discuțiile aprinse: Inteligența artificială generativă va deveni mai răspândită și va avea și mai multe capacități uluitoare și tulburătoare.

Picătură de microfon.

Ultimul gând deocamdată.

Shakespeare a scris celebrul că „A fi sau a nu fi: aceasta este întrebarea”.

Vă asigur că IA generativă va fi. Este deja.

Trebuie să ne dăm seama cum dorim ca IA generativă să intre în viețile noastre și cum va alege societatea să modeleze și să ghideze o astfel de utilizare. Dacă ați avut vreodată nevoie de un motiv pentru a vă gândi la Etica AI și Legea AI, poate că AI generativă vă va îndemna să căutați să știți ce suntem, chiar dacă nu știm ce putem fi (referință ascunsă de Shakespeare).