Tech

CEO-ul OpenAI, Sam Altman, depune mărturie în cadrul unei audieri „istorice” a Senatului privind siguranța AI

în urmă 12 luni
Știri Bitcoin Ethereum

Sam Altman, CEO-ul OpenAI și co-fondatorul Worldcoin, a depus recent mărturie în fața Congresului alături de șeful IBM, Christina Montgomery și profesorul NYU, Gary Marcus. 

Sesiunea Subcomitetului pentru confidențialitate, tehnologie și lege din Senatul judiciar a reprezentat prima apariție oficială a lui Altman în fața Congresului, dându-le senatorilor posibilitatea de a-l întreba pe CEO-ul OpenAI cu privire la opiniile companiei sale cu privire la reglementare.

Denumită o sesiune „istorică” de către senatorul Illinois Dick Durbin, procedurile s-au concentrat pe înțelegerea potențialelor amenințări reprezentate de modelele de inteligență artificială generativă (AI) precum ChatGPT și pe modul în care parlamentarii ar trebui să abordeze reglementarea.

Comentariile lui Altman – care au fost descrise de membrii Congresului și de colegul vorbitor Marcus ca fiind sincere și autentice – au părut să ia prin surprindere mai mulți membri ai Senatului.

El a pledat pentru înființarea unei agenții federale de supraveghere cu autoritatea de a emite și de a revoca licențele de dezvoltare, a declarat că el crede că creatorii ar trebui compensați atunci când munca lor este folosită pentru a instrui un sistem AI și a fost de acord că consumatorii care suferă prejudicii folosind produse AI ar trebui să fie îndreptățit să dea în judecată dezvoltatorul.

Altman a refuzat întrebările legate de recenta scrisoare de „pauză AI” care solicita un moratoriu de șase luni asupra implementării sistemelor mai puternice decât GPT-4, sistemul AI care stă la baza ChatGPT, declarând că OpenAI a petrecut mai mult de șase luni evaluând GPT. -4 înainte de desfășurare. El a spus că compania nu intenționează să implementeze un alt model în următoarele șase luni.

Marcus, semnatar al scrisorii de pauză, a recunoscut că este de acord mai mult cu spiritul scrisorii decât cu conținutul acesteia, dar profesorul NYU a îndemnat Congresul să ia în considerare supravegherea globală, precum și reglementarea federală - un sentiment cu care Altman a fost de acord.

Pe parcursul audierii, cei trei vorbitori invitați s-au aliniat la majoritatea subiectelor. Aceasta a inclus sprijin pentru protecția vieții private, o mai mare supraveghere guvernamentală, auditare terță parte și cât de curând guvernul Statelor Unite ar trebui să încerce să reglementeze industria (imediat).

Cu toate acestea, una dintre sursele singure de discordie a venit de la Montgomery de la IBM, care nu a fost de acord cu ideea că o nouă agenție federală ar fi necesară pentru a aplica reglementările în industria AI.

Declarațiile ei au indicat că IBM este în favoarea unei abordări chirurgicale a reglementării, folosind organismele de reglementare existente în prezent pentru a concentra aplicarea pe cazuri de utilizare specifice.

În timp ce toți cei trei vorbitori au fost de acord că AI ar putea fi dăunătoare și necesită intervenții de siguranță, Marcus a spus clar că crede că nimeni nu înțelege sau poate prezice în prezent cât de dăunătoare pot fi sau vor deveni produsele AI existente. El a pledat pentru o abordare prudentă care să implice o mai mare transparență.

Vorbitorii au fost, de asemenea, de acord cu membrii Congresului că SUA au nevoie de o lege națională privind confidențialitatea, similară cu cele din Europa. Altman, totuși, nu a fost de acord cu ideea că consumatorii ar trebui să poată renunța la includerea datelor lor web disponibile public în seturile de date de instruire.

Altman, de asemenea, nu a declarat că OpenAI s-a opus oferirii unei versiuni bazate pe reclame a produselor sale GPT. CEO-ul a declarat pur și simplu că „nu ar spune niciodată”.

Acest lucru, în ciuda faptului că s-a spus mai devreme în audiere că produsele OpenAI au aderat la standardele de confidențialitate a consumatorilor, deoarece compania nu a creat profiluri de utilizator în scopul de a difuza reclame personalizate.

Citând experiența sa de absolvent de la Stanford și de legiuitor care lucrează cu finanțe descentralizate și companii Web3, senatorul din New Jersey Corey Booker a adus în discuție problema mai mare a confidențialității a centralizării. El a întrebat care ar fi implicațiile pentru centralizare și monopolizare pentru industrie, o întrebare la care Marcus a răspuns cu avertismentul grav că țara ar putea risca să dea control asupra percepției publice unui număr mic de actori - companiile de IA de top cu destui bani. pentru a concura cu Microsoft, Google și Amazon.

Altman, al cărui proiect Worldcoin combină un activ de criptomonede descentralizat pe blockchain-ul Ethereum cu autentificarea identității prin tehnologia de scanare a irisului, a explicat că OpenAI a furnizat doar o platformă și că democratizarea produselor OpenAI a avut loc atunci când dezvoltatorii, companiile și utilizatorii finali au adaptat API-ul GPT pentru utilizări „fantastice”.

Related: CEO OpenAI în „discuții avansate” pentru finanțare Worldcoin de 100 de milioane de dolari: Raport