Un program ca ChatGPT nu înțelege ce scrie, ci alege cuvântul cel mai probabil, au explicat invitații primului DocTalk al Astra Film Festival, sâmbătă seara, la Sala Thalia din Sibiu.
Dezbaterea „Inteligența artificială – pericol iminent sau schemă de marketing apocaliptică?” a urmat Galei de deschidere, prezentată de Oana Zamfir, înaintea filmului „Elon Musk dezvăluit”. Au vorbit Bogdan Lungu, cercetător la Universitatea Babeș-Bolyai (UBB) din Cluj și Ștefan Baghiu, scriitor, critic literar și cercetător la Universitatea „Lucian Blaga” din Sibiu (ULBS), moderați de jurnalistul Digi24, Florin Negruțiu.
Trei luni până la 100 de milioane de utilizatori
Negruțiu a început cu un exercițiu: le-a cerut spectatorilor să ridice mâna dacă au telefon mobil sau dacă folosesc internetul, Facebook ori ChatGPT. Potrivit lui, telefoniei mobile i-au trebuit 16 ani ca să ajungă la 100 de milioane de utilizatori, internetului șapte, Facebookului patru și jumătate, iar ChatGPT trei luni.
„Până acum nicio revoluție tehnologică nu a avut o asemenea viteză de penetrare precum inteligența artificială”, a spus Negruțiu.
O estimare a băncii UBS, citată de Reuters, plasa ChatGPT la 100 de milioane de utilizatori activi lunar în ianuarie 2023, la circa două luni de la lansare.
„Ana are mere”: cum alege ChatGPT următorul cuvânt
ChatGPT este un „large language model”, un model mare de limbaj care, potrivit lui Baghiu, se antrenează pe „tot ce am scris noi vreodată” și caută „următorul cuvânt, probabil statistic”.
Lungu a ales un exemplu pe care îl dă și studenților: după „Ana are…”, tuturor le vine în minte „mere”, din manualele de școală. Propoziția e și în textele de antrenament, deci ChatGPT va răspunde, cel mai probabil, „mere”.
„Nu e o decizie semantică, e o probabilitate statistică ca ceva să apară după altceva”, a spus Lungu. Nu sensul decide: programul nu înțelege că „fata Ana pe care o cunosc are un măr în mână”.
Negruțiu a încercat exemplul: ChatGPT, a spus el, „nu doar că are mere, mi-a dat și mărul, mi-a dat și emoticonul”.
▶ Vezi pagina acestui video: Cum funcționează ChatGPT, explicat la Astra Film Festival din Sibiu: „Nu e o decizie semantică, e o probabilitate statistică” — VIDEO
Lungu a comparat modelul și cu câinii de pe Instagram antrenați să apese butoane care redau cuvinte: „Știa câinele să vorbească […] apăsând întâmplător pe butoane? La fel se întâmplă și cu un model de limbaj extins”.
„N-aș numi asta a gândi”: o inteligență „zimțată”
Baghiu, cercetător în „digital humanities” (analiza textelor cu tehnici computaționale), a amintit disputa din anii ’70 dintre abordarea simbolică, care cerea mașinii o structură de gândire ca să producă limbaj, și cea neurală: expui mașinăria la foarte multe date și „ea va învăța singură”.
Ce face ea de fapt este „să creeze structuri de cuvinte probabile”, a spus Baghiu. Modelul scrie corect, coordonează activități, „dar nu înțelege nimic din ceea ce face”.
Negruțiu a întrebat dacă a gândi nu înseamnă tocmai să pui cuvintele într-o ordine logică. „Asta face el. […] Dar n-aș numi asta a gândi”, a răspuns Baghiu: procesul e controlat „doar printr-o bază statistică”. „Dar noi nu facem la fel?”, a insistat moderatorul. „Nu cred”, a spus Baghiu.
„Să nu înțelegem prin asta că aceste modele sunt stupide”, a continuat criticul. Au o inteligență „zimțată” („jagged intelligence”), inegală: rezolvă ce mintea umană nu poate rezolva, pentru că la un moment dat „am încetat să mai imităm mintea umană”.
Se încurcă însă la lucruri simple: rugat să numere până la o mie fără să se oprească, modelul „nu poate face asta”, deși „poate să rezolve o teorie care n-a fost rezolvată de cele mai mari minți ale matematicii”. Concluzia lui Baghiu: „să nu rămână cineva cu impresia că […] e stupid”.
▶ Vezi pagina acestui video: Cum funcționează ChatGPT, explicat la Astra Film Festival din Sibiu: „Nu e o decizie semantică, e o probabilitate statistică” — VIDEO 2
Unealtă, agent sau marketing apocaliptic
Negruțiu a respins comparația frecventă cu un ciocan. AI-ul „este un agent care devine autonom din momentul în care noi i-am dat AI-ului puterea cuvântului”, a spus el, și „poate să scrie […] o nouă Evanghelie”. A invocat și „Ucenicul vrăjitor” al lui Goethe, care face o vrajă și nu mai știe s-o oprească.
Baghiu a rămas la ideea de unealtă: „Cred că trebuie să ne facem griji, dar […] mai mult de cine îl folosește decât de el în sine”.
Discursurile despre sfârșitul lumii adus de AI țin, în opinia lui, de o „zonă de marketing”: „Dacă nu îți spun că o să te omoare, nu prea am cum să te conving să bagi […] mulți bani în el”. Mesajul că AI-ul „ne va omorî pe toți” vine de la Sam Altman și Dario Amodei, șefii OpenAI (compania care a creat ChatGPT) și Anthropic, și, „mai nou”, de la Musk.
Baghiu a propus o altă cronologie: AI-ul, „o formă de automatizare a muncii”, „a fost dintotdeauna între noi”. A recomandat cartea „The Eye of the Master. A Social History of Artificial Intelligence” (Verso, 2023), de Matteo Pasquinelli, care, crede el, „va apărea în traducere luna viitoare”. Site-ul autorului anunță o ediție românească, fără dată. Cartea pornește, a spus Baghiu, de la încercările de automatizare a muncii de la sfârșitul secolului al XVIII-lea și de la Charles Babbage, matematicianul englez care a proiectat mașini de calcul în secolul următor.
Negruțiu își scrisese discursul „în cap, fără ChatGPT”, deși „o folosim cu toții, să fim serioși”. La anul, s-a gândit el, în locul lui ar putea vorbi un avatar AI, „cu siguranță mult mai bine și mult mai repede”.
„Elon Musk dezvăluit” mai rulează sâmbătă, 24 octombrie, la 20:00, la Cinema City 7. Programul e și pe pagina Ora de Sibiu a festivalului.
Citește și: Astra Film Festival începe sâmbătă la Sibiu, cu bilete aproape epuizate: dezbaterile DocTalk bat recorduri de vânzări
Comentarii
Anunțuri gratuite din Maramures