Vine apocalipsa AI? Prof. univ. dr. Marius Leordeanu: „AI-ul nu are voința proprie de a trăi și nici potențialul de a ne distruge din proprie inițiativă” / „Conștiința reală necesită un trup fizic și instinct de supraviețuire” / Există, totuși, un pericol (Frontier Defense)

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Inteligența artificială în forma sa actuală nu are conștiință, deoarece aceasta necesită un trup fizic și instinct de supraviețuire, și nu are potențialul de a distruge lumea din proprie inițiativă, a declarat Marius Leordeanu, profesor de Computer Science la Universitatea Politehnica din București (UPB), la podcastul „Frontier Defense” (Ep. 21), găzduit de G4Media. Riscul major actual este ca oamenii să acorde acestor sisteme o încredere oarbă, prin delegarea gândirii și a capacității de decizie.

„Nu, nu. Nu are potențialul de a distruge lumea, noi suntem mult mai puternici de atât, am trecut prin ciumă, am trecut prin atâtea perioade grele ale omenirii, am trecut prin atâtea războaie, am trecut prin războaie cu bombe atomice, cu probleme serioase, prin Holocaust, noi am învins. Eu cred în puterea oamenilor mai mult decât în aceste sisteme”, a declarat profesorul.

Marius Leordeanu, care este unul dintre cei mai importanți cercetători și experți români în domeniile AI și Computer Vision, a spus că explozia recentă a inteligenței artificiale nu provine din concepte teoretice noi, întrucât rețelele neurale există din anii 1950, ci din momentul în care algoritmii s-au întâlnit cu o putere hardware masivă și cu un volum uriaș de date. Potrivit lui, modelele precum ChatGPT funcționează prin prezicerea următorului cuvânt și asimilează tipare peste tipare, ceea ce le permite să ofere răspunsuri extrem de fluente fără a poseda un model real și logic al lumii fizice. De aceea, unii oameni tind să antropomorfizeze.

„A vorbi fluent nu este neapărat egal cu a gândi coerent”

„Când sunt foarte multe tipare, tipare peste tipare, prin accesul la atât de multe documente, sistemul dă un răspuns plauzibil sau un răspuns care pare logic fără a fi în spate un model al lumii și o logică”, a explicat profesorul, care a obținut doctoratul în Robotică la prestigioasa Carnegie Mellon University din SUA în anul 2009. „A vorbi fluent nu este neapărat egal cu a gândi coerent, gândirea și vorbirea nu sunt același lucru”, a adăugat acesta.

Promovarea conceptului de „superinteligență” sau inteligență artificială generală (Artificial General Intelligence – AGI) este susținută frecvent de politicieni și directori de companii dintr-un interes pur economic, potrivit invitatului. Creșterea interesului public pentru aceste tehnologii generează profituri de sute de miliarde de dolari. Din acest motiv, companiile ignoră necesitatea de a frâna ritmul dezvoltării, de a testa siguranța sistemelor și de a analiza riscurile.

„Toată lumea vorbește de inteligență artificială generală și le convine într-un anumit sens. Cu cât crește mai mult interesul în modelele pe care ei le fac, cu atât câștigă mai bine. Este un interes pur economic pe de o parte sau politic”, a explicat Marius Leordeanu.

De ce este nevoie pentru conștiință reală?

Sistemele de tip large language model (LLM) prelucrează exclusiv un număr finit de cuvinte și nu se confruntă cu mediul fizic brut, din care provin date senzoriale complexe, sau cu necesitatea de a-și gestiona limitările de energie fizică. Potrivit profesorului de la UPB, conștiința umană a apărut ca o reacție directă la vulnerabilitatea corpului fizic și reprezintă un mod de a rezolva problema supraviețuirii, de a simți durerea și de a face față zilei de mâine.

„Ca să ajungi la conștiență ai nevoie de un trup, conștiința o simți, doare, este, după părerea mea, mai mult fizică decât virtuală conștiința. Conștiința este strâns legată de instinctul de supraviețuire”, a explicat cercetătorul la „Frontier Defense”.

Inteligența artificială nu are voința proprie de a trăi și, implicit, nici intenția sau potențialul de a distruge omenirea din proprie inițiativă, crede Leordeanu. Potrivit lui, riscul major actual este ca oamenii (inclusiv inginerii și programatorii) să acorde sistemelor AI o încredere oarbă, prin delegarea gândirii și a capacității de decizie, ceea ce duce la superficialitate, comoditate și greșeli greu de corectat.

„Pericolul adevărat este când aceste sisteme o să ne ucidă conștiința. De ce? Pentru că devenim lazy. Nu, inginerul trebuie să înțeleagă, să scrie cod”, a spus invitatul, care a adăugat că, dimpotrivă, sistemul AI trebuie să ne încurajeze să gândim, nu să ne ia gândirea. „Acesta este pericolul acela adevărat”, a subliniat profesorul universitar.

Există o nevoie critică de reglementare și testare

Deoarece dezvoltarea AI a devenit o „adicție” pentru companii, jucătorii din piață nu se pot autoreglementa. Astăzi, dacă un CEO pune frână pe considerente etice, competiția va acapara piața. Marius Leordeanu crede că este nevoie de cadre legislative robuste (cum există în UE, spre deosebire de SUA sau Asia) pentru a impune testarea detaliată, pentru a limita riscurile ca o eroare de sistem să provoace dezastre tehnologice sau biologice accidentale.

„Eu, de exemplu, dacă sunt CEO al unei companii n-am nicio constrângere. Eu aș vrea să pun frână, dar dacă eu pun frână, cel de lângă mine care poate nu-i așa de bine intenționat o să profite de chestia asta, o să accelereze și o să-mi ia el toată piața și o să mor. Și atunci trebuie să vină cineva să zică gata, stop”, a afirmat invitatul.

România face progrese în cercetarea în domeniul AI

Marius Leordeanu este de părere că cercetarea în domeniul AI din România accelerează puternic, iar specialiștii publică constant lucrări științifice la cele mai exigente conferințe globale, la același nivel cu marile laboratoare din lume.

Potrivit cercetătorului, deficitul nu este la nivel de inteligență sau potențial, ci la exercițiul practic de a converti inovațiile academice și prototipurile în produse comerciale scalabile, proces frânat adesea de un complex de inferioritate autohton și de evaluările subiective de pe plan european.

„Noi chiar accelerăm foarte bine și sănătos. Avem lucrări la cele mai înalte conferințe. Problema noastră este că noi încă nu avem acest exercițiu al transformării unor idei, prototipuri în produs comercial”, a explicat acesta.