De ce AI ar putea să nu atingă niciodată inteligența umană
O nouă analiză susține că AI-ul poate că nu va gândi vreodată ca oamenii, deoarece cele mai importante părți ale inteligenței umane nu pot fi programate în mașini. Un om de știință de frunte afirmă că o propunere făcută de Alan Turing, considerat pe scară largă părintele științei computerelor teoretice, a direcționat cercetarea în inteligența artificială în direcția greșită timp de 75 de ani, potrivit scitechdaily.com.
👉 Critica analizelor lui Alan Turing privind inteligența artificială
În analiza sa recentă, “Greșeala lui Turing: Evitarea jugului mașinilor lipsite de inteligență,” Peter J. Denning examinează ideile avansate de Turing în 1950. La acea vreme, mulți științifici credeau că inteligența umană ar putea exista independent de corp și astfel ar putea fi recreată ca software rulând pe un computer digital. Denning contestă și ideea că inteligența mașinilor poate fi demonstrată printr-un joc de imitație (cunoscut acum sub numele de testul Turing). “Aceste două afirmații au modelat o mare parte din cercetarea și dezvoltarea AI,” scrie Denning. “Premisa mea este că acceptarea acestor afirmații ne-a dus la haosul AI în care ne aflăm astăzi.”
Conform lui Denning, sistemele de inteligență artificială (AI) care sunt dezvoltate acum sunt puțin probabil să producă inteligență la nivel uman, cunoscută sub numele de inteligență artificială generală (AGI). În schimb, el avertizează că acestea ar putea crea pericole serioase fără a gândi vreodată ca oamenii. Central în argumentul lui Denning se află ideea de cunoștințe tacite. Acest concept se referă la cantitatea uriașă de înțelegere pe care oamenii o dețin, dar pe care nu o pot exprima complet în cuvinte sau traduce în simboluri pe care o mașină le poate procesa.
👉 Limitele cunoștințelor tacite pentru AI și implicațiile acesteia
Denning descrie cinci forme largi de cunoștințe tacite care eludează învățarea automată. Acestea includ **bunul simț**, **interacțiuni zilnice** cu oamenii și mediul, **sentimente** și **percepții**, **abilități practice**, și **fundalul cultural și istoric** împărtășit de societăți. Cercetătorii au petrecut decenii încercând să înregistreze bunul simț într-o formă pe care computerele o pot utiliza. Începând cu anii 1980, proiectul ambițios Cyc al lui Douglas Lenat a avut ca scop construirea unei baze de date vaste de fapte de bun simț. După 40 de ani de muncă, proiectul conținea 25 de milioane de înregistrări. “Cu toate acestea, chiar și acest tezaur nu putea echivala cu un fundal de bun simț suficient pentru a face sistemele expert suficient de inteligente pentru a fi experți,” observă Denning. “Cyc a validat că o mare parte din cunoștințele care îi fac pe oameni experți nu pot fi articulate ca propoziții.”
Abilitatea practică reprezintă un alt obstacol major, susține Denning. “Abilitățile noastre de performanță în mii de domenii nu pot fi comunicate mașinilor,” explică Denning. “În timp ce descrierile rezultatelor abile (‘știu ce’) pot fi adesea reprezentate ca biți și stocate într-o mașină, nu știm cum să codificăm cunoștințele încorporate pentru performanța abilităților (‘știu cum’).” Muzica reprezintă un exemplu clar al acestei diferențe. Denning spune: “Un violonist virtuoz poate cânta muzică frumoasă, dar nu poate descrie unui novice cum să o producă.” Chiar dacă un robot ar putea observa și imita oameni pricepuți, neavând un corp biologic, un robot nu poate înțelege cum se simte muzicianul când cântă muzica frumoasă sau cum se simte publicul când o ascultă.
Intuiția, instinctele, creativitatea spontană și imaginația sunt alte forme de cunoștințe tacite care rezistă la reducerea la instrucțiuni computaționale. Denning numește obstacolul central “problema reprezentării”. Calculatoarele pot efectua doar calcule atunci când datele și instrucțiunile sunt codificate în forme fizice pe care le pot recunoaște și procesa. Cunoștințele tacite, totuși, nu pot fi ușor convertite într-un astfel de format. “În spatele fiecărui cuvânt se află o fântână adâncă de cunoștințe tacite care îi dă sens,” spune Denning. “Cuvintele sunt doar reprezentări simbolice ale semnificațiilor, nu semnificațiile în sine.” Modelele de limbaj mari, utilizate frecvent, cum ar fi ChatGPT, Claude și Gemini, doar manipulează cuvinte; ele nu pot cunoaște sau înțelege semnificația a ceea ce spun. Aceasta creează ceea ce Denning vede ca un gol insurmontabil. Deoarece oamenii de știință nu înțeleg complet cum funcționează cunoștințele tacite în rândul oamenilor, nu pot determina cum să le transfere unei mașini. “Cum găzduim cunoștințe tacite este în mare parte un mister,” admite Denning. “Tot ce știm este că este încorporat. Nu avem idee ce am putea observa și măsura în corpurile noastre pentru a-l revela.”
Denning subliniază de asemenea importanța contextului, sau circumstanțelor înconjurătoare care dau sens și scop cuvintelor și acțiunilor umane. O afirmație poate avea semnificații foarte diferite, în funcție de dacă vorbitorul este sincer, sarcastic, furios, jucăuș sau provocator. Contextul ajută, de asemenea, oamenii să decidă când să folosească umorul, când să arate tact și cum să interpreteze ceea ce cineva lasă nespus. “Când întrebi despre de unde provine o presupunere a contextului actual, descoperi că aceasta se bazează pe conversații anterioare din contexte anterioare. Fiecare dintre acestea se bazează la rândul său pe alte conversații anterioare și pe contexte. Această patteră este infinită și fractală,” explică Denning.
Cultura reprezintă o provocare conexă. Aceasta include valori, norme sociale, judecăți, istorii, comunități, stări de spirit și relații care implică putere sau îngrijire. “Conversațiile umane sunt impregnate de presupuneri de fundal care conferă semnificație și relevanță cuvintelor folosite,” explică Denning. El afirmă că mărirea dimensiunii modelelor de limbaj nu va rezolva această problemă. “Expansiunea LLM-urilor cu rețele neuronale din ce în ce mai mari nu le va permite să dobândească cunoștințele umane încorporate pe care le numim cultură. LLM-urile nu vor atinge obiectivul testului Turing: demonstrarea gândirii mașinii de nedistins față de gândirea umană.” Denning descrie în cele din urmă o formă de neînțelegere reciprocă între oameni și mașini. Rețelele neuronale artificiale ar putea dezvolta propriul tip de cunoștințe tacite de mașină, dar oamenii ar putea fi incapabili să o înțeleagă. “Mașinile nu pot citi cunoștințele noastre tacite și noi nu putem citi cunoștințele lor,” scrie el. “Suntem străini dincolo de o prăpastie insurmontabilă.” Această prăpastie ar putea avea consecințe majore pentru siguranța AI.
Dacă mașinile nu pot înțelege contextul nespecificat din spatele instrucțiunilor umane, Denning avertizează că alinierea fiabilă a comportamentului lor cu obiectivele umane ar putea fi imposibilă. “Prin automatizarea AI, rețelele agentice de mașini vor dezvolta probabil propria inteligență de mașină care nu atinge nivelul de inteligență generală umană, dar este totuși capabilă să creeze probleme severe pentru oameni. Această amenințare este mai mare decât o preluare de către mașini superinteligente,” explică el. În opinia lui Denning, cea mai imediată periculozitate nu este o mașină superinteligentă care depășește umanitatea. Este o rețea de sisteme mai puțin inteligente care acționează în moduri puternice, imprevizibile și potențial dăunătoare. “Inteligența mașinilor are preocupări diferite de ale noastre și nu pare să îi pese de noi. Modurile lor de gândire și rezolvare a problemelor par străine pentru noi. Nu știm încă cum să trăim în siguranță cu aceste mașini. Retragerea dintr-o singularitate a automatizării AI va necesita mult de la noi. Începem prin a accepta că cultura familiară se estompează pe măsură ce mașinile inteligente își fac apariția în societatea noastră și nu știm ce va urma. Refuzăm să gândim ca mașinile sau să fim subordonați acestora. Ne afirmăm din nou umanitatea și declarăm ce ne face diferiți de mașini, sărbătorind acele diferențe.”