Într-un eseu nou de 38 de pagini publicat pe site-ul său personal, CEO-ul și co-fondatorul Anthropic, Dario Amodei, face un apel pentru acțiuni urgente pentru a aborda riscurile inteligenței artificiale super-inteligente. Amodei scrie că acest tip de IA care se auto-îmbunătățește ar putea fi la doar unul sau două ani distanță, avertizând că riscurile includ sclavia și "distrugerea în masă" a umanității, potrivit mashable.com.
👉 Riscurile IA detaliate în eseu și intervențiile propuse
Eseul, "Adolescența Tehnologiei," abordează riscurile IA cunoscute și necunoscute. CEO-ul discută în detaliu despre potențialul bioterrorismului generat de IA, armatele de drone controlate de IA malefică, și despre cum IA ar putea face lucrătorii umani obsolescenți la o scară socială globală. Pentru a aborda aceste riscuri, Amodei sugerează o varietate de intervenții — de la auto-reglementare în industria IA până la amendarea constituției Statelor Unite.
👉 Critici privind antropomorfizarea IA în eseul lui Amodei
Eseul lui Amodei este bine gândit și documentat. Totuși, comite și păcatul capital al scrierii despre IA — nu poate rezista tentației de a antropomorfiza IA. Tratează produsul său ca pe o ființă conștientă, având propriile motivații și scopuri, ceea ce este tocmai capcana de care se ferește. Paradoxal, în același timp, The New York Times a publicat o investigație majoră despre "psihoză IA." Acest termen cuprinde o gamă largă de probleme de sănătate mintală exacerbate de chatboții IA, cum ar fi ChatGPT sau Claude, incluzând iluzii, paranoia sau o ruptură completă de realitate.
„Cu toate acestea, când un vânzător IA îți spune că IA este o tehnologie care schimbă lumea, similară cu revoluția agricolă... ar trebui să interpretezi această predicție ca pe un discurs de vânzare.” Aceste cazuri au un lucru în comun: o persoană vulnerabilă petrece atât de mult timp vorbind cu un chatbot IA, încât începe să creadă că acesta este viu. Modelele lingvistice mari (LLM-uri) care alimentează platforme ca ChatGPT pot produce o imitație foarte realistă a conversației umane, iar în timp, utilizatorii pot dezvolta o dependență emoțională față de chatbot.
Când petreci prea mult timp discutând cu o mașină programată să pară empatetică — și când acea mașină este mereu prezentă și optimizată pentru angajament — e foarte ușor să uiți că nu există o minte în spatele ecranului. LLM-urile sunt motoare puternice de predicție a cuvintelor, dar nu au conștiință, sentimente sau empatie. Citind "Adolescența Tehnologiei", am început să mă întreb dacă Amodei a dezvoltat o legătură emoțională prea profundă cu propria sa mașină.
Eseul descrie chatboții IA ca fiind "psihologic complexi." De asemenea, Amodei descrie modelele existente ale Anthropic ca având un sens robust de "identitate de sine" ca "persoană bună." Pe scurt, el antropomorfizează IA generativă — și nu doar o formă viitoare, super-inteligentă de IA, ci IA bazată pe LLM-uri de astăzi.
Atât de mult din discuția despre pericolele IA provine direct din ficțiunea științifică, recunoaște Amodei — și, totuși, el însuși este vinovat de aceleași exagerări. Eseul începe cu o secțiune intitulată "Evitarea doom-ismului," în care Amodei critică vocile "celor mai puțin sensibile" și cele "sensacionaliste" care discută despre riscurile IA.
„Aceste voci folosesc un limbaj deranjant, reminiscent de religie sau de fiction științifică”, scrie el. Totuși, eseul lui Amodei evoacă repetat ficțiunea științifică. Și în ceea ce privește religia, el pare să aibă o credință de tip religios că super-IA este aproape. Oprește-mă dacă ai mai auzit asta înainte: „Nu poate fi decât o chestiune de câțiva ani înainte ca IA să fie mai bună decât oamenii la esențial, în toate privințele.”
Pentru adepții lui AI doom, super-inteligența este mereu la un pas distanță. Într-un eseu anterior cu o tentă mai utopică, "Mașinile iubitoare de grație," Amodei a scris că super IA ar putea fi doar la unul sau două ani distanță. Acum, el face aceeași estimare: super-inteligența este aproape. Din nou, este la un pas distanță. În curând, foarte curând, instrumentele IA generative precum Claude vor învăța cum să se îmbunătățească, realizând o explozie de inteligență precum nimic din ce a văzut planeta până acum. Singuralitatea se apropie rapid, spun susținătorii IA. Doar încredeți-vă în noi, spun ei.
Dar ceva nu poate fi perpetuu iminent. Ar trebui să așteptăm de la IA generativă să continue să progreseze exponențial, chiar și în condițiile în care industria IA pare să se lovească de zidul rentabilității în scădere? Sigur, orice CEO din domeniul IA ar avea un stimulent puternic să creadă asta. O sumă fără precedent de bani a fost deja investită în dezvoltarea infrastructurii IA. Industria IA are nevoie ca această robinetă financiară să rămână deschisă cu orice preț.
Am observat beneficiile tehnologiei IA și cred că este un instrument puternic. Cu toate acestea, când un vânzător IA îți spune că IA este o tehnologie imbatabilă care schimbă lumea, comparabilă cu revoluția agricolă sau o amenințare care alterează lumea, comparabilă cu bomba atomică, și că instrumentele IA vor putea în curând "face tot ce poți face tu," ar trebui să interpretezi această predicție ca pe o încercare de vânzare. Doom-ismul IA a fost întotdeauna o formă de auto-tribute. Atribuie ființelor umane puteri divinități de a crea noi forme de viață și plasează oligarhii din Silicon Valley ca titani cu puterea de a modela fundamentele lumii.
În loc să ne îngrijorăm de fantoma unei apocalipse asemănătoare Skynet-ului, ar trebui să ne concentrăm pe daunele concrete provocate de IA — concedieri inutile inspirate de proiecții de IA prea îndrăznețe și pornografia deepfake neconsensuală, pentru a numi doar două. Vestea bună pentru oameni este că aceste probleme sunt soluționabile dacă ne unim mințile umane — fără a fi nevoie de experimente de gândire din ficțiune științifică.
