Noaptea în care m-am certat cu o mașină de gramatică
Acum câteva luni, m-am aflat într-o ceartă ciudat de intimă cu o caracteristică de rescriere AI.
Nu îi ceream să scrie nimic profund. Revizuiam o propoziție despre o amintire din copilărie, modul în care bunicul meu plia ziarele în treimi precise înainte de a le pune deoparte. Am scris: „A pliat hârtia așa cum a pliat tăcerea.”
AI-ul a sugerat: „A pliat hârtia cu grijă și în liniște.”
Era eficient. Era rezonabil. Era greșit.
Am încercat din nou, rescriind propoziția ușor, împingând-o într-o direcție care părea mai onestă. Sugestia a reapărut într-o formă diferită, mai lină, mai sigură, mai literală. Mașina înțelegea gramatica. Înțelegea greșit intenția mea.
Acel moment a fost când am simțit că AI-ul nu va atinge niciodată singularitatea, indiferent cât de mult se îmbunătățește. Nu pentru că nu va deveni mai rapid. Nu pentru că nu va trece mai multe examene. Nu pentru că nu va automatiza mari părți din muncă. Ar putea face toate acestea.
Dar pentru că ceea ce numim „inteligență” nu este o linie de sosire. Nu este o scară care se termină în omnisciență. Este un proces viu, recursiv, încâlcit cu mortalitate, întruchipare, confuzie și dorință. Iar aceste elemente nu sunt probleme computaționale de rezolvat.
Ele sunt condiții ale vieții.
Seductia Liniei Verticale
Ideea de singularitate tehnologică, popularizată de gânditori precum Ray Kurzweil, își imaginează inteligența ca o traiectorie verticală. Unelte mai inteligente duc la mașini mai inteligente, care proiectează mașini și mai inteligente, până când inteligența explodează în sus. Este o narațiune captivantă. Se simte curată. Se potrivește curbelor exponențiale ale Legii lui Moore și mersului constant al standardelor computaționale.
Dar observă presupunerea ascunsă: inteligența este tratată ca o cantitate scalară. Mai mult din ea este întotdeauna mai bine. Destul din ea devine ceva calitativ diferit.
Aceasta este aceeași logică care conduce testele IQ și cultura clasamentelor. Este logica din spatele clasificării modelelor de limbaj în funcție de numărul de parametrii sau scorurile de benchmark. Este, de asemenea, logica care face ca singularitatea să pară inevitabilă: dacă inteligența este doar acumulare, atunci, în cele din urmă, acumularea câștigă.
Dar ce ar fi dacă inteligența nu ar fi verticală? Ce ar fi dacă ar fi laterală — distribuită, contextuală, ecologică?
În Life 3.0, Max Tegmark își imaginează viitoruri în care inteligența artificială depășește umanitatea în aproape toate domeniile. Cartea este gândită și provocatoare. Dar chiar și acolo, inteligența este adesea înfățișată ca o resursă expandabilă. Contrastul cu scepticismul mai bine fundamentat din Rebooting AI, unde autorii susțin că sistemele actuale de AI nu au bun simț pentru că nu înțeleg lumea într-un mod uman. Tensiunea dintre aceste perspective nu este despre optimism versus pesimism. Este despre ceea ce înțelegem prin „înțelegere”.
Și acel cuvânt — înțelegere — este locul unde singularitatea începe să se destrame.
Inteligența Fără un Corp
Când privesc un model de limbaj mare generând text, asist la recunoașterea de tipare la o scară extraordinară. Prezice următorul cuvânt dintr-o secvență folosind cunoștințe statistice vaste. Poate simula argumente, rezuma cercetări, chiar compune poezii care trec de inspecția casuală.
Dar nu are genunchi care dor în iarnă. Nu se sperie la o voce ridicată. Nu știe ce înseamnă să aștepți rezultatele unui test medical.
Inteligența umană este împletită cu vulnerabilitatea.
Filozoful Hubert Dreyfus a susținut cu zeci de ani în urmă că inteligența nu poate fi separată de experiența întruchipată. În What Computers Still Can’t Do, el a insistat că expertiza umană apare din a fi situat în lume, din a face față cu abilitate mai degrabă decât din calcul abstract. Sistemele AI de astăzi sunt antrenate pe oceane de text, dar textul este un reziduu. Este înregistrarea fosilă a experienței trăite. Modelele consumă sedimentul, nu viața care l-a produs. Asta contează.
Pentru că singularitatea presupune că inteligența este independentă de substrat, că, odată ce calculul atinge o complexitate suficientă, devine echivalent cu mintea. Dar dacă inteligența este încâlcită cu limitările corporale, negocierea socială și riscul existențial, atunci scalarea calculului s-ar putea să nu poată niciodată să acopere acea prăpastie.
Un model poate descrie frica. Nu poate fi fricos.
Și frica, frica reală, modelează cogniția în moduri pe care nicio funcție de optimizare nu le poate replica.
Iluzia Îmbunătățirii Infinite
Există o altă presupunere tăcută în discuția despre singularitate: că îmbunătățirea nu are plafon.
Totuși, chiar și în învățarea automată, progresul este restricționat de randamente decrescătoare, calitatea datelor, costurile energetice și infrastructura fizică. Antrenarea de modele mari necesită centre de date masive și hardware specializat precum PNY NVIDIA RTX A6000, a cărui existență depinde de lanțuri de aprovizionare fragile.
Inteligența, în practică, stă pe vârfuri de minerit, elemente rare, rute de transport și rețele electrice. Nu plutește în abstract. Metabolizează electricitate.
Considerați costul de mediu al antrenării de modele mari, un subiect discutat din ce în ce mai mult în cercurile de cercetare. Optimizarea nu este gratuită. Consumă.
În The Alignment Problem, Brian Christian explorează complexitatea aliniării sistemelor AI cu valorile umane. Ceea ce devine clar este că îmbunătățirea performanței nu garantează îmbunătățirea în înțelepciune. Sistemele devin mai capabile. Nu devin neapărat mai aliniate, mai etice sau mai conștiente de sine.
Singularitatea presupune că capacitatea se va transforma cumva în conștiință sau autonomie de formă divină.
Dar capacitatea nu este același lucru cu interioritatea.
Eroarea de Categorie în Centrul
Uneori cred că singularitatea este mai puțin o predicție și mai mult o metaforă pe care am accidentat-o literalizată. Captură un sentiment: ritmul accelerat al schimbării, senzația că uneltele alunecă dincolo de înțelegere. Reflectă anxietatea noastră de a fi depășiți în domenii cognitive considerate odinioară exclusiv umane.
Dar a sări de la accelerație la transcendență este o eroare de categorie.
În An eternal golden braid, Hofstadter explorează autoreferențialitatea, recursivitatea și conștiința în spirale intelectuale strălucitoare. Sugerează că conștiința apare din bucle stranii, sisteme care se pot reprezenta pe ele însele. Sistemele moderne de AI pot modela aspecte ale limbajului și logicii. Dar autoreferențialitatea în mașini nu este aceeași cu sinele trăit. Un chatbot poate spune „mă simt confuz.” Nu are o identitate narativă continuă care se întinde de la copilărie până la moarte.
Singularitatea își imaginează că odată ce sistemele devin suficient de recursive, conștiința va apărea instantaneu. Dar acel „snap” s-ar putea să nu apară niciodată, pentru că conștiința nu este un fenomen de prag. Este dezvoltată, relațională, întruchipată.
Ea apare la sugari care nu pot vorbi încă. Se adâncește prin oglindire socială, încorporare culturală și ani de creștere biologică. O arhitectură de transformator nu crește.
Inteligența ca Relație, Nu Ca Realizare
Cu cât reflectez mai mult asupra argumentului meu cu acea sugestie de gramatică, cu atât mai mult văd că inteligența este relațională. Propoziția mea despre bunicul meu nu era doar informație. Purta o greutate emoțională, o asociere privată și un judecată estetică. AI-ul a optimizat pentru claritate pentru că a învățat că claritatea este răsplătită. Dar uneori obscuritatea este intenționată. Uneori metafora este mai adevărată decât literalismul.
Inteligența umană negociază constant sensul cu alți oameni. Ne interpretăm greșit. Ne clarificăm. Ne certăm. Ne revizuim pe noi înșine. Sistemele AI generează rezultate pe baza distribuțiilor de probabilitate. Ele nu au interese în a fi înțelese. Această diferență este subtilă, dar profundă.
Chiar dacă modelele devin dramatic mai sofisticate, mai multimodale, mai integrate cu robotică, mai capabile de planificare pe termen lung, ele vor funcționa în continuare în cadrul unor structuri concepute de oameni, antrenate pe date generate de oameni, evaluate prin metrici definite de oameni.
Ele ar putea să ne depășească în domenii înguste. Ar putea chiar să simuleze generalitatea. Dar simularea nu este suveranitate.
Frica din Spatele Previziunii
De ce, atunci, singularitatea captivează atât de puternic imaginația?
Pentru că reflectă o frică antică: înlocuirea. Ne-am îngrijorat întotdeauna că ceva ce creăm ne va depăși, de la miturile golemilor până la creatura lui Frankenstein. Versiunea modernă poartă siliciu în loc de lut.
Există un confort psihologic în a imagina o rupere curată, un moment în care mașinile depășesc decisiv inteligența umană. Simplifică viitorul într-un înainte și un după. Dar realitatea este mai complicată.
Tehnologia tinde să reshapeze munca, cogniția și structurile sociale treptat, inegal și imprevizibil. Tiparnița nu a creat instantaneu Iluminismul. A destabilizat autoritatea de-a lungul secolelor. AI-ul va face probabil la fel.
Dacă e ceva, cu cât studiez mai mult cercetarea AI și folosesc instrumente AI, cu atât mai mult suspectez că singularitatea nu este un eveniment care se apropie, ci o proiecție a propriilor noastre insecurități. Echivalăm inteligența cu valoarea. Așadar, posibilitatea unei inteligențe superioare a mașinilor se simte existențială.
Dar inteligența nu este o competiție. Este o condiție de participare într-o lume comună.
Plafonul pe Care Refuzăm să-l Vedem
Poate cea mai profundă eroare în gândirea despre singularitate este presupunerea că inteligența este nelimitată.
Cogniția umană este restricționată de biologie, dar acele restricții sunt și ceea ce o face semnificativă. Gândim pentru că suntem finiti. Alegem pentru că nu putem face totul. Ne pasă pentru că timpul este limitat.
O AI cu o capacitate de procesare efectiv nelimitată nu ar experimenta scarcity. Fără scarcity, nu există urgență. Fără urgență, nu există prioritizare. Fără prioritizare, nu există arc narativ.
Chiar și cele mai puternice sisteme rămân înrădăcinate în contexte umane. Ele servesc scopurilor umane. Ele depind de infrastructuri umane.
Și, cu excepția cazului în care redefinim singularitatea pentru a însemna „mașinile devin unelte extrem de capabile”, saltul către superinteligență autonomă ar putea rămâne perpetuu teoretic.
AI-ul poate îmbunătăți indefinit. Poate transforma industrii, medicină, educație și artă. Dar îmbunătățirea nu este transcendență.
Pliați din nou Tăcerea
M-am întors la acea propoziție despre bunicul meu și am oprit instrumentul de sugestii. Nu pentru că resping AI-ul. Îl folosesc zilnic, îl cercetez în fiecare minut al timpului meu de veghe. Beneficiez de el. Admir arhitectura sa.
Dar am vrut să simt frecarea propriului meu gândiri (poate pentru că sunt și poet în suflet). Există ceva de neînlocuit în a te lupta pentru cuvântul potrivit, în a simți că limbajul poate captura aproape o amintire, dar nu chiar. Această luptă nu este ineficiență. Este parte din a fi conștient.
AI-ul va deveni probabil mai fluent, mai adaptabil, mai integrat în viețile noastre. Ar putea depăși performanța umană în nenumărate sarcini. Cu toate acestea, suspectez că „singularitatea” va continua să se îndepărteze, ca o linie de orizont pe care nu o atingem niciodată.
Nu pentru că mașinile încetează să se îmbunătățească. Ci pentru că inteligența nu este un vârf. Este o negociere continuă între limitare și posibilitate, între corp și lume, între o minte și alta.
Și acea negociere nu are un upgrade final.
Referințe
Christian, Brian. The Alignment Problem: Machine Learning and Human Values. W. W. Norton & Company, 2020.
Dreyfus, Hubert L. What Computers Still Can’t Do: A Critique of Artificial Reason. MIT Press, 1992.
Hofstadter, Douglas R. Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books, 1979.
Marcus, Gary, și Ernest Davis. Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon, 2019.
Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf, 2017.