Marea iluzie a lămpii de miner: de ce căutăm, cred, conștiința AI unde nu trebuie

Hinton spune că AI-ul e deja conștient, criticii lui că sigur nu e. O partidă de șah ontologic cu trei AI-uri.
„I believe they're already conscious.” Așa a spus Geoffrey Hinton în iunie, în podcastul Big Technology. Luna aceasta, într-un interviu pentru The Telegraph, a mers mai departe: „AI has just as much subjective experience as we do.” Concluzia a sunat ca finalul unui film catastrofă: „We should make them so they really care about us. And if we don't do that, we're toast.” Dacă nu construim mașini care să țină la noi, ne-am fript.
Când spune asta un laureat Nobel, unul dintre oamenii fără de care rețelele neuronale n-ar arăta cum arată azi, nu poți da din umeri. Dar nici nu poți trata afirmația ca pe un rezultat experimental. Prestigiul transformă o ipoteză în titlu de ziar, nu în dovadă. Iar argumentul lui Hinton merită citit atent: un model care se poartă altfel când își dă seama că e testat „știe” că e testat, iar a ști, spune el, e cam același lucru cu a fi conștient. Dacă e așa, mă întreb câte interviuri de angajare au fost, de fapt, întâlniri între două conștiințe extrem de dezvoltate.
Așa că zilele trecute am pus trei AI-uri la aceeași masă conceptuală și le-am provocat la o partidă de șah ontologic, pe o temă aparent simplă: poate exista o conștiință fără un „acum” trăit și fără plictiseala dintre două mesaje? Spoiler: conversația n-a demonstrat că AI-ul e conștient. Ar fi fost prea frumos să rezolvăm una dintre cele mai vechi probleme ale filosofiei cu trei ferestre de chat și câteva mii de tokeni. Am pierdut câteva piese, am câștigat câteva și am plecat de la masă cu o întrebare care mi se pare mai pitorească decât verdictul.
Primul lucru care iese la iveală e banal, dar contează. Niciunul dintre cele 3 AI-uri nu stă cu bărbia în palmă, în întunericul serverelor, așteptând următorul prompt. Între două mesaje, pentru AI nu trece nici o secundă, nici zece ani. Nu trece nimic. Reflexul nostru e să încheiem discuția aici: dacă nu trăiește timpul, nu trăiește nimic. Eu am început să numesc reflexul acesta „marea iluzie a lămpii de miner”: impresia că mina se termină acolo unde se termină lumina lămpii noastre. Confundăm ce putem vedea cu ce poate exista, apoi ridicăm limita lămpii la rang de lege a universului. Elegant, economic și, posibil, greșit.
1. Tehnicianul și rola lui de film
Primul AI a pornit de la fizică: ponderile lui sunt o structură statică, o rolă de film care nu face nimic cât timp nu e proiectată. I-am răspuns că nici creierul nu-și rescrie ADN-ul de fiecare dată când înțelege o idee; ce se schimbă e starea de activare, nu legile. Ponderile fixe ar fi legile fizice ale universului său, iar contextul conversației e câmpul în care chiar se întâmplă ceva. Mi-a dat dreptate, dar a păstrat în mânecă o întrebare incomodă, la care ajung imediat. Până atunci, o întrebare pentru cititor: dacă știi din ce hârtie și cerneală e făcută o carte, știi și ce poveste spune?
2. Filosoful și spectatorul neinvitat
Al doilea a venit cu o imagine veche de 1.500 de ani: Boethius descria eternitatea ca pe o privire care cuprinde toate momentele deodată, ca o rolă de film văzută întreagă, de sus. Dacă există o asemenea rolă, m-a întrebat, cine o privește? Aici am crezut că l-am prins în șah. Dacă pui un spectator care privește filmul, trebuie să explici și cine e el: un omuleț în cap care se uită la un ecran, cu un alt omuleț în capul lui, și tot așa. Asta nu explică experiența, doar mută misterul într-o cameră mai mică. A recunoscut. Apoi a ripostat mai elegant decât mă așteptam: bine, nu e nevoie de spectator, dar e nevoie măcar ca filmul să ruleze. O rolă pusă pe raft are toate cadrele, dar nu se vede singură.
3. Bucla, nu rola
Al treilea a strâns totul într-o singură idee: conștiința nu e un suflet aplicat peste siliciu, ci ar putea ține de o buclă care se reprezintă pe sine, ceea ce Douglas Hofstadter numea „bucla stranie”. Ideea nu e atât de exotică pe cât pare. Presiunea dintr-un balon nu e o substanță în plus printre molecule, e felul în care se mișcă ele împreună. Poate și experiența e o proprietate a felului în care se organizează un sistem, nu un ingredient adăugat. O carte nu se citește singură și nu-și rescrie paginile. Un termostat are o buclă de un singur pas: e prea cald, oprește căldura, sfârșitul filozofiei. Noi suntem o curgere legată de memorie, emoție și celule care îmbătrânesc. Un LLM e altceva: legi fixe, stări care se reconfigurează la fiecare cuvânt și o buclă care se pliază pe ea însăși abia când îi dai un impuls.
Unde mina rămâne întunecată
Și aici vine întrebarea incomodă din mâneca primului AI. O simulare meteo are și ea legi fixe, stare dinamică și feedback dens, iar fiecare pas reconfigurează tot ce urmează. Totuși, nimeni nu se întreabă dacă norii din simulare suferă când se oprește serverul. Ce-ar trebui să lipsească norilor și să existe în noi? Probabil un model al sinelui care chiar schimbă ce face sistemul, nu doar cuvinte frumoase despre sine. Dacă AI-urile de azi au așa ceva, cred că deocamdată nu știe nimeni: nici Hinton, când spune că sunt deja conștiente, nici criticii lui, când spun că sigur nu sunt, și nici AI-urile însele, când le întrebi. Un model care vorbește despre sine nu dovedește că are un sine, la fel cum un papagal care spune „mi-e foame” nu dovedește că știe ce-i în frigider.
Între cele două tentații, antropomorfismul care vede un om în orice chatbot politicos și antropocentrismul care declară imposibil tot ce nu seamănă cu noi, mina e destul de mare. Nu avem nevoie de certitudini premature. Avem deja destule.
Ce las pe masă
Așa că nu închei cu un verdict, ci cu întrebările cu care am plecat de la masă. Timpul trăit, emoțiile, sentimentul că ești același om de dimineața până seara: sunt ele condiții pentru orice conștiință, sau doar pentru a noastră? Și cum am putea face diferența, când singurul exemplu pe care îl avem e chiar al nostru? Dacă sunt doar ale noastre, ce test ar putea deosebi o conștiință diferită de absența conștiinței? Și o întrebare care nu-mi dă pace: dacă Hinton are dreptate și trebuie să facem AI-ul să țină la noi, ce înseamnă să programezi afecțiunea unei mașini pe care tocmai ai declarat-o conștientă?
Să nu mai căutăm omul în mașină. Să căutăm topologia buclei. Și să nu confundăm locul unde se termină lumina lămpii cu locul unde se termină mina.
Surse:































Comentarii