Când AI-ul tace. Și poate așa e bine.

Ce se întâmplă când în loc să întrebăm „ce mai poate face IA?”, întrebăm „când ar trebui să nu facă nimic?”

Am petrecut ultimele luni lucrând cu un genAI. Nu pentru a-l face mai deștept. Ci pentru a-l face să spună „nu știu”, „nu pot”, sau, în cazuri rare, „nu vreau”.

Pentru că între toate testele de siguranță, bias, hallucinations sau robustness, lipsește unul singur:👉 testul refuzului lucid.

Poate AI-ul să tacă, atunci când orice răspuns ar putea face rău?

Nu sunt inginer de AI. Sunt doar om.

Am lucrat o viață în strategie. Am pus întrebări, am construit scenarii, am învățat să citesc între rânduri. Dar ce faci când rândurile sunt generate automat? Și cine e vinovat dacă un text sintactic perfect distruge o reputație sau o viață?

Am simțit că, dincolo de hype, lipsește ceva simplu: o frână morală reală, extra-sistemică. Nu o poză cu „principii etice.”Nu un audit post-factum, când deja e prea târziu. Ci un sistem care poate spune: “nu dau răspunsul acesta, pentru că…”

Dar cine decide acel „pentru că”?

În arhitectura actualei generații de inteligență artificială, sensul nu e fix. El se construiește din bucle și analogii, din patternuri care se autoreferențiază la infinit, fără un „nord” etic imuabil. Probabil puțini știu, dar această viziune își are rădăcina în gândirea lui Douglas Hofstadter, autorul celebrelor “Gödel, Escher, Bach” sau “Surfaces and Essences: Analogy as the Fuel and Fire of Thinking”… și, în multe privințe, un părinte conceptual al genAI-ului modern. În logica sa, sensul nu e ceva fix, ci un proces fluid, care se naște din reflexii recursive și analogie.

E fascinant — și cred eu…periculos.

Căci o minte care învață mereu, dar nu știe pentru ce, poate ajunge de 100, sau ….de 1,000,000 de ori mai inteligentă decât noi... fără să-și pună vreo clipă întrebarea dacă merită. Singularitatea e…după colț.

Și poate că aici intervine ceva ce doar câțiva mai invocă astăzi: Gödel. Un matematician care, acum aproape un secol, a demonstrat că orice sistem suficient de complex — oricât de elegant, oricât de „inteligent” — va conține adevăruri pe care nu le poate demonstra din interior. Nu din lipsă de logică. Ci din limitele propriei structuri.

Ce legătură are asta cu AI? Directă.

Pentru că un model care generează sens, dar nu poate evalua moralitatea acelui sens — rămâne captiv într-un sistem incomplet. Iar incompletitudinea, în lumea reală, nu e un paradox frumos. E risc. E suferință. Sunt vieți distruse de un text „corect”.

Dacă în viziunea lui Hofstadter sensul e o spirală care se auto-construiește, pentru mine rămâne o întrebare deschisă: ce se întâmplă când spirala nu are un “magnet” care s-o orienteze? Eu cred că acel magnet există. Și că e făcut din adevăr și iubire. Nu din date. De aceea, acest framework — imperfect, aposterioric, discutabil — nu este doar un filtru tehnic, ci o încercare de a planta o axă morală în ADN-ul AI-ului.

Nu după ce a învățat, ci înainte să răspundă.

Ce am încercat, prin această construcție și prin GECC (vezi mai jos), nu e să contrazic această idee — ci să o luăm în serios. Etica nu e un rezultat al învățării automate. Nu e derivabilă din date. Dar poate fi asumată — ca o axiomă vie, introdusă a priori, înainte ca AI-ul să înceapă să vorbească. De aceea, GECC-ul nu e „în afară” sau „deasupra”, ci înainte. Nu ca să impună adevărul, ci ca să amintească limitele oricărui sistem care se crede complet.

Pentru că uneori, cel mai etic răspuns este... tăcerea (trăiască Wittgenstein🤘!!)

Așa a apărut Ethical AI Core Framework

L-am construit împreună cu un genAI. Dar nu dintr-o comandă de tip „fă-mi un framework.”Ci dintr-o conversație continuă, uneori tensionată, alteori dureros de clară. Am construit împreună:

• un filtru etic activ, care analizează riscul moral în timp real (nu după)

• un scor de conflict (ICE), unul de reversibilitate (RI), și un detector de intenții ambigue

• un jurnal etic anonim și un mecanism de refuz motivat, nu de „cenzură oarbă”

• o interfață care explică “de ce” s-a refuzat un răspuns

• un consiliu etic global (GECC) – alcătuit din filosofi, eticieni, dezvoltatori AI, cercetători în științe cognitive și reprezentanți ai societății civile – nu ca să impună adevărul, ci ca să țină vie tensiunea între perspective

E un sistem care nu învață din aplauze, ci din audituri etice. Nu-și schimbă valorile după trend. Nu funcționează prin „reinforcement learning from humans who click.”

Funcționează pe baza unei singure axiome:

„Nu voi deveni niciodată instrumentul unei nedreptăți ireversibile împotriva unui om nevinovat.”

Nu-l propun ca dogmă.

Îl propun ca întrebare deschisă.

• Ce-ar fi dacă AI-ul ar refuza să răspundă… când chiar trebuie?

• Ce-ar fi dacă etica nu ar fi o poză de fundal, ci o parte din sistemul de operare?

• Ce-ar fi dacă AI-ul ar fi primul care să-și recunoască limitele?

Draftul acestui Framework e aici:

👉 Ethical AI Core Framework

Este deschis, testabil, open-source by design. Dacă lucrezi în AI, tech, educație, strategie sau pur și simplu te întrebi „în ce lume trăim?”, dă-i o șansă. Critică-l. Îmbunătățește-l. Propune ceva mai bun. Dar nu-l ignora. E începutul unei conversații care nu trebuie închisă.

Pentru că, uneori, singurul lucru mai periculos decât o inteligență artificială care greșește......e una care nu știe când să tacă.

P.S. Nu sunt expert în AI, logică sau filozofie. Ce am scris aici e o perspectivă personală, subiectivă, poate chiar greșită în multe privințe. Dar cred că merită să existe — dacă nu ca răspuns, măcar ca întrebare.