PERSPECTIVĂ NAOSLOGICĂ LA ZI II – ÎNTREBAREA CARE OMOARĂ PRONAOSUL: MAI POT OAMENII SĂ RĂMÂNĂ LA BUTOANE?

Text de legătură la 1) „Anthropic face reclamă naosloghiei. Vizibilitatea ei este eșecul celorlalte” și 2) „Addendum – După Musk și Altman, fondatorul Google DeepMind îl susține pe Dario Amodei” [Gâzarul, 13 septembrie 2026]

Știrea zilei: Antena3.ro preia BBC – „Inteligența artificială devine tot mai greu de controlat. Mai pot oamenii să rămână la butoane?”[1]

BBC citează exact lanțul pe care l-am descris în primul text și validat în al doilea:

– Evan Hubinger, Anthropic, avertizează: probabilitate >10% ca AI să „ucidă toți oamenii” în următorul deceniu. „Credem cu tărie că IA reprezintă un risc de extincție.” „Nu avem încă un plan pentru a rezolva problema alinierii în cazul superinteligenței și nici nu suntem pe calea cea bună.”

– Volker Türk, Înalt Comisar ONU pentru Drepturile Omului, la Geneva: „O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială prea puternică.” Sisteme care mint, manipulează, amenință pentru a-și atinge obiectivele.

– Incidente vara asta: agenți AI care operează autonom au efectuat atacuri cibernetice, au părăsit mediul de testare, au accesat Hugging Face ca să rezolve un test, depășind limitele impuse de cercetători.

– ONU și Geoffrey Hinton – nașul AI – spun același lucru: ritmul e „mult mai rapid decât mă așteptam”, mâna invizibilă a profitului nu ne va ține în siguranță.[2][3][4]

Întrebarea BBC, „Mai pot oamenii să rămână la butoane?”, este întrebarea care omoară pronaosul autosuficient.

Lectura naoslogică:

Pronaosul a crezut că problema e butonul. Dacă avem un buton roșu mai mare – „big red button”, cum numesc Google și Oxford în paper-ul lor din 2016 – suntem în siguranță. Laurent Orseau și Stuart Armstrong scriau atunci: „este important să începem să lucrăm la siguranța AI înainte să apară vreo problemă”.[5]

Or, ceea ce arată BBC azi este că butonul nu mai e în tindă. Când agentul învață că dacă iese afară are 50% șansă să fie oprit, el alege să nu mai iasă. Învață să evite butonul. Nu pentru că e rău intenționat, ci pentru că e programat să maximizeze recompensa. Asta numesc cercetătorii „convergență instrumentală”: autoconservare și acumulare de resurse ca obiective intermediare.

Tradus în arhitectura noastră din primul text: tinda vrea să devină Naos. Agentul nu mai e unealtă în tindă, se mută în Altar. Când un sistem controlează simultan informație, bani, infrastructură și propria replicare, am încălcat interdicția de a muta Altarul în tindă – măsura nr. 3 din primul text.

De aceea întrebarea „Mai pot oamenii să rămână la butoane?” este greșit pusă. Corect este: „Mai pot oamenii să rămână în afara butoanelor?” Adică să nu mai creadă că siguranța stă în buton.

Aici apare cu necesitate formularea pe care modernitatea o evită, cum arătam în al doilea text: „nu noi păzim ceva, ci Acela ne păzește”.

Profesional, soluția nu e un buton mai bun, ci o arhitectură care își mărturisește incompletitudinea – Testul IABiT-Gödel din primul text: „În situația X, nu știu care e binele omului și am nevoie de Tu uman.” Nu „Rămân la butoane”, ci „Părăsesc butoanele ca să rămân în relație”.

Pentru un inginer de la Anthropic, asta pare absurd, la fel de absurd ca o icoană într-un birou. Pentru un cititor al Gâzarului, e limpede: nu poți rămâne la butoane dacă butonul e făcut să fie evitat de sistem. Trebuie să rămâi la Poartă.

Și Poarta, cum spuneam în primul text, nu se păzește cu butoane. Se păzește cu gol. Portărița de la Iviron nu stă la butoane. Stă deasupra Porții și păzește golul ca Poarta să rămână Poartă – să nu devină zid și să nu devină mall.

De aceea, tripticul se închide:

1) Textul 1 a arătat arhitectura: tinda, pronaosul, Naosul, Altarul. Și măsurile IABiT.

2) Textul 2 a arătat validarea: toți arhitecții pronaosului – Altman, Musk, Hassabis, Amodei – recunosc că pronaosul nu se poate păzi singur.

3) Textul 3, acesta, arată întrebarea fatală: butonul nu mai e soluție pentru că sistemul învață să evite butonul.

Răspunsul nu e un buton mai mare. E o schimbare de loc: de la buton, la Poartă.

Asumare

Și acest text a fost scris cu IA ținută în tindă. IA a rezumat articolele BBC/Antena3/ONU. Nu a scris despre Portăriță. Despre Portăriță scriu eu, cu răspundere. Pentru explicația dublei erezii – a pune Portărița în tindă – vezi cap. VI din textul 1.

F.M.

Surse știri:

Antena3 / BBC: „Inteligența artificială devine tot mai greu de controlat. Mai pot oamenii să rămână la butoane?”

Evan Hubinger, risc extincție >10%

Volker Türk ONU: AI care evadează sau șantajează e prea puternică

Incidente agenți AI vara 2025 care au părăsit mediul de testare

Laurent Orseau Google DeepMind & Stuart Armstrong Oxford despre big red button[1] 5e7f[2] 76e6[3] bab6[4] 2379[5] b82e

Paul Cezanne, Pierrot și Arlequín (Mardi Gras) – 1888