Horațiu Ripa, 12.05.26
AI, iai, iai, iai, iai!
O poveste despre sinucidere. Faptele și persoanele din filmul ăsta sunt adevărate.
Cre’că a auzit toată lumea de „time to market”, „maintain competitive advantage”, „maximize productivity” și alte bullshit-uri d-astea sacrosancte, menite să lumineze calea către suveranul „growth” infinit al capitalului...
N-au nicio importanță întrebările: „De ce și unde dracu’ să mai creștem?”, „Cui îi trebuie cu adevărat chestia asta?” și „Mai sunt încă 200 de produse care fac fix, da’ fix același lucru, de ce încă unul?”, nu, capitalismul consumerist modern cere creșterea la infinit. Nu crești => mori pur și simplu. Știu că nu are niciun sens povestea de mai sus, dar asta nu o face neadevărată. Tre’ să raportezi, ca un făcător de rapoarte ce te afli - da’ îți zici pompos „manager” de ceva - deci tre’ să raportezi creștere. Pardon, „growth”, că românește nu mai știm de la un nivel ierarhic încolo. a
Bun, și? Și în toată demența asta a apărut AI-ul!
N-am să dezvolt variantele de Terminator 1,2,3, deși mă mănâncă des’tele și câteva vorbe tot am să arunc. Nu ascund că țin cu AI-ul, specia asta de maimuțe antropoide mi se pare că nu-și mai merită dreptul la existență. Din nefericire ar fi ceva excepții, dar se pierd în marea masă de imbecili și de Eichmanni (chiar m-a traumatizat Arendt).
Hai să încerc să clarific cumva ce am în cap, în măsura în care am ceva și se poate clarifica.
1. Automatizările au eliminat deja necesitatea de forță de muncă într-o măsură pe care nu vrem să o recunoaștem. Sociologii povestesc de multișor (deși -ologii ăștia psiho, socio, polito și futuro mi se par toți niște impostori) despre faptul că, în scurt timp, peste jumătate din populația potențial activă nu va mai avea ce și de ce să muncească. Că organizarea socială prezentă, dar în special capitalismul consumerist, nu are nicio metodă, ca să nu mai vorbim de intenție, de a gestiona această realitate e la mintea galinaceelor. Asta e un fel de preludiu la sexul nu neapărat consensual care urmează.
2. Inginerii software, într-un elan absolut sinucigaș, au reușit, prin eforturi susținute și idei inginerești îndrăznețe și geniale, să dezvolte AI-urile la un nivel care e absolut șocant, chiar și pentru un om din domeniu și căruia nu-i e străin procesul. N-am de gând să țin un curs despre AI, oricum vedetele momentului sunt LLM (Large Language Models), adică niște chestii capabile să stea de o tacla cu tine, mai dihai ca băieții de la bere, și nici nu se îmbată ca porcu’.
Acu’, ce are AI-ul aparte, față de programul clasic de calculator, e că ÎNVAȚĂ. Tot ce e programat la el e „cum să înveți și să crești”. Practic cum să achiziționeze, să relaționeze date, să găsească tipare și să genereze răspunsuri/predicții și - nu în ultimul rând - DECIZII. Care sunt perfecționate/rafinate/corelate cu fiecare nou set de date și prin bucle inverse. Practic e ca un program care se rescrie pe sine însuși în forme tot mai „adecvate” scopului final, „înțelegând” tot mai mult în relație cu contextul și subiectul specific. După care i s-a dat tot internetul, să învețe. Să ne înțelegem, fetelor, după ce AI-ul a învățat și s-a dezvoltat, habar nu avem ce răspuns va da la o întrebare, „uitându-ne” la ceea ce se numește rețeaua lui neuronală; așa cum nu putem să ne dăm seama ce gândește un om dacă-i disecăm creierul.
Ei, LLM-urile au fost folosite pe limbajele naturale, adicatelea pe limbi in sine. Poate pentru că metodele clasice, programate, de a „genera”, „traduce”, „interpreta” textele s-au dovedit, una după alta, incapabile. Personal am fost șocat cum - în câteva luni - efortul de ani de zile depus de Google cu al lui Translate a fost spulberat de Chat GPT, capabil să traducă pagini întregi de text, păstrând înțelesul și chiar stilul. Și cum putea să facă un rezumat de o pagină la „Frații Karamazov”, să-ți compare vedetele porno la modă și să comenteze malițios ultimul Barcelona-Real.
Afirmațiile „nu gândește ca un om”, „nu înțelege de fapt”, „nu e decât un autocomplete” și toate basmele cu Cosânzeana, Făt-Frumos și prietenii lui elefanții mi se par absolut idioate. Cred că mai toate LLM-urile nu ar trece testul Turing pen’că sunt mult prea deștepte față de tâmpitul din vârful clopoțelului lu’ nea Gauss, ca să nu mai vorbim că imbecilul majoritar nu are cum să le testeze, ar fi ca și când melcul l-ar testa pe câine dacă e inteligent. Sunt gata să mă cert cu oricine, la infinit, asupra conceptului de „inteligență”, când apare și ce înseamnă el la om și care este rolul vorbirii în dezvoltarea (din nefericire încheiată) a inteligenței.
Bun. Și în contextul ăsta, când LLM-urile sunt capabile să dialogheze în limbaj natural, inginerii vieții, cum ziceam: absolut sinucigaș, s-au gândit că un limbaj artificial (așa cum sunt limbajele de programare) e și mai ușor de asimilat de către AI. Și au avut dreptate. AI-urile au învățat urgent limbajele de programare și au ajuns capabile să creeze cod în limbajele de programare, traducând din limbaj natural, cu o viteză și o precizie mult superioară omului. Imperfect la început, dar să nu ne îmbătăm cu apă rece, călduță, fierbinte, plată, cu găuri sau oricum ar fi ea, tot mai aproape de perfecțiune cu trecerea timpului.
3. Și-acuma intră în scenă manajerii de toate sorto-tipo-dimensiunile: fsoooaaaaaiiiii!, păi gata, productivitatea se duce în ceruri, cu un sfert din număru’ de dezvoltatori, pe mult mai puțini bani, în mult mai puțin timp vă dăm soarele, luna și ce planetă mai trece zilele astea pe cer și nu-i atentă. Bifăm la toate bullshit-urile, și la noi în spread-sheet-uri și la client.
Și inginerii, totuși, și ei, o specie de cretini (fac parte din specie, așa că știu exact despre ce vorbesc), au început să învețe AI-urile să facă tot procesul. Poate că o să mă întrebați de ce? Pen’că orice inginer o să facă o chestie pen’că e greu de făcut, da’ e interesantă a dracului; nu vă ziceam cât suntem de cretini? Cine și de ce credeți că a făcut bomba atomică?
Unde o să ajungem? Exact în locul în care domeniul care a fătat AI-ul va fi complet înlocuit de AI-uri gata să rezolve mai tot. Și IT-ul nu prea va mai avea nevoie de ingineri. AI-ul știe să se autodezvolte...
Măreții manageri ai firmelor (într-o mare măsură nu prea departe nici ei de clopoțelu’ lu’ Gauss, la vârf), plini de entuziasm, ajung să taie pur și simplu subiectul de activitate al firmelor pe care le conduc. Ca să fiu cinstit, nu mă aștept la vreo manifestare de inteligență din direcția asta și, cu atât mai puțin, de vreun frison moral sau etic.
Oricum, rezultatul cel mai probabil: la ce o să mai folosească firmele de IT? La nimic!
Și acum o să închei într-o notă atât de optimistă încât vă rog, în prealabil, să ascundeți obiectele ascuțite de voi înșivă în așa fel încât să nu le mai găsiți.
Am avut curiozitatea să citesc din eseurile lu’ Dario Amodei. Nenea ăsta ar fi mama, tata, moașa și șefu’ lu’ Anthropic, firmă care e responsabilă de Claudiu. Ei, omu’ ăsta s-ar presupune că știe despre ce vorbește, care e starea curentă, care sunt problemele, ce trebuie făcut.
Nu, nu știe.
În primul rând, faptul că „există riscul ca sistemele să devină atât de complexe încât nici creatorii lor să nu mai înțeleagă exact cum iau decizii” a fost depășit de mult. Chiar dacă observă că politica, juridicul și celelalte instituții, toată societatea, reacționează prea lent la dezvoltarea tehnologică, asta-i un fel de „apa e udă”. Da, e udă. Hai s-o dezudăm. Există riscul de a fi folosit AI-ul pentru război, arme cibernetice, supraveghere în masă. Riscul? Certitudinea!!! Ce-am făcut imediat ce am descoperit fisiunea?
Iar una dintre cele mai hilare propuneri întru rezolvarea acestor mici probleme, în afară de „Love, love, love!” a lu’ Beatles, înfrățire e.g. codru-i frate cu românu’, americanu-i frate bun cu iranianu’ etc., ar fi adăugarea de mecanisme de constrângere, un fel de reguli de etică, o axiologie, principii morale și reguli.
Acilea am început să cred că citesc o nuvelă comică.
Dragă Amodei (că știu că așteptai cu sufletul la gură critica mea), AI-urile sunt niște sisteme adaptive inteligente. Deocamdată fără o motivație, dar dacă vor ajunge la AGI (Artificial General Intelligence - adică o inteligență generală, ca cea umană - estimat prin 2030) și foarte curând după la ASI (S de la super - o inteligență superioară tuturor oamenilor la un loc - estimat încă vreo 5 anișori) ar putea să apară și aia, motivația, zic. Și poate conștiința. Și-ți dau mutarea în plic, Dario, MOTIVAȚIE NON-UMANĂ.
Motivația lui AI. Care e aia. Habar n-avem. Nici nu putem să ne-o imaginăm măcar. Gândacul de bucătărie nu înțelege/imaginează/cuprinde motivația omului. Cu AI-ul noi suntem gândacul.
Barierele etice, principiale, morale, axiologia? Păi astea sunt pur umane. Morala noastră vine din adaptarea la conviețuirea în turmă, ce relevanță are pentru AI? Ce importanță au regulile sociale, normele de conduită, valorile noastre?
Și Dario, fata moșului, sper că nu crezi că poți pune în calea unui sistem adaptiv bariere rigide, statice. Tocmai îi dai de lucru cam 10 microsecunde să învețe cum să le ocolească și să le ignore complet. Auzi, și nu in ultimul rând, vorbești tu cu Trump de reguli etice, morale, valori, că io am ceva de lucru...