{"id":45,"date":"2023-04-18T21:14:16","date_gmt":"2023-04-18T19:14:16","guid":{"rendered":"https:\/\/silviumarcu.ro\/blog\/?p=45"},"modified":"2023-04-22T12:41:19","modified_gmt":"2023-04-22T10:41:19","slug":"evolutia-ia-involutia-umana","status":"publish","type":"post","link":"https:\/\/silviumarcu.ro\/blog\/2023\/04\/18\/evolutia-ia-involutia-umana\/","title":{"rendered":"Evolu\u021bia IA, involu\u021bia uman\u0103?"},"content":{"rendered":"\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-4-3 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Cum m\u0103 preg\u0103tesc pentru era inteligen\u021bei artificiale\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/l6zezbWIpZU?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p><strong>Introducere<\/strong><\/p>\n\n\n\n<p>P\u00e2n\u0103 \u00een noiembrie 2022 exista o zical\u0103: &#8220;De dou\u0103 lucruri nu scap\u0103 nici un om: de taxe \u0219i de moarte\u201d.<\/p>\n\n\n\n<p>\u00cencep\u00e2nd cu noiembrie 2022, de\u0219i cele dou\u0103 lucruri iminente r\u0103m\u00e2n, s-a ad\u0103ugat un a treilea: inteligen\u021ba artificial\u0103.<\/p>\n\n\n\n<p>De ce noiembrie 2022? Pentru c\u0103 \u00een noiembrie 2022, laboratoarele de cercetare OpenAI au lansat un prototip de aplica\u021bie chatbot implementat\u0103 cu inteligen\u021b\u0103 artificial\u0103 numit\u0103 ChatGPT.<\/p>\n\n\n\n<p>\u00cen acest articol voi \u00eencerca s\u0103 explic ce \u00een\u021beleg eu din toat\u0103 furtuna asta \u0219i cum \u00eencerc s\u0103 m\u0103 preg\u0103tesc practic pentru impactul pe care \u00eel va avea aceast\u0103 lighioan\u0103 \u00een via\u021ba noastr\u0103.<\/p>\n\n\n\n<p><strong>Dar s\u0103 \u00eencepem cu \u00eenceputul, Ce e Inteligen\u021ba artificial\u0103 \u0219i \u00een particular ChatGPT?&nbsp;<\/strong><\/p>\n\n\n\n<p>Probabil majoritatea celor care citi\u021bi acest articol deja \u0219ti\u021bi, dar pentru claritate, s\u0103 ne asigur\u0103m c\u0103 \u00een\u021belegem lucrurile la fel, l\u0103sa\u021bi-m\u0103 s\u0103 descriu pe scurt istoria \u0219i tehnologia inteligen\u021bei artificiale din spatele ChatGPT.<\/p>\n\n\n\n<p>\u00cenc\u0103 de la \u00eenceputurile informaticii, oamenii s-au g\u00e2ndit s\u0103 creeze o minte artificial\u0103. Domeniul numit \u201cInteligen\u021ba Artificial\u0103\u201d a ap\u0103rut \u00een 1956 av\u00e2nd \u00een spate o serie de oameni de \u0219tiin\u021b\u0103 din domenii precum matematic\u0103, psihologie, inginerie \u0219i economie.<\/p>\n\n\n\n<p>Descoperirile din acea vreme au ar\u0103tat c\u0103 \u00een creier exist\u0103 neuroni interconecta\u021bi prin semnale electrice. Tot \u00een acea perioad\u0103, Allan Turing a enun\u021bat, prin teoria computa\u021biei, c\u0103 un calculator digital poate implementa orice deduc\u021bie matematic\u0103 \u0219i ra\u021bionament formal.<\/p>\n\n\n\n<p>Se spune c\u0103 acolo unde sunt 3 rom\u00e2ni se formeaz\u0103 2 bisericu\u021be.&nbsp;<\/p>\n\n\n\n<p>Chiar dac\u0103 nu am avut rom\u00e2ni \u00een grupul de cercet\u0103tori ai inteligen\u021bei artificiale, \u00eenc\u0103 de la \u00eenceput s-au conturat dou\u0103 direc\u021bii care propuneau atingerea scopului prin c\u0103i diferite.\u2020<\/p>\n\n\n\n<p><strong>Prima direc\u021bie, &#8220;SYMBOLIC AI&#8221;, este bazat\u0103 pe reprezentarea simbolic\u0103 \u00een inteligen\u021ba artificial\u0103.&nbsp;<\/strong><\/p>\n\n\n\n<p>Viziunea lor se baza pe reprezent\u0103ri simbolice, adic\u0103 &#8211; abstractizarea g\u00e2ndirii si formularea ei \u00een concepte umane, in algoritmi. Pentru a se implementa aceast\u0103 direc\u021bie se foloseau unelte precum programarea logic\u0103, reguli \u0219i re\u021bele semantice.&nbsp;<\/p>\n\n\n\n<p>Aceast\u0103 direc\u021bie a creat ceea ce numim &#8220;sistem expert&#8221;. Dificultatea acestei direc\u021bii a constat \u00een faptul c\u0103 era foarte greu s\u0103 se extrag\u0103 conceptele inteligente din mintea exper\u021bilor \u0219i s\u0103 le transpun\u0103 \u00een reguli matematice. De asemenea, era foarte greu s\u0103 se actualizeze constant informa\u021bia, pentru c\u0103 \u00een cazul acesta vorbim de un sistem \u00eenchis. Cre\u0219terea complexit\u0103\u021bii problemelor \u00eempingea sistemul \u00eentr-o zon\u0103 de imposibilitate computa\u021bional\u0103.<\/p>\n\n\n\n<p><strong>A doua direc\u021bie, &#8220;Connectionist Approach&#8221;<\/strong>, este bazat\u0103 pe conexiuni \u0219i \u00ee\u0219i propune s\u0103 ajung\u0103 la inteligen\u021ba artificial\u0103 prin procesul de \u00eenvatare.&nbsp;<\/p>\n\n\n\n<p>Inspirat\u0103 direct din modelul creierului uman, aceast\u0103 metod\u0103 urm\u0103re\u0219te crearea unui model neuronal similar celui uman, format prin \u00eenv\u0103\u021bare repetat\u0103.&nbsp;<\/p>\n\n\n\n<p>Datorit\u0103 capacit\u0103\u021biilor reduse de calcul ale modelelor destul de simple \u0219i a volumului limitat de date de antrenament, aceast\u0103 direc\u021bie nu a evoluat prea mult \u0219i a fost considerat\u0103 a fi mai pu\u021bin important\u0103 \u00een cadrul inteligen\u021bei artificiale.<\/p>\n\n\n\n<p>Prima direc\u021bie, \u201eSymbolic AI\u201d, a fost favorit\u0103 \u0219i majoritatea cercet\u0103torilor au investit \u00een ea.<\/p>\n\n\n\n<p>Datorit\u0103 rezultatelor slabe, \u00een anii 1970 a ap\u0103rut <strong>\u201eiarna Inteligen\u021bei Artificiale\u201d <\/strong>c\u00e2nd investi\u021biile au sc\u0103zut dramatic \u0219i domeniul a stagnat.<\/p>\n\n\n\n<p>La \u00eenceputul anilor 1980, s-au reluat finan\u021b\u0103rile cercet\u0103rilor \u00een Inteligen\u021ba Artificial\u0103 \u0219i au ap\u0103rut c\u00e2teva succese comerciale ale sistemelor expert. Dar la sf\u00e2r\u0219itul anilor 1980, s-a intrat \u00eentr-o nou\u0103 perioad\u0103 de stagnare, pierz\u00e2ndu-se tot mai mult \u00eencrederea \u00een direc\u021bia \u201eSymbolic AI\u201d.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"621\" src=\"https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai-1024x621.jpg\" alt=\"\" class=\"wp-image-52\" srcset=\"https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai-1024x621.jpg 1024w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai-300x182.jpg 300w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai-768x466.jpg 768w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai-1536x932.jpg 1536w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/history-ai.jpg 1678w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>Direc\u021bia \u201cConectionist\u0103\u201d \u00eencepe s\u0103 devin\u0103 tot mai interesant\u0103 odat\u0103 cu dezvoltarea c\u00e2torva unelte: re\u021bele neuronale, systeme fuzzy, evolutionary computation, transpunerea conceptelor din statistic\u0103 \u0219i optimiz\u0103ri matematice.<\/p>\n\n\n\n<p>La sf\u00e2r\u0219itul anilor 1990 AI \u0219i-a rec\u00e2\u0219tigat constant reputa\u021bia prin implementarea unor solu\u021bii la probleme specifice. Prin limitarea scopului acestora, s-a reu\u0219it ob\u021binerea unor rezultate foarte bune.<\/p>\n\n\n\n<p>Trendul ascendent continu\u0103 rapid \u00een mare m\u0103sur\u0103 datorit\u0103 \u201calinierii a trei planete\u201d:&nbsp;<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>cre\u0219terea puterii de calcul<\/li>\n\n\n\n<li>\u00eembun\u0103t\u0103\u021birea algoritmilor<\/li>\n\n\n\n<li>accesul la un volum mult mai mare de date de antrenament.<\/li>\n<\/ol>\n\n\n\n<p>2015 e vazut ca un an de referin\u021b\u0103 \u00een dezvoltarea AI. Google principalul suporter ajunge s\u0103 sus\u021bin\u0103 peste 2700 de proiecte de AI.<\/p>\n\n\n\n<p>\u00cen 2017 avem 1 din 5 companii care \u00eencorporeaz\u0103 AI \u00een produsele lor (recunoa\u0219terea vorbirii, recunoa\u0219tere de imagini, traducere)<\/p>\n\n\n\n<p><strong>Descriere ChatGPT<\/strong><\/p>\n\n\n\n<p>OpenAI nu inventeaz\u0103 concepte noi \u00een ChatGPT, folose\u0219te \u0219i \u00eembun\u0103t\u0103\u021be\u0219te conceptele existente. Volumul mare de date \u0219i capacitatea crescut\u0103 a re\u021belei neuronale a necesitat de asemenea o putere de calcul urias\u0103. OpenAi nu a dat publicit\u0103\u021bii suma cheltuit\u0103 pe procesarea necesar\u0103 antrenarii re\u021belei neuronale, dar Sam Altman, ceo al Open AI spune c\u0103 acest cost a fost \u201cfoarte mare\u201d.<\/p>\n\n\n\n<p>Pentru antrenarea ChatGPT au fost folosite \u00een mare trei faze:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>\u00cen prima faz\u0103, ChatGPT a fost antrenat pe un set mare \u0219i divers de date textuale, precum articole de pe Wikipedia, c\u0103r\u021bi \u0219i texte din diverse surse online.&nbsp; Dupa aceast\u0103 faz\u0103, re\u021beaua neuronal\u0103 poate genera texte dar nu exist\u0103 coeren\u021b\u0103, textele generate seam\u0103n\u0103 cu cele din care a \u00eenvatat, dar nu exist\u0103 logic\u0103 \u00een ele, sunt generate la \u00eentamplare.<\/li>\n\n\n\n<li>A doua faz\u0103 este supervizat\u0103 de om (Supervised Learning). Supervizorul ofer\u0103 chatGPT ului \u00eentreb\u0103ri \u00eempreun\u0103 cu r\u0103spunsurile valide. Re\u021beaua neuronal\u0103 \u00eenva\u021b\u0103 astfel cum s\u0103 r\u0103spund\u0103 la \u00eentreb\u0103ri.<\/li>\n\n\n\n<li>Faza a treia este o metod\u0103 de \u00eenv\u0103\u021bare prin recompensare numit\u0103 &#8220;reinforcement learning from human feedback&#8221; (RLHF), care implic\u0103 clasificarea \u0219i evaluarea r\u0103spunsurilor generate de model de c\u0103tre utilizatorii umani. Aceste evalu\u0103ri sunt utilizate apoi pentru a calibra modelul \u0219i pentru a \u00eembun\u0103t\u0103\u021bi performan\u021ba sa \u00een a genera r\u0103spunsuri optime.<\/li>\n<\/ol>\n\n\n\n<p>Odat\u0103 antrenat \u0219i trecut prin cele trei faze, ChatGPT e capabil s\u0103 r\u0103spund\u0103 destul de bine la \u00eentreb\u0103ri puse pe chat.<\/p>\n\n\n\n<p>Pe l\u00e2ng\u0103 ChatGPT exist\u0103 aplica\u021bii de inteligen\u021b\u0103 artificial\u0103 \u0219i \u00een alte domenii dec\u00e2t chat: OpenAI a mai lansat \u0219i DALLE-2 un sistem care creeaz\u0103 imagini baz\u00e2ndu-se pe o descriere text.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"476\" height=\"1024\" src=\"https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-476x1024.png\" alt=\"\" class=\"wp-image-53\" srcset=\"https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-476x1024.png 476w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-139x300.png 139w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-768x1654.png 768w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-713x1536.png 713w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2-951x2048.png 951w, https:\/\/silviumarcu.ro\/blog\/wp-content\/uploads\/2023\/04\/chatgpt-learning.drawio-2.png 1488w\" sizes=\"auto, (max-width: 476px) 100vw, 476px\" \/><\/figure>\n\n\n\n<p>Bun, acum \u0219tim despre ce ma\u0219in\u0103rie vorbim, deci haide\u021bi s\u0103 vedem&nbsp; <strong>ce e cu toat\u0103 g\u0103l\u0103gia asta \u00een jurul inteligen\u021bei artificiale?<\/strong><\/p>\n\n\n\n<p>Odat\u0103 cu apari\u021bia noului val de aplica\u021bii AI din 2022, lumea a fost surprins\u0103 de avansul uria\u0219 pe care aceast\u0103 tehnologie a f\u0103cut-o. Parc\u0103 nimeni nu se a\u0219tepta la a\u0219a ceva. Sincer, \u0219i eu am fost uimit.<\/p>\n\n\n\n<p>ChatGPT adun\u0103 5 milioane useri \u00een primele cinci zile de la lansare, o cifr\u0103 record.<\/p>\n\n\n\n<p><strong>Optimi\u0219tii<\/strong> tehnologiei AI afirm\u0103 c\u0103 omenirea va avea beneficii uria\u0219e prin introducerea \u0219i folosirea acestor \u201cunelte\u201d super inteligente:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>cre\u0219terea exponetial\u0103 a productivit\u0103\u021bii<\/li>\n\n\n\n<li>vom putea creea solu\u021bii \u0219i produse noi care vor aduce o super abunden\u021b\u0103<\/li>\n\n\n\n<li>prin folosirea acestor ma\u0219in\u0103rii care pot s\u0103 g\u00e2ndeasc\u0103 mult mai repede ca oamenii, vom putea g\u0103si rezolvarea unor probleme complexe cu care ne confrunt\u0103m: cura pentru cancer<\/li>\n\n\n\n<li>venitul universal &#8211; prin care to\u021bi oamenii vor primi o parte din aceast\u0103 abunden\u021b\u0103, f\u0103r\u0103 s\u0103 fac\u0103 nimic &#8211; sun\u0103 cunoscut nu?<\/li>\n<\/ul>\n\n\n\n<p>Ins\u0103 pe l\u00e2ng\u0103 entuziasmul pe care l-a trezit aceast\u0103 nou\u0103 genera\u021bie de aplica\u021bii AI, o serie de voci avizate \u00eencep s\u0103 caute cu \u00eengrijorareo manet\u0103 de fr\u00e2n\u0103.&nbsp;<\/p>\n\n\n\n<p>\u00ce<strong>ngrijorarea<\/strong> cea mai extrem\u0103 e aceea c\u0103 o astfel de ma\u0219in\u0103rie cu o inteligen\u021b\u0103 superioar\u0103 oric\u0103rui om sau grup de oameni ar putea la un moment dat sc\u0103pa de sub controlul oamenilor \u0219i ar putea lua decizii \u0219i ac\u021biona \u00een direc\u021bii opuse binelui omenirii.<\/p>\n\n\n\n<p>Ca s\u0103 rezolve aceast\u0103 \u00eengrijorare, savan\u021bii AI \u00eencearc\u0103 s\u0103 foloseasc\u0103 conceptul de aliniament \u201cAI ALIGNMENT\u201d. \u00cen aceast\u0103 zona de cercetare, se inten\u021bioneaz\u0103 direc\u021bionarea sistemului AI catre scopurile \u0219i interesele pentru care a fost creeat.<\/p>\n\n\n\n<p>Un sistem AI nealiniat va ajunge s\u0103 aibe obiective care ies de sub cercul inten\u021biilor ini\u021biale, obiective care pot fi nedorite.<\/p>\n\n\n\n<p>O a doua \u00eengrijorare, cumva mai aproape de via\u021ba noastr\u0103 de zi cu zi, este c\u0103 AI ul va \u00eenlocui destul de repede omul \u00een multe activit\u0103\u021bi, altfel spus ne va fura locul de munca.<\/p>\n\n\n\n<p>Dac\u0103 la prima grij\u0103, e destul de greu s\u0103 ne imagin\u0103m scenarii reale imediate, pentru a doua \u00eengrijorare, mintea fiec\u0103ruia din noi ruleaz\u0103 deja scenarii destul de realiste:&nbsp;<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>o aplica\u021bie care face contabilitate f\u0103r\u0103 ajutorul vre-unui om<\/li>\n\n\n\n<li>un traduc\u0103tor automat care \u00een c\u00e2teva secunde face mai bine munca unui om de c\u00e2teva ore<\/li>\n\n\n\n<li>un generator de grafic\u0103 care produce instant logo-uri \u0219i imagini pentru un website<\/li>\n\n\n\n<li>un chat bot care face munca a sute de secretare<\/li>\n\n\n\n<li>un generator de website uri care face totul cap coad\u0103 \u0219i \u00ee\u021bi \u0219i men\u021bine la zi con\u021binutul<\/li>\n<\/ul>\n\n\n\n<p>M\u0103 opresc aici dar lista poate continua ore \u00een \u0219ir.<\/p>\n\n\n\n<p>La aceast\u0103 a doua \u00eengrijorare, propunerea oamenilor de \u0219tiin\u021b\u0103 e s\u0103 se \u00eencerce o lansare a acestor tehnologii destul de lent \u00een timp, astfel \u00eenc\u00e2t societatea s\u0103 aibe timp s\u0103 se pregateasc\u0103 \u0219i atenueze socul.<\/p>\n\n\n\n<p>Am putea spune c\u0103 tot timpul au fost c\u00e2rcota\u0219i care au v\u0103zut problemele mai mari dec\u00e2t beneficiile \u0219i c\u0103 de fapt nu vom avea nici o problem\u0103 c\u00e2nd AI ul va prelua controlul.<\/p>\n\n\n\n<p><strong>Dar oare ce spun cei care sunt implica\u021bi direct \u00een producerea AI ului?<\/strong><\/p>\n\n\n\n<p>Am urm\u0103rit interviuri cu unii din cei mai importan\u021bi oameni in AI &#8211; <a href=\"https:\/\/youtu.be\/L_Guz73e6fw?t=4617\">Sam Altman<\/a> CEO OpenAI, <a href=\"https:\/\/www.youtube.com\/watch?v=qpoRO378qRY\">Geoffrey Hinton<\/a> godfather of AI.<\/p>\n\n\n\n<p>Chiar \u0219i ei recunosc deschis c\u0103 exist\u0103 riscul de a sc\u0103pa de sub control aceast\u0103 tehnologie.<\/p>\n\n\n\n<p>\u00cen plus, peste 1000 de oameni de \u0219tiin\u021b\u0103 \u0219i lideri \u00een tehnologie printre care \u0219i celebrul Elon Musk au semnat <a href=\"https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\">o scrisoare deschis\u0103<\/a> pentru a cere o pauz\u0103 \u00een dezvoltarea tehnologiei AI p\u00e2n\u0103 ne asigur\u0103m c\u0103 avem pregatite mecanismele de verificare \u0219i control pentru aceast\u0103 tehnologie.<\/p>\n\n\n\n<p>Scrisoarea sublinieaz\u0103 ceea ce \u0219i Sam Altman si ceilalti creatori ai tehnologiei recunosc, faptul c\u0103 \u00een momentul de fa\u021b\u0103 nu putem spune exact ce se \u00eent\u00e2mpl\u0103 \u00een acest creier electronic, \u0219i mai mult, nu avem mecanisme de monitorizare, control \u0219i validare care ne pot ajuta \u00een \u00een\u021belegerea lui \u0219i previziunea unei direc\u021bii gre\u0219ite. Ca \u0219i cum am construi un reactor nuclear dar nu avem un mecanism de oprire \u00een cazul \u00een care reactorul s-ar supra\u00eenc\u0103lzii.<\/p>\n\n\n\n<p>Iat\u0103 cum \u00eencepe scrisoarea deschis\u0103:<\/p>\n\n\n\n<p>\u201cSistemele de inteligen\u021b\u0103 artificial\u0103 cu o inteligen\u021b\u0103 comparabil\u0103 cu cea uman\u0103 pot prezenta riscuri profunde pentru societate \u0219i umanitate, a\u0219a cum arat\u0103 cercet\u0103ri extinse \u0219i recunoscute de laboratoarele de top de inteligen\u021b\u0103 artificial\u0103. A\u0219a cum este afirmat \u00een Principiile Asilomar AI, larg acceptate, AI-ul avansat ar putea reprezenta o schimbare profund\u0103 \u00een istoria vie\u021bii pe P\u0103m\u00e2nt \u0219i ar trebui planificat \u0219i gestionat cu grij\u0103 \u0219i cu resurse adecvate. Din nefericire, acest nivel de planificare \u0219i gestionare nu are loc, chiar dac\u0103 \u00een ultimele luni laboratoarele de AI sunt angrenate \u00eentr-o curs\u0103 incontrolabil\u0103 pentru dezvoltarea \u0219i implementarea min\u021bilor digitale din ce \u00een ce mai puternice, pe care nimeni &#8211; nici m\u0103car creatorii lor &#8211; nu le pot \u00een\u021belege, prezice sau controla \u00eentr-un mod sigur.\u201d<\/p>\n\n\n\n<p><strong>P\u0103rerea mea<\/strong> e c\u0103 acest gen de schimb\u0103ri \u0219i evolu\u021bii tehnologice nu pot fi oprite. Cutia Pandorei a fost deschis\u0103. V\u0103d \u0219i beneficiile dar \u0219i pericolele, \u0219i \u00een consecin\u021b\u0103 \u00eencerc s\u0103 \u00eemi r\u0103spund la \u00eentreb\u0103rile: Care o s\u0103 fie impactul \u00een cariera mea? \u0219i cum pot s\u0103 m\u0103 pregatesc mai bine?<\/p>\n\n\n\n<p><strong>Care poate s\u0103 fie impactul inteligen\u021bei artificiale \u00een cariera mea de programator?<\/strong><\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>O s\u0103 mai pot s\u0103 \u00eemi c\u00e2\u0219tig p\u00e2inea lucr\u00e2nd ca \u0219i p\u00e2n\u0103 acum?<\/li>\n<\/ol>\n\n\n\n<p><strong>Pe termen scurt DA<\/strong>: pentru o perioada de 1-2 ani nu vad posibil sa avem schimb\u0103ri majore \u00een pia\u021ba de munc\u0103. O s\u0103 ia ceva timp p\u00e2n\u0103 aplica\u021biile de AI vor fi complet func\u021bionale \u0219i adoptate de firme.<\/p>\n\n\n\n<p><strong>Pe termen lung depinde<\/strong> foarte mult de domeniul \u00een care lucr\u0103m. Pentru IT, domeniul \u00een care lucrez eu, cred c\u0103 \u00een continuare va fi nevoie de programatori, dar condi\u021biile de lucru \u0219i skillsurile necesare vor evolua.&nbsp;<\/p>\n\n\n\n<p>Vom vedea imediat \u0219i c\u00e2teva direc\u021bii practice prin care noi programatorii putem s\u0103 ne pregatim pentru aceast\u0103 evolu\u021bie.<\/p>\n\n\n\n<ol class=\"wp-block-list\" start=\"2\">\n<li>Cum o s\u0103 evolueze salariile?<\/li>\n<\/ol>\n\n\n\n<p><strong>Pe termen scurt se vor men\u021bine la acela\u0219i nivel<\/strong>: Cred c\u0103 pentru o perioad\u0103 de 1 an pozi\u021biile actuale vor fi men\u021binute, pentru c\u0103 tehnologia nu va fi adoptat\u0103 complet de firme.<\/p>\n\n\n\n<p><strong>Pe termen lung vor sc\u0103dea: <\/strong>Companiile \u00eencep deja s\u0103 tatoneze acest teren, \u00eencep s\u0103 se instruiasc\u0103 \u00een folosirea toolurilor AI, \u0219i e destul de probabil ca balansul for\u021bei de munc\u0103 s\u0103 fie schimbat. Asta poate \u00eensemna c\u0103 firma are nevoie de mai pu\u021bini angaja\u021bi, care vor produce mai mult. De aici rezult\u0103 mai mul\u021bi oameni care caut\u0103 de lucru, pe mai pu\u021bine pozi\u021bii disponibile, deci salariile vor sc\u0103dea.&nbsp;<\/p>\n\n\n\n<p>O alt\u0103 posibilitate ar fi, ca firmele s\u0103 men\u021bin\u0103 to\u021bi angaja\u021bii, dar productivitatea s\u0103 creasc\u0103 semnificativ, asta ar \u00eensemna c\u0103 software-ul se produce mult mai u\u0219or \u0219i mai repede, deci pre\u021bul software-ului va sc\u0103dea \u0219i \u00een consecin\u021b\u0103 \u0219i salariile se vor alinia.<\/p>\n\n\n\n<ol class=\"wp-block-list\" start=\"3\">\n<li>Care sunt schimb\u0103rile pe care ar trebui s\u0103 le fac pentru a nu fi impactat negativ de AI sau chiar s\u0103 beneficiez de aceast\u0103 tehnologie?<\/li>\n<\/ol>\n\n\n\n<p>Spunea cineva c\u0103 AI ul nu \u00eemi va lua job-ul, dar un alt programator care folose\u0219te AI e foarte posibil s\u0103 mi-l ia.<\/p>\n\n\n\n<p>\u00cemi este destul de clar c\u0103 \u00een viitor un programator bun, ca s\u0103 fie competitiv, va trebui s\u0103 livreze cu ajutorul AI ului produsul mult mai repede \u0219i s\u0103 aibe calitate mai bun\u0103. Dac\u0103 nu reu\u0219esc s\u0103 \u021bin pasul cu aceast\u0103 accelerare, voi r\u0103m\u00e2ne \u00een urm\u0103.<\/p>\n\n\n\n<p>A\u0219a cum odat\u0103 cu industrializarea, un agricultor care folosea un tractor producea de zeci de ori mai mult dec\u00e2t dac\u0103 s\u0103pa manual pamantul, tot a\u0219a programatorul care \u021bine \u00een m\u00e2n\u0103 volanul AI ului va produce mult mai mult.<\/p>\n\n\n\n<p>Lucrurile care p\u00e2n\u0103 acum \u021bineau de \u2018cur\u0103\u021benia superficial\u0103\u2019 a codului, format\u0103ri, organizare, expresivitate, vor fi instant rezolvate de plugin-uri de AI f\u0103r\u0103 s\u0103 trebuiasc\u0103 s\u0103 m\u0103 ocup explicit eu de ele. E important s\u0103 cunosc aceste principii, s\u0103 le validez c\u0103 sunt facute bine de AI, dar nu voi mai pierde timp s\u0103 le corectez eu.<\/p>\n\n\n\n<p>AI ul poate chiar s\u0103 genereze buc\u0103\u021bi de cod, algoritmi, lucruri specifice pe care i le cerem.<\/p>\n\n\n\n<p>Ce mai r\u0103m\u00e2ne atunci pentru noi? P\u0103i viziunea general\u0103, direc\u021bia pe care mergem cu construirea produsului, decizia a c\u00e2t de mult s\u0103 investim \u00een X sau \u00een Y, decizii de arhitectur\u0103.<\/p>\n\n\n\n<p>Programatorul va fi un fel de magician care are \u00een gestiune toolurile care produc toate buc\u0103\u021bile unui mare puzzle pe care le va asambla \u00een final.<\/p>\n\n\n\n<p><strong>Practic, eu v\u0103d 5 direc\u021bii care ne pot ajuta s\u0103 st\u0103m competitivi \u00een era AI:<\/strong><\/p>\n\n\n\n<p><strong>Direc\u021bia 1<\/strong> &#8211; familiarizarea cu toolurile de AI. Trecerea de la sap\u0103 la tractor necesit\u0103 cunoa\u0219terea foarte bun\u0103 a tractorului.<\/p>\n\n\n\n<p><strong>Direc\u021bia 2<\/strong> &#8211; continu\u0103 s\u0103 i\u021bi cre\u0219ti expertiza \u00een software development: principii, clean code, clean architecture, microservicii &#8211; p\u00e2n\u0103 la urm\u0103 tu va trebui s\u0103 fi la volanul acestei ma\u0219in\u0103rii care produce ce ii ceri, \u0219i va trebui s\u0103 \u0219ti bine calea cea mai bun\u0103.<\/p>\n\n\n\n<p><strong>Direc\u021bia 3<\/strong> &#8211; investe\u0219te tot mai mult \u00een in\u021belegerea domeniului \u00een care lucrezi (finan\u021be, ecommerce, marketing). Cu c\u00e2t ai o viziune de ansamblu mai puternic\u0103, cu at\u00e2t po\u021bi s\u0103 vi cu idei mai bune \u0219i inovatoare care vor direc\u021biona produsul la care lucrezi. Contribu\u021bia programatorului se va m\u0103ri \u00een zona asta.<\/p>\n\n\n\n<p><strong>Direc\u021bia 4 <\/strong>&#8211; eficien\u021ba personal\u0103. Pentru c\u0103 lucrurile vor fi mult accelereate, orice deviere de la eficien\u021b\u0103 va avea un impact mai amplificat.<\/p>\n\n\n\n<p>Atunci c\u00e2nd software-ul se produce greu si ia timp, po\u021bi explica \u00eent\u00e2rzieri sau te po\u021bi \u00eencadra \u00een termenii de livrare chiar \u0219i dac\u0103 mai stai un pic pe facebook, un pic mai mult la cafea. Sau dac\u0103 nu ai chef s\u0103 mai \u00eenve\u021bi ceva nou nu e o problem\u0103, las\u0103 c\u0103 \u0219i m\u00e2ine e o zi. \u00cenv\u0103t spring \u00eencep\u00e2nd de sapt\u0103m\u00e2na viitoare.<\/p>\n\n\n\n<p>\u00cen era AI, astfel de del\u0103s\u0103ri, de mici neseriozit\u0103\u021bi, vor avea un impact mult mai mare \u0219i mai vizibil. Un \u0219ofer atent cu timpul \u0219i disciplinat cu programul lui, va ajunge mult mai repede la destina\u021bie dec\u00e2t unul indisciplinat \u0219i del\u0103s\u0103tor.<\/p>\n\n\n\n<p>Aici contrabalansul pe care \u00eel pot aduce e disciplina \u0219i seriozitatea. Aloc\u0103-\u021bi timp specific pentru dezvoltare \u0219i \u021bine-te de program.<\/p>\n\n\n\n<p><strong>Direc\u021bia 5<\/strong> &#8211; l\u0103rge\u0219te-\u021bi orizontul de g\u00e2ndire. Cite\u0219te c\u0103r\u021bi de filozofie, istorie, religie. \u00cen\u021belege ce se \u00eent\u00e2mpl\u0103 dincolo de superficialitatea pe care o \u00eent\u00e2lnim zilnic. \u00cen\u021belege marile \u00eentreb\u0103ri ale omenirii \u0219i \u00eencearc\u0103 s\u0103 cau\u021bi tu personal r\u0103spunsuri.<\/p>\n\n\n\n<p>Din toate direc\u021biile pe care le-am spus p\u00e2n\u0103 acum pare c\u0103 se profileaz\u0103 o transformare a programatorului de la un nivel low level \u00een care se g\u00e2ndea \u00een detaliu la fiecare linie de cod, c\u0103tre un nivel mai superior, un fel de avansare \u00een grad sau am putea spune \u00een grade, pentru c\u0103 \u00ee\u0219i va asuma \u0219i responsabilit\u0103\u021bi care p\u00e2n\u0103 acum erau ale arhitectului, project managerului, business analistului.<\/p>\n\n\n\n<p>\u0218i atunci m\u0103 \u00eentreb, la ce bun s\u0103 mai \u00eenve\u021be programatorul toate detaliile de low level? de ce s\u0103 mai \u00eenve\u021be despre clean code, despre clean architecture, despre multithreading?<\/p>\n\n\n\n<p>Trendul acesta este deja vizibil \u0219i \u00een prezent. V\u0103d tot mai pu\u021bini programatori care \u0219tiu cum func\u021bioneaz\u0103 un procesor, un sistem de operare, un proces, un thread. Ei \u0219tiu a\u0219a teoretic c\u00e2teva idei despre toate astea, dar c\u00e2nd apare o problem\u0103 complex\u0103, programatorul lipsit de o \u00een\u021belegere a mecanismelor de func\u021bionare este complet blocat, \u00eencearc\u0103 fixuri random \u00een speran\u021ba c\u0103 p\u00e2n\u0103 la urm\u0103 va apare o rezolvare a problemei.<\/p>\n\n\n\n<p><strong>\u00cenainte de \u00eencheiere, a\u0219 vrea s\u0103 v\u0103 mai las o idee la care s\u0103 v\u0103 g\u00e2ndi\u021bi, una din zona filozofiei.<\/strong><\/p>\n\n\n\n<p>Cea mai mare \u00eengrijorare pe care o am eu personal \u00een privin\u021ba AI-ului nu e nici c\u0103 ne va extermina pe noi oamenii, nici c\u0103 \u00eemi va lua locul de munc\u0103, nici c\u0103 boga\u021bia va ajunge \u00een m\u00e2inile celor care controleaza AI-ul.<\/p>\n\n\n\n<p>\u00cengrijorarea mea cea mai mare e ca odat\u0103 creat acest creier super inteligent, noi oamenii ne vom pune \u00een cui mintea \u0219i voin\u021ba. Ne vom duce la el ca la Oracolul Din Delfi, pentru a afla r\u0103spuns la toate \u00eentreb\u0103rile pe care le avem, \u0219i astfel vom \u00eenceta s\u0103 mai c\u0103ut\u0103m noi \u00een\u0219ine r\u0103spunsurile.<\/p>\n\n\n\n<p>Anii recen\u021bi \u00eemi accentueaz\u0103 aceast\u0103 \u00eengrijorare. Dac\u0103 ne amintim, tocmai am v\u0103zut c\u00e2t de u\u0219or l\u0103s\u0103m la o parte ra\u021bionamentul individual c\u00e2nd ni se spunea c\u0103 a\u0219a au decis \u2018expertii\u2019. \u0218i ei \u0219tiu cel mai bine, nu mai g\u00e2ndi tu pentru tine, tu nu \u0219ti ce e mai bine pentru to\u021bi.<\/p>\n\n\n\n<p>Ce suprapunere ironic\u0103, ast\u0103zi ni se spune c\u0103 \u2018expertii\u2019 umani \u0219tiu ce e cel mai bine pentru to\u021bi oamenii. \u00cen viitor \u2018sistemele expert\u2019 vor \u0219ti ce e cel mai bine pentru to\u021bi oamenii.&nbsp;<\/p>\n\n\n\n<p>\u0218i aici cred ca e posibil s\u0103 asistam la sf\u00e2r\u0219itul omenirii care g\u00e2nde\u0219te.<\/p>\n\n\n\n<p>Te rog las\u0103-mi un comentariu dac\u0103 vezi diferit lucrurile \u0219i poate \u00eemi spui \u0219i c\u00e2teva sugestii, cum vezi tu c\u0103 ne putem preg\u0103ti mai bine pentru era AI.<\/p>\n\n\n\n<p><strong>Referin\u021be<\/strong><\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>interviu Geoffrey Hinton &#8211; <a href=\"https:\/\/www.youtube.com\/watch?v=qpoRO378qRY\">link<\/a><\/li>\n\n\n\n<li>interviu Sam Altman: <a href=\"https:\/\/youtu.be\/L_Guz73e6fw?t=4617\">link<\/a><\/li>\n\n\n\n<li>interviu Eliezer Yudkowsky: <a href=\"https:\/\/www.youtube.com\/watch?v=AaTRHFaaPG8\">link<\/a><\/li>\n\n\n\n<li>interviu Max Tegmark: <a href=\"https:\/\/youtu.be\/VcVfceTsD0A\">link<\/a><\/li>\n\n\n\n<li>Open Letter to pause AI development: <a href=\"https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments \">https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments <\/a><\/li>\n\n\n\n<li>Transformers Architecture &#8211;&nbsp; <a href=\"https:\/\/www.cs.princeton.edu\/~smalladi\/blog\/2020\/12\/30\/Transformer-Architecture\/\">https:\/\/www.cs.princeton.edu\/~smalladi\/blog\/2020\/12\/30\/Transformer-Architecture\/<\/a><\/li>\n\n\n\n<li>Illustrated Transformers &#8211; <a href=\"http:\/\/jalammar.github.io\/illustrated-transformer\/\">http:\/\/jalammar.github.io\/illustrated-transformer\/<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"<p>Introducere P\u00e2n\u0103 \u00een noiembrie 2022 exista o zical\u0103: &#8220;De dou\u0103 lucruri nu scap\u0103 nici un om: de taxe \u0219i de moarte\u201d. \u00cencep\u00e2nd cu noiembrie 2022, de\u0219i cele dou\u0103 lucruri iminente r\u0103m\u00e2n, s-a ad\u0103ugat un a treilea: inteligen\u021ba artificial\u0103. De ce noiembrie 2022? Pentru c\u0103 \u00een noiembrie 2022, laboratoarele de cercetare OpenAI au lansat un prototip&#8230;<\/p>\n","protected":false},"author":1,"featured_media":63,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[19,12],"tags":[],"class_list":["post-45","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligenta-artificiala","category-programare"],"_links":{"self":[{"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/posts\/45","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/comments?post=45"}],"version-history":[{"count":0,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/posts\/45\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/media\/63"}],"wp:attachment":[{"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/media?parent=45"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/categories?post=45"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/silviumarcu.ro\/blog\/wp-json\/wp\/v2\/tags?post=45"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}