Născută în Ploiești, formată la Politehnica din București și
ajunsă din 2011 profesoară la Columbia
University, Roxana Geambașu e una dintre cele mai respectate voci în
securitatea datelor și arhitectura confidențialității. Lucrează
cu Google și Meta, iar proiectele ei au fost adoptate de giganții
tech și influențează modul în care miliarde de oameni sunt
protejați online. Nu întâmplător, americanii au inclus-o în topul primilor 10 savanți în 2014.
Roxana Geambașu în campusul Universității Columbia. FOTOGRAFII: Arhivă personală R. G.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Într-un interviu pentru „Adevărul“, Roxana Geambașu vorbește despre cum a trecut de la
olimpiadele de Matematică din România la doctorat în SUA, despre
proiectul Vanish – sistemul de date
autodistructive care a atras atenția lumii întregi, despre ce a
descoperit monitorizând felul în care Google folosea e-mailurile
utilizatorilor pentru publicitate și despre faptul
că, în 2026, cel mai mare risc pe internet nu este
supravegherea, ci dezinformarea amplificată de AI. Românca
povestește și despre viața dincolo de carieră:
alergatul prin parcurile din Manhattan ca
pe niște autostrăzi și buncărul de
cărți ascuns sub Bryant Park, lucruri
care îi amintesc, după ore întregi de coduri și cercetare, că
lumea funcționează pe mai multe niveluri decât se vede la
suprafață.
Adevărul: Sunteți printre cele mai apreciate voci în securitatea datelor și arhitectura confidențialității, iar americanii v-au inclus în topul savanților geniali. Cum a fost parcursul dumneavoastră academic și când ați
descoperit pasiunea pentru științele exacte?
Roxana Geambașu:
În școală mi-au plăcut foarte mult matematica, biologia,
limbile străine – mai ales engleza – și informatica. La
materiile astea au contat enorm profesorii. În generală am avut o
profesoară de matematică, doamna Cârnici, foarte bună – dură,
dar clară și inspirantă. Învățam și pentru că îmi plăcea de
ea: era sigură pe ea, foarte inteligentă, și îmi doream să fiu
și eu așa. Apoi au venit și primele rezultate la olimpiade, care
m-au motivat și mai mult. În liceu am
fost la clasă de informatică, deci făceam multă programare. Îmi
plăcea și eram bună, dar la matematică simțeam că venea mai
natural. Am avut și în liceu un profesor de matematică
foarte bun, domnul Apostolescu, care m-a pregătit și m-a susținut
mult. Biologia mi se părea fascinantă – aveam senzația că
descopăr mereu ceva nou –, iar pentru limbile străine am avut
mereu o înclinație.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Roxana Geambașu la o vârstăn fragedă
Când a început să se contureze dorința de a
merge la Politehnică?
Decizia pentru Politehnică nu a fost deloc clară de la început.
M-am hotărât abia pe la mijlocul clasei a XII-a. Părinții mei
făcuseră și ei Politehnica, iar fratele meu era deja la
Calculatoare, deci probabil că m-au influențat. Dar eu oscilam: mă
pregăteam și pentru ASE (Cibernetică), mă gândeam la Matematică
la Universitate, iar până prin clasa a XI-a luasem în calcul și
Medicina, pentru că îmi plăcea biologia.
Sincer, la vârsta aceea nu înțelegeam foarte bine
diferențele dintre inginerie, matematică pură sau informatică
aplicată în economie. Medicina era clar altceva, dar nu cred că mă
vedeam cu adevărat cu bisturiul în mână. În final, cred că
decizia a fost mai degrabă pragmatică decât profund vocațională:
Politehnica accepta fără concurs elevii care obținuseră premii la
olimpiadele naționale, iar eu luasem premiul III la matematică în
clasa a XI-a. Universitatea și ASE nu ofereau această variantă.
A fost o alegere care s-a dovedit foarte potrivită, pentru că
apoi am început să înțeleg tot mai bine domeniul și să dezvolt
o pasiune reală pentru ingineria calculatoarelor.
Cred că povestea asta arată două lucruri: cât de mult pot
influența profesorii parcursul unui copil și faptul că alegerile
importante nu sunt întotdeauna rezultatul unor calcule foarte
sofisticate – uneori sunt mai simple și mai arbitrare decât ne
imaginăm.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
De la „Leu“ la Washington
Ați fost șefă de promoție la Politehnica din București în
2005. Privind în urmă, ce ați învățat la Politehnică și v-a
fost cel mai util mai târziu în cariera din SUA?
Cred că cel mai important lucru pe care l-am învățat în
facultate a fost munca susținută. Politehnica mi-a oferit, desigur,
o bază solidă de concepte și multă încredere că pot rezolva
probleme complexe și pot construi sisteme serioase. Dar, dincolo de
teorie, m-a învățat să muncesc mult și constant.
Îmi amintesc mai ales cursurile de sisteme de operare, foarte
intense, cu multe teme. Făceam nu doar cerințele obligatorii, ci și
părțile opționale. De exemplu, era obligatoriu să modificăm
diverse componente în Linux, iar varianta pentru Windows era
opțională – eu le făceam pe amândouă. Era fascinant să văd
diferențele. Nu știu exact de ce făceam mereu „mai mult“,
probabil era un amestec de interes, dorința de a lua note bune și
satisfacția că învăț lucruri pe care nu le știe toată lumea.
M-a motivat mereu ideea de a avea niște abilități speciale,
câștigate prin efort. Când am ajuns la
University of Washington pentru doctorat, eram deja obișnuită să
construiesc lucruri și să nu mă sperii de complexitate. La
început, în întâlniri, aproape că nu vorbeam – nu eram
obișnuită nici cu limba, nici cu stilul lor foarte liber de
brainstorming. După câteva săptămâni în care i-am ascultat,
m-am apucat pur și simplu să implementez în cod ce discutau ei. La
următoarea întâlnire, le-am făcut un
demo. Am aflat mai târziu că i-a impresionat mult și că atunci au
decis să investească serios în mine. Din acel moment am început
să lucrăm foarte strâns. Cred că acei
ani de muncă intensă la Politehnică – și obiceiul de a face
lucrurile temeinic, fără ocolișuri sau trișare – au avut un
impact enorm asupra parcursului meu și asupra oportunităților pe
care le-am avut ulterior.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Roxana Geambașu la Seattle (2005)
De ce ați ales University of Washington pentru doctorat?
Când m-am hotărât să merg în SUA
pentru doctorat, am trimis aplicații la mai multe universități și
am fost acceptată la câteva. Am avut apoi telefoane de recrutare cu
echipele de acolo. De fiecare dată mă întrebau ce vreau să fac și
unde mai am oferte. Eu spuneam că mă interesează sistemele
distribuite și că am fost admisă și la University of Washington.
Reacția aproape unanimă era: „Ah, grupul de sisteme distribuite
de la Washington e foarte puternic“. Eu mi-am zis că oamenii ăștia
știu ei ce știu, așa că am ales University of Washington.
Cum a fost adaptarea la sistemul
academic american?
Adaptarea a fost intensă la început, dar surprinzător de naturală
după primele săptămâni. În primele întâlniri eram foarte
timidă, nu scoteam un cuvânt. Ritmul discuțiilor era rapid, ideile
circulau liber, iar eu simțeam că nu țin pasul. Engleza o știam
bine în scris – îmi scrisesem chiar și lucrarea de diplomă în
engleză –, dar nu o exersasem deloc
verbal. În România eram obișnuită mai mult cu ascultatul cursului
și luatul de notițe, nu cu dezbateri, brainstorming sau
contrazicerea profesorilor. Așa că,
la început, am stat mai mult și am
ascultat. Încet, încet mi-am găsit
vocea, mai ales după ce am văzut că ideile și munca mea sunt
apreciate.
Diferențele dintre educația americană și cea din România
Care vi se par cele mai mari diferențe dintre sistemul academic
din România și cel din SUA?
Cred că una dintre marile diferențe dintre sistemele academice este
tocmai această cultură a dezbaterii și a inițiativei. În SUA
ești încurajat să îți spui opinia, chiar dacă nu e perfect
formulată sau nu esti sigur că e corectă, și să construiești
idei împreună cu ceilalți. Asta mi-a schimbat mult modul de a
lucra și de a gândi.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Ați lucrat cu nume mari din domeniu, precum Hank Levy şi Steve
Gribble. Cum v-au influențat acești mentori felul în care faceți
cercetare?
Am avut trei coordonatori principali: Hank Levy, Steve Gribble și
Yoshi Kohno. Hank și Steve veneau din zona sistemelor, iar Yoshi din
securitate. Am învățat enorm de la ei și, sincer, le datorez în
mare parte felul în care gândesc astăzi cercetarea.
M-au învățat ce înseamnă rigoarea: o idee, oricât de
frumoasă, valorează zero dacă nu o validezi temeinic. Partea grea
nu este să ai o ipoteză, ci să o testezi
serios, să o împingi până la limită, să vezi unde crapă. Acolo
e, de fapt, munca adevărată. În același
timp, m-au învățat să nu-mi fie teamă de idei ambițioase și să
nu mă descurajez la primul „nu se poate, pentru că…“. Sau la
următoarele 50. Dacă o idee chiar merită urmărită, aproape sigur
vor exista multe motive pentru care pare imposibilă. Dacă nu ar fi
obstacolele, probabil ar fi realizat-o deja altcineva. Nu le ignori,
ci le iei pe rând și le ataci sistematic.
Desigur, trebuie să știi și când să te oprești. Există
un echilibru fin între perseverență și încăpățânare oarbă,
pe care îl înveți în timp, iar coordonatorii mei mi-au
oferit și exemple de proiecte pe care le-au
închis, recunoscând că nu au mers. Poate
cea mai importantă lecție a fost că, în cercetare, încerci să
faci lucruri pe care nimeni nu știe să le facă. Iar ca să reziști
acolo, trebuie să lucrezi la probleme care chiar „te
dor“, care te enervează, lucruri care ți se par profund greșite.
Doar acelea îți dau energia să mergi mai departe când lucrurile
nu ies.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
„A fost o lecție importantă despre diferența dintre a face cercetare și a o preda“
Cum a fost tranziția de la doctorand la profesor la o
universitate din Ivy League?
A fost foarte bruscă (zâmbește). Mi-am depus teza pe la
mijlocul lui august la University of Washington, iar la început de
septembrie predam deja primul curs la Columbia. Nici nu aveam încă
diploma oficială când am intrat la clasă – am fost numită
temporar „instructor“ până au sosit actele și am devenit
oficial profesor asistent. Schimbarea a
fost uriașă. Am trecut de la un laborator plin de colegi, unde
discutam continuu idei și ne ajutam unii pe alții, la un birou gol
și la responsabilitatea de a preda și de a coordona propriii mei
studenți. Doctoratul te pregătește foarte bine pentru cercetare,
dar mult mai puțin pentru predare și mentorat – iar ca profesor
trebuie să le faci pe toate trei.
Cum ați văzut, ca profesor, noua generație
de studenți?
La clasă am avut un mic șoc când mi-am dat seama că studenții nu
făceau clar diferența între concepte bine stabilite și idei noi,
încă în dezbatere. Eu vorbisem până atunci doar cu cercetători,
pentru care această distincție e implicită. În cercetare există
un fel de „test al timpului“: ideile noi sunt privite cu reținere
până sunt validate. Studenților însă nu le era clar unde se
termină manualul și unde începe frontiera. Când am realizat
confuzia, am luat-o de la capăt și am explicat ce e consolidat și
ce e încă discutabil. Studenții au fost foarte înțelegători și
chiar m-au încurajat să continui; și-au dat seama că stăpâneam
tehnologiile, doar că încă învățam cum să le predau. A fost o
lecție importantă despre diferența dintre a face cercetare și a o
preda. La cercetare mă simțeam în largul
meu. În primul semestru lucram la un sistem de securizare a datelor
pe Android și „hackuiam“ liniștită, ca în doctorat. În al
doilea semestru au venit primii mei studenți. Credeam că sunt
pregătită, dar am simțit pentru prima dată greutatea
responsabilității: nu mai era vorba doar despre munca mea, ci și
despre viitorul lor. Țin minte un articol la care am lucrat atunci
și la care am plâns din cauza presiunii – nu eram sigură că îl
vom termina la timp sau că va fi acceptat, iar decizia de când și
cum trimitem articolul era a mea. Ca doctorand, responsabilitatea
finală era a coordonatorilor, acum era a
mea. Cu timpul înveți să gestionezi
presiunea și incertitudinea, dar începutul a fost intens. A fost o
tranziție abruptă, dar care m-a făcut să cresc foarte repede.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Bătălia pentru datele personale
În doctorat ați studiat cum își pot recăpăta utilizatorii
controlul asupra datelor lor. Care era problema pe care încercați
să o rezolvați?
Perioada în care mi-am făcut doctoratul,
a doua jumătate a anilor 2000, a fost un
moment de schimbare tehnologică semnificativă. Webul se
stabilizase, explodau rețelele sociale si aplicațiile
mobile, începea cloud computingul, iar datele personale migrau rapid
de pe calculatoarele noastre către servicii online. Problema era că
acele servicii nu ofereau aproape nicio garanție: nu știai exact ce
fac cu datele tale, cât timp le păstrează sau dacă le poți
șterge cu adevărat. Nu exista GDPR, nu existau sistemele solide de
permisiuni de pe mobile pe care le avem azi, nu existau barierele
legale legate de vânzarea datelor personale. Practic, tehnologia
evoluase mai repede decât protecția utilizatorilor.
Practic, teza mea a pornit din ideea
că pierderea controlului asupra datelor devenise o problemă reală
și nouă. M-am întrebat dacă utilizatorul poate recâștiga măcar
o parte din control, chiar și atunci când serviciile online nu sunt
cooperante. Ce am propus, pe scurt, au fost
mecanisme tehnice – în mare parte bazate pe criptare – prin care
utilizatorul să își poată impune propriile reguli. De exemplu, un
sistem prin care datele se „autodistrug“ prin distrugerea cheii
de criptare, sau un sistem de audit în care accesarea neautorizată
declanșa un fel de „alarmă“ criptografică. Nu era vorba doar
de recuperarea datelor după un atac, ci de a schimba raportul de
putere: chiar dacă îți pui datele în cloud, să nu le pierzi
complet controlul.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Între academis și colaborarea cu giganții tech
Ați
colaborat cu Google, Meta și Microsoft și încă o mai faceți. Cum
împăcați libertatea academică de a critica industria cu
colaborările cu marile companii tech?
E o întrebare foarte importantă. Când studiam Gmail cu
XRay, aveam în paralel un proiect complet separat finanțat de
Google – un sistem distribuit de publish-subscribe, fără nicio
legătură cu cercetarea mea în confidențialitate. Proiectele erau
distincte, cu obiective și echipe de studenti diferite. Faptul că
existau colaborări industriale nu a influențat ce investigam în
mod independent. Acum, în anul meu sabatic
de la Columbia, continui proiectele academice de la Columbia –
unele în colaborare cu Meta și Mozilla pe standardul Attribution –
iar în paralel lucrez la Google pe securitatea agenților AI. Ca
profesor, este normal să ai finanțări din surse diverse și
parteneriate cu industria. De fapt, interacțiunea cu parteneri
industriali este esențială dacă vrei să ai impact real. Important
este să separi clar proiectele și să îți folosești constant
busola etică și procesele științifice riguroase, astfel încât
parteneriatele să nu influențeze concluziile la care ajungi.
Realist vorbind, nimeni nu este complet imun la biasuri.
Tocmai de aceea transparența este esențială. Declar toate
colaborările și potențialele conflicte de interese, astfel încât
ceilalți – fie partenerii industriali, fie colegi din comunitatea
științifică, fie publicul larg – să poată evalua singuri
contextul în care vin propunerile sau concluziile mele.
Pentru mine, cheia este această combinație: separare clară
a proiectelor, rigoare profesională și transparență totală.
Roxana Geambașu la curs în fața studenților
Ați fost inclusă de „Popular
Science“ în topul celor mai străluciți 10 cercetători. Pun
astfel de premii o presiune suplimentară asupra direcției
cercetării?
Nu mi-am ales sau influentat niciodată direcțiile de cercetare în
funcție de premii sau granturi. Întotdeauna am pornit de la ce cred
eu cu adevărat, de la problemele care mi se par importante sau
deranjante, și abia apoi am aplicat pentru finanțări sau alte
forme de recunoaștere, explicând ce vreau să fac. În cazul
premiului de la „Popular Science“, nici
măcar nu îmi amintesc să fi aplicat – cred că
funcționează prin nominalizări făcute de alții. A fost o
surpriză plăcută, dar nu ceva care să îmi fi schimbat direcția.
Dacă cineva decide să finanțeze ideile la care lucrez, e
foarte bine. Dacă nu, caut alte surse. Dar nu pornesc niciodată
invers, adică de la „ce ar da bine“ sau „ce ar fi premiabil“.
Direcția vine din convingere, nu din strategie.
Viața dincolo de internet
Viața de profesor la Columbia și cercetător de top este extrem
de solicitantă. Ce face Roxana Geambașu atunci când închide
laptopul și cum aduce echilibrul în viața privată? Aveți vreo
pasiune care nu are nicio legătură cu algoritmii?
Îmi place foarte mult să petrec timp cu familia și să mă joc cu
fetița mea de 9 ani. Asta este, de departe, cea mai importantă
formă de echilibru pentru mine. În rest, alerg și încerc să
petrec cât mai mult timp în natură. Poate
pare surprinzător, pentru că New Yorkul e perceput ca o aglomerare
de beton și sticlă, dar în afara zonelor foarte turistice este
surprinzător de verde. Locuiesc pe Upper West Side, în Manhattan,
și sunt înconjurată de parcuri: la est e Central Park, la vest
Riverside Park, de-a lungul râului Hudson, iar la nord sunt
Morningside Park și campusul Columbiei – toate
la câteva străzi distanță. Riverside
Park face parte dintr-un sistem continuu de trasee care urcă sute de
kilometri, până în Canada. În Manhattan, segmentul are cam 20 de
kilometri de la sud la nord. Când e vreme bună, îmi rezerv ore
întregi și alerg zeci de kilometri. Vara, dacă trebuie să ajung
undeva în Manhattan, nu iau metroul și nici mașina – nici nu am
permis – ci merg pe jos sau alerg. Îmi place să spun, în glumă,
că folosesc parcurile ca pe autostrăzi: intru pe „traseu“,
avansez, schimb dintr-un parc în altul și la destinație ies de pe
„autostradă“. Îmi place mult să
explorez orașul și să descopăr detalii arhitecturale sau
inginerești care, la prima vedere, sunt invizibile. New Yorkul e
extrem de complex, iar aglomerația lui forțează soluții
ingenioase. De exemplu, unde locuiam înainte, aveam vedere la
Hudson. Între clădirea noastră și râu erau „împachetate“ o
autostradă, o rampă de ieșire, o pistă de biciclete, parcul pe
mai multe niveluri și o cale ferată îngropată. Dacă nu știai că
sunt acolo, nici nu le observai. Un alt
exemplu fascinant este Bryant Park, în spatele Bibliotecii Centrale
din New York. La suprafață vezi copaci, bănci și gazon. Dedesubt
însă se află un depozit imens de cărți, cu rafturi peste
rafturi, de unde volumele sunt trimise în sălile de lectură
printr-un sistem de trenulețe. Cărțile sunt ținute acolo pentru
că în clădirea istorică sunt mai greu de controlat temperatura și
umiditatea. Dacă ești în parc, nu ai nici cea mai mică idee că
alergi deasupra unui „buncăr“ plin de cărți, unele vechi și
unicat. Singurul indiciu este într-un colț discret al parcului,
unde se află o placă memorială. Dacă te uiți atent, îți dai
seama că este, de fapt, formată din ușile unei ieșiri de urgență
din depozitul subteran. Genul acesta de
descoperiri mă pasionează. Îmi place să citesc despre ele, să le
investighez și să înțeleg cum funcționează lucrurile dincolo de
suprafață. Cred că e o extensie naturală a felului în care
gândesc și în cercetare – doar că aici o fac fără laptop.
Sunteți un model pentru multe tinere care vor să urmeze Computer
Science. Care credeți că este încă cea mai mare barieră pentru
femeile din cercetarea de vârf în informatică?
Cred că cea mai grea barieră este, în continuare, încrederea în
sine. Văd asta la studenții mei: unii sunt foarte încrezători,
alții se îndoiesc constant de propriile capacități. Există
oameni de toate genurile în ambele categorii, dar, din experiența
mea, femeile tind mai des să fie mai timorate și mai nesigure.
Iar asta contează mult. În cercetare – și, de fapt, în
orice carieră ambițioasă – trebuie să îți asumi riscuri. Să
accepți o poziție mai incertă. Să mergi înainte cu o idee care
nu e încă validată. Să convingi alți oameni să ți se alăture.
Fără un minim de încredere în tine, e foarte greu să faci aceste
lucruri. Eu am avut mare noroc să am
mentori foarte buni – nu doar coordonatorii de doctorat, ci
profesori încă din școala generală – care m-au încurajat și
au investit timp și energie în mine. Când începi să vezi
rezultate și simți că cineva are încredere în tine, prinde
contur și încrederea proprie. Sfatul meu
pentru cei care vor să intre în domeniu, dar nu sunt siguri că
sunt în stare, este: 1. să țină cont că
aproape toți trecem prin această îndoială la început; 2.
să încerce chiar dacă nu sunt convinși că vor reuși – și
chiar dacă primele încercări nu ies; 3.
dacă pot, să caute oameni bine intenționați și competenți care
să le ofere feedback și sprijin. Nu e
ușor, și uneori ține și de noroc să întâlnești persoanele
potrivite. Dar, din experiența mea, mulți oameni sunt dispuși să
ajute când văd pe cineva serios și
muncitor, cel puțin până la un punct –
uneori acel punct este suficient. Eu am avut această șansă în
România și apoi în SUA, iar asta a contat enorm.
„Munca, inițiativa și perseverența cântăresc mai mult decât numele universității“
Ce le-ați spune studenților de la Politehnică
din România care se tem că nu pot concura cu cei de la Stanford,
Columbia, Harvard, Yale sau MIT?
În primul rând, să nu se compare obsesiv
cu alții. Mai important decât unde înveți este cât de serios
înveți. Munca, inițiativa și perseverența cântăresc mai mult
decât numele universității. Am avut
colegi în liceu și în facultate în România care ar putea concura
oricând cu cei mai buni oameni pe care îi cunosc de la MIT,
Stanford, Berkeley sau Columbia. Talente există peste tot. Diferența
reală o face cât ești dispus să muncești și cât de consecvent
ești. Știți vorba aia, atribuită lui Thomas Edison: succesul vine
90% din perseverenţă și doar 10% din inspirație.
Eu sunt convinsă că în lume există mulți oameni cu mult
mai buni decât mine. Dar cred și că, dacă depun efort și sunt
consecventă, este loc și pentru mine să am impact. Iar în nișa
mea – arhitectura de confidențialitate pentru date la scară mare
– eu cred că sunt printre cercetătorii de top din lume și că
sunt recunoscută ca atare de comunitate. Nu pentru că am fost la o
anumită universitate, ci pentru că am muncit mult și am fost
perseverentă – și, într-adevăr, am
avut și noroc de mentori buni. E adevărat
că există o diferență de șanse. Studenții de la universități
foarte renumite au adesea acces mai ușor la internshipuri sau la
anumite cursuri speciale. Dar există oportunități bune și în
România – poate mai multe decât acum 25 de ani. Diferența majoră
o fac lucruri pe care studentul le poate controla: cât muncește,
câtă inițiativă are, cât de mult insistă când lucrurile nu
ies. Studenții buni și muncitori pot ajunge foarte departe.
Dacă un tânăr v-ar întreba în ce direcție merită să se
specializeze în următorii ani, ce i-ați răspunde?
E foarte greu de prezis acum. Suntem în
mijlocul unui uragan tehnologic numit AI, ale cărui limite încă nu
le înțelegem. Vedem deja lucruri care, acum câțiva ani, păreau
extrem de greu de automatizat și rezervate celor mai buni ingineri.
De exemplu, un cercetător de la Anthropic a povestit cum o echipă
de agenți AI pe care o superviza a reușit să genereze un
compilator C care, în final, a putut compila kernelul
(n.r. – nucleul sistemului de operare) Linux. Pe vremea când
eram eu studentă, compilatoarele erau considerate printre cele mai
dificile sisteme de construit. Faptul că agenți AI pot produce
astfel de componente este, sincer, uimitor. Nu
înseamnă că orice sistem complex va fi ușor de automatizat.
Compilatoarele și limbajul C sunt bine definite și au teste clare,
iar AI-ul poate învăța din multe implementări existente. Dar e
posibil ca lucrurile pe care le credeam cele mai grele – detaliile
tehnice fine – să fie exact cele pe care mașinile le pot face cel
mai bine. Iar limitele reale încă nu le știm.
De aceea nu cred că e o strategie bună să optimizezi
cariera pe baza unei „nișe future-proof“. Pur și simplu nu avem
suficiente informații ca să prezicem ce va rămâne stabil. Sau cel
puțin, eu nu am suficiente informații. În
schimb, i-aș încuraja pe tineri să se pregătească pentru
adaptare continuă. Să învețe foarte bine bazele, inclusiv
interdisciplinar. Cei din zona Real să nu
ignore materiile umaniste, iar cei din zona Uman
să nu fugă de matematică și științe exacte. Fundamentele
diverse de gândire cred că vor conta enorm. Cred
că există oportunități mari la intersecția dintre științele
exacte și domenii precum filozofia, etica, psihologia sau
sociologia. Astăzi, când programăm agenți AI, le dăm
instrucțiuni care seamănă uneori mai mult cu îndrumările unui
profesor către un student decât cu programarea clasică în cod.
Discutăm despre reguli, responsabilitate, limite, chiar despre cum
ar putea arăta o societate de agenți, cu legi și repercusiuni.
Sunt conversații care, acum câțiva ani, mi s-ar fi părut mai
degrabă filozofice decât inginerești,
iar acum le am cu colegii mei ingineri. Pentru
mine a funcționat specializarea profundă într-o nișă. Nu sunt
convinsă că aceeași strategie va funcționa pentru generația care
vine. Eu însămi încep acum să colaborez explicit cu filozofi,
tocmai pentru a completa golurile lăsate de hiper-specializare.
Sfatul meu ar fi: construiți baze solide, rămâneți
flexibili, urmați ce vă pasionează și fiți pregătiți să vă
reinventați de mai multe ori. Timpurile sunt interesante. Mai bine
ne ținem ochii larg deschiși și învățăm constant, decât să
căutăm o nișă care pare sigură astăzi și s-ar putea să nu mai
fie mâine.
Roxana Geambașu în 2011
Trei motive de optimism
Care sunt, în opinia dumneavoastră, trei riscuri majore ale AI
și trei motive de optimism?
Sunt multe lucruri care mă îngrijorează legat de evoluția AI, dar
dacă ar fi să aleg trei:
1. Dezinformarea sistemică amplificată de
AI. Capacitatea de a genera conținut
credibil, la scară masivă, poate destabiliza spațiul
informațional. Nu mai vorbim doar de știri false izolate, poate
amplificate algoritmic în anumite grupuri sau rețele sociale, ci de
ecosisteme întregi de conținut generat automat.
2. Riscul unor situații catastrofice prin agenți AI conectați la
sisteme reale critice omenirii. Pe măsură ce agenții primesc acces
la infrastructuri digitale, pot apărea scenarii grave: atacuri
asupra utilităților, blocaje ale unor sisteme critice, pierderea
conectivității în zone mari. Nu spun că e inevitabil, dar
suprafața de risc crește.
3. Capacitatea societății de a se adapta la schimbări rapide în
piața muncii. În special în domeniile administrate digital,
transformările pot fi bruște. Eu cred că roboții fizici sunt încă
relativ departe, dar munca intelectuală procedurală este deja
afectată. Întrebarea reală este cât de repede pot sistemele
educaționale și economice să țină pasul. La Columbia, de
exemplu, ne întâlnim frecvent să discutăm cum trebuie să ne
schimbăm curriculumul. Unii dintre noi, inclusiv eu, mergem în
industrie tocmai pentru a înțelege mai bine ce se schimbă și ce
tipuri de competențe vor fi căutate, ca să știm cum să adaptăm
programele de studiu. Sper sincer că astfel de reflecții au loc
peste tot. Instituțiile educaționale, nu doar tinerii înșiși, au
responsabilitatea să se adapteze. Cei care ies acum de pe băncile
școlii sunt cei de nivel „entry-level“, care întâmpină o
piață a muncii mult mai instabilă decât acum câțiva ani. Nu îi
putem lăsa singuri să se descurce. Programele trebuie actualizate,
iar în paralel trebuie create mecanisme serioase de re-calificare și
adaptare pentru populația activă. Vor fi probabil necesare și alte
schimbări în societate, dar eu mă rezum la educație, pentru că
este domeniul pe care îl înțeleg cel mai bine.
Ce ar trebui să ne facă optimiști?
În primul rând, coborârea barierei
pentru a construi lucruri noi. Astăzi, doi oameni cu o idee bună și
o echipă de agenți AI pot lansa un produs fără investiții uriașe
în echipe tehnice sau suport. Asta poate democratiza inovația.
Apoi, creșterea utilității
reale a calculatoarelor. Pentru prima dată, interacțiunea cu
tehnologia devine naturală. Calculatoarele pot deveni mai accesibile
pentru oameni care nu sunt tehnici, ceea ce e un salt enorm.
Și, nu în ultimul rând, progrese
în domenii precum medicina. În cercetarea biomedicală, multe
probleme țin de identificarea de patternuri complexe în date. Exact
la asta AI este foarte bun. Există șansa reală să vedem
descoperiri accelerate în tratamente sau diagnostic.
Per total, AI nu este nici doar amenințare, nici doar
salvare. Este o tehnologie extrem de puternică. Direcția în care
va merge depinde foarte mult de cum o proiectăm, cum o reglementăm
și cum alegem să o folosim.
În doctorat ați studiat cum își pot recăpăta utilizatorii
controlul asupra datelor lor. Care era problema pe care încercați
să o rezolvați?
Perioada în care mi-am făcut doctoratul,
a doua jumătate a anilor 2000, a fost un
moment de schimbare tehnologică semnificativă. Webul se
stabilizase, explodau rețelele sociale si aplicațiile
mobile, începea cloud computingul, iar datele personale migrau rapid
de pe calculatoarele noastre către servicii online. Problema era că
acele servicii nu ofereau aproape nicio garanție: nu știai exact ce
fac cu datele tale, cât timp le păstrează sau dacă le poți
șterge cu adevărat. Nu exista GDPR, nu existau sistemele solide de
permisiuni de pe mobile pe care le avem azi, nu existau barierele
legale legate de vânzarea datelor personale. Practic, tehnologia
evoluase mai repede decât protecția utilizatorilor.
Practic, teza mea a pornit din ideea
că pierderea controlului asupra datelor devenise o problemă reală
și nouă. M-am întrebat dacă utilizatorul poate recâștiga măcar
o parte din control, chiar și atunci când serviciile online nu sunt
cooperante. Ce am propus, pe scurt, au fost
mecanisme tehnice – în mare parte bazate pe criptare – prin care
utilizatorul să își poată impune propriile reguli. De exemplu, un
sistem prin care datele se „autodistrug“ prin distrugerea cheii
de criptare, sau un sistem de audit în care accesarea neautorizată
declanșa un fel de „alarmă“ criptografică. Nu era vorba doar
de recuperarea datelor după un atac, ci de a schimba raportul de
putere: chiar dacă îți pui datele în cloud, să nu le pierzi
complet controlul.
Nu pot să nu vă întreb despre proiectul dumneavoastră Vanish,
pe care l-ați condus personal în anii doctoratului și care a atras
atenția întregii lumi. Cum se protejează datele conținute în
orice formă de poșta electronică, utilizând așa-numitul
algoritm al datelor autodistructive?
Vanish a pornit de la o observație simplă: pe internet,
nimic nu moare cu adevărat. Odată ce ai trimis un e-mail sau ai
încărcat un fișier, nu mai ai control real asupra lui. Poate fi
copiat, arhivat, păstrat la nesfârșit. Ideea
din spatele Vanish a fost să schimbăm asta folosind criptarea. În
loc să încercăm să ștergem datele de peste tot – lucru aproape
imposibil –, am protejat cheia care le permite să fie citite.
Datele sunt criptate, iar cheia de decriptare este împărțită în
bucăți și răspândită într-o rețea distribuită de
calculatoare. În timp, acele bucăți dispar natural din rețea, iar
când dispar suficient de multe, cheia nu mai poate fi reconstruită.
Fără cheie, datele devin imposibil de citit. Așa
funcționează „autodistrugerea“: nu ștergi neapărat fișierul,
ci îl faci imposibil de descifrat după un anumit timp. Practic,
mesajul expiră singur. Iar timpul de expirare se poate controla
statistic prin fixarea unor parametri ai criptării.
Astăzi există concepte precum „dreptul de a fi uitat“
din GDPR. Interesant este că unele implementări serioase ale
cerințelor de ștergere a datelor personale folosesc aceeași idee
de bază pe care am folosit-o în Vanish – idee
care, la rândul ei, a fost inspirată dintr-un sistem anterior,
numit Ephemerizer: criptarea datelor și distrugerea cheii. În
sisteme mari și complexe, este adesea mult mai simplu și mai sigur
să gestionezi și să distrugi cheia de criptare
decât să te asiguri că fiecare copie a datelor a fost
ștearsă fizic din toate colțurile infrastructurii.
Cât suntem în control asupra datelor proprii
Credeți că în prezent, cu evoluția
tehnologiilor cloud, mai este posibil cu adevărat ca un utilizator
să aibă control total asupra „termenului de valabilitate“ al
datelor sale?
Poate părea surprinzător, dar dacă lăsăm la o parte momentul
actual dominat de AI – care creează un nou val de schimbări –,
situația controlului asupra datelor personale chiar s-a îmbunătățit
în ultimul deceniu. Asta se datorează în
mare parte unor legi relativ recente, precum GDPR în Uniunea
Europeană sau CCPA/CPRA în California, dar și altor reglementări
similare din SUA și restul lumii. Ele au impus reguli mai clare: ce
date pot fi colectate, când e nevoie de consimțământ explicit,
cât timp pot fi păstrate datele și ce drepturi are utilizatorul.
În paralel, au apărut și standarde tehnice noi, cum ar fi Global
Privacy Control al W3C, care permite exprimarea automată a
preferințelor legate de vânzarea datelor, sau standardul W3C
Attribution, la care am contribuit și eu prin dezvoltarea
arhitecturii de confidențialitate. Toate acestea oferă alternative
mai transparente și mai controlabile decât ce exista în anii
2005-2015. Comparativ cu perioada în care
mi-am făcut doctoratul, lucrurile ajunseseră, până recent, să
stea mult mai bine din perspectiva controlului și transparenței.
Îmi place să cred că munca mea din anii 2005-2015,
inclusiv proiecte precum Vanish sau XRay, a
avut măcar un mic rol în dezbaterea publică și tehnică ce a
contribuit la aceste schimbări. Proiecte mai recente, precum Cookie
Monster și Big Bird, au fost integrate direct în standardul W3C
Attribution pentru publicitate online cu protecția
confidențialității, iar alte tehnologii dezvoltate de noi au fost
adoptate de companii. Standardul
Attribution este în prezent în proces de specificare și, dacă va
fi adoptat, va rula în toate browserele majore – Chrome, Firefox
și Safari –, adică va fi distribuit pe miliarde de dispozitive
din întreaga lume. Sper că, în timp, acest lucru să ducă la o
schimbare reală în bine a confidențialității online.
Desigur, apariția AI complică din nou lucrurile. Suntem
într-un nou moment de dezechilibru, în care regulile și
mecanismele de control au dificultăți, încă o dată, să țină
pasul cu tehnologia.
„Spaima“ giganților tech
Lucrați mult pe conceptul de Differential Privacy. Cum ați
explica pe înțelesul unui student de anul I de ce această metodă
este mai sigură decât simpla anonimizare a datelor?
Anonimizarea clasică înseamnă, de obicei, că scoți numele,
CNP-ul sau alte identificatoare directe dintr-un set de date și
speri că asta e suficient. Problema e că, de multe ori, nu este.
Dacă cineva are informații suplimentare – de exemplu vârstă,
cod poștal și sex – poate reidentifica persoane chiar și din
date „anonimizate“. Istoria ne-a arătat de multe ori că
anonimizarea simplă se poate sparge. Differential
Privacy pornește de la o idee diferită. Nu promite că datele sunt
anonime, ci oferă o garanție matematică: rezultatul unei analize
nu se schimbă semnificativ dacă o persoană este sau nu în baza de
date. Cu alte cuvinte, contribuția fiecărui individ este limitată
în mod controlat. Pe scurt, anonimizarea
încearcă să ascundă identitatea în datele brute. Differential
Privacy limitează ce se poate afla despre orice individ din
rezultate. De aceea e mai sigură: nu se bazează pe presupunerea că
adversarul nu știe prea multe, ci oferă protecție chiar și atunci
când știe foarte multe. Mai are și alte
avantaje importante când construiești sisteme complexe. Dacă
proiectezi componentele astfel încât fiecare să respecte
Differential Privacy, ele se pot compune și sistemul, ca întreg,
păstrează garanția de confidențialitate. Anonimizarea nu are
această proprietate: două seturi „anonimizate“ combinate pot
deveni brusc reidentificabile. Un exemplu clasic este cazul
data-setului publicat de Netflix pentru un
concurs de recomandare de filme. Deși datele nu conțineau nume,
cercetătorii au arătat că unele persoane pot fi reidentificate
prin corelarea evaluărilor de filme cu informații publice de pe
IMDb. În plus, Differential Privacy îți
spune clar care e relația dintre confidențialitate și acuratețe:
câtă precizie pierzi pentru a proteja datele. Iar în general, cu
cât ai mai multe date, cu atât poți obține rezultate mai precise,
păstrând totuși garanția de protecție. Anonimizarea nu oferă
astfel de garanții clare. Când
construiești un sistem mare, care procesează multe date și vrei o
promisiune reală de confidențialitate, Differential Privacy este
practic singura abordare care îți dă o garanție formală pe care
o poți înțelege și peste care poți continua să construiești.
Ați dezvoltat instrumente ca XRay
pentru a vedea cum giganții
tech ne folosesc datele pentru publicitate. Care a fost cea mai
surprinzătoare descoperire pe care ați făcut-o monitorizând
aceste fluxuri de date?
XRay a fost un sistem pe care l-am dezvoltat în perioada 2013-2015
pentru a înțelege, în mod riguros, cum folosesc platformele online
datele noastre pentru publicitate și recomandări. Ideea era simplă,
dar puternică: creai mai multe conturi controlate, în care
modificai sistematic anumite informații – de exemplu, conținutul
unor e-mailuri – și apoi măsurai cum se schimbă reclamele
afișate. Prin analiză statistică, puteam identifica ce tip de
informație declanșa ce tip de reclamă. Cea
mai surprinzătoare descoperire a fost legată de Gmail. Google
declarase public că nu folosește conținutul mesajelor pentru
anumite tipuri de targetare publicitară sensibile, cum ar fi cele
legate de sănătate, rasă sau situație financiară. Când am
analizat datele cu XRay, am observat corelații între subiecte
discutate în e-mailuri și reclame din astfel de categorii
sensibile. De exemplu, mesaje care sugerau o problemă medicală
gravă, precum cancerul, erau urmate de reclame pentru produse de
medicină holistică sau servicii de tip
șamanic. Nu afirmația în sine a fost
șocantă, ci diferența dintre politica declarată și ceea ce am
măsurat noi, riguros și științific, că se întâmpla în
realitate. Gmail a oprit serviciul de publicitate pe care îl studiam
în timp ce noi continuam să colectăm date, dar după ce ne-am
publicat rezultatele. Pentru mine, lecția
a fost că transparența nu poate exista doar la nivel de politică
declarat. În sisteme atât de complexe, e nevoie de instrumente care
să verifice cum funcționează lucrurile în practică, nu doar cum
ar trebui să funcționeze în principiu. La scurt timp după aceea,
marile platforme de publicitate au început să introducă explicații
de tip „De ce văd reclama asta?“, oferind utilizatorilor mai
multă vizibilitate direct din interiorul sistemului. A fost un pas
important spre transparență, chiar dacă nu rezolvă toate
problemele.
„Spamul și tentativele de fraudă au devenit mult mai sofisticate“
În contextul exploziei modelelor de limbaj (LLM), cât de real
este riscul ca datele noastre private să ajungă în memoria
modelelor AI?
AI-ul, inclusiv LLM-urile, și mai ales agenții AI care rulează
peste ele și au acces la unelte cu care pot acționa în lumea
digitală, reprezintă o nouă provocare majoră,
atât pentru confidențialitatea datelor, cât
și pentru securitatea cibernetică și multe alte aspecte ale
societății. Personal, nu am început încă
să lucrez direct pe partea de confidențialitate pentru LLM-uri,
pentru că mi se pare că, în momentul acesta,
securitatea cibernetică e chiar mai importantă. Sunt în anul
sabatic de la Columbia și m-am hotărât să merg la Google ca să
lucrez la o arhitectură de siguranță pentru agenți AI. Am o idee
și vreau să o testez în practică. Legat
strict de întrebarea despre memoria permanentă: riscul există, dar
cred că încă învățăm cum sunt folosite datele în astfel de
sisteme și unde apar exact scurgerile reale. Pentru
confidențialitate, cred că va trebui să mai așteptăm puțin ca
să înțelegem mai bine niște șabloane și structuri ale folosirii
datelor. Abia după aceea putem să introducem bariere care chiar
funcționează. Problema e că soluțiile
de confidențialitate cer, aproape întotdeauna, niște limite pe
funcționalitate. Iar acum, agenții AI sunt imaginați ca sisteme
care pot face orice. În acest context, e greu să pui bariere fără
să tai utilitate, reală sau percepută. Sper însă că, pe măsură
ce domeniul se maturizează, o să vedem șabloane
mai stabile și structuri mai clare, iar atunci o să putem introduce
protecții de confidențialitate care nu distrug, în același timp,
utilitatea acestor agenți.
Protecția pe internet
Într-un interviu menționați că
vă alegeți proiectele în funcție de ce vă „enervează“ la
tehnologia actuală. Ce vi se pare cel mai problematic la modul în
care funcționează internetul astăzi?
Dacă lăsăm agenții AI la o parte – pentru că sunt încă prea
noi ca să avem soluții stabile –, ce mă enervează cel mai tare
la web și la mobile în 2026 este lipsa unei separări clare între
funcționalitățile primare și cele secundare.
Funcționalitățile primare sunt motivele pentru care
folosești un site sau o aplicație: să vezi un film, să citești
știri, să vorbești cu prietenii. Funcționalitățile secundare
sunt publicitatea, recomandările și alte mecanisme de monetizare.
Nu cred că e ceva fundamental greșit cu niciuna dintre ele.
Problema este că sunt amestecate. De multe
ori, nu funcționalitățile primare generează munții de date
colectate în backend, ci cele secundare. Publicitatea, de exemplu, a
dus la cross-site tracking masiv, nu faptul că vrei să citești un
articol sau să trimiți un mesaj. Cred că,
dacă am separa mai clar aceste funcționalități, am putea construi
mecanisme de confidențialitate mai curate și mai transparente.
Care sunt cele mai mari riscuri pentru un utilizator obișnuit de
internet astăzi?
E o întrebare grea, pentru că lista e lungă. Dar dacă ar fi să
simplific, cred că în acest moment cele mai mari pericole pentru
utilizatorul obișnuit sunt legate de scamuri și dezinformare,
amplificate de AI. Spamul și tentativele
de fraudă au devenit mult mai sofisticate. Mesajele sunt mai bine
scrise, mai personalizate și mai convingătoare. AI-ul le face
„turbo-charged“. E mult mai greu să îți dai seama dacă un
e-mail sau un mesaj este real sau o tentativă de fraudă.
Un alt risc este instalarea sau conectarea unor agenți AI
care au acces la conturile și serviciile tale fără să înțelegi
exact ce permisiuni le dai. În momentul în care un astfel de sistem
are acces la e-mail, documente sau alte servicii, riscul crește
considerabil. Mai e și problema încrederii
necritice în ceea ce spun chatboții AI. Ei pot greși, pot
„inventa“ informații sau pot genera conținut convingător, dar
fals. Iar pe rețelele sociale, unde dezinformarea era deja o
problemă, AI-ul poate amplifica fenomenul. Și
un sfat foarte practic: țineți-vă sistemele actualizate. Cu AI la
îndemâna oricui, vulnerabilitățile pot fi descoperite mult mai
rapid. Probabil și patch-urile vor apărea mai repede, dar doar dacă
le instalați. Amânarea update-urilor este una dintre cele mai
simple și mai periculoase greșeli.