Inteligența artificială a intrat deja și în sistemul medical din România. AI a început să sprijine spitalele publice și clinicile private în triaj, radiologie și robotică.

Și legislația la nivel european a fost schimbată pentru a fi pusă în actualitate cu evoluția din spitale.

Avocatul Silviu Faier explică AI Act și implicațiile sale asupra practicii de malpraxis medical, dar și cine răspunde când algoritmul greșește.

„Adoptarea de către Uniunea Europeană a Regulamentului privind Inteligența Artificială – AI Act reprezintă unul dintre cele mai importante momente legislative ale ultimilor ani. Deși actul normativ urmărește în principal reglementarea dezvoltării și utilizării sistemelor de inteligență artificială, efectele sale vor fi resimțite în mod direct și în domeniul medical, inclusiv în materia răspunderii pentru malpraxis.

În prezent, inteligența artificială este utilizată pentru interpretarea investigațiilor imagistice, analiza rezultatelor de laborator, evaluarea riscurilor clinice, stabilirea diagnosticelor diferențiale și chiar formularea recomandărilor terapeutice. Pe măsură ce aceste sisteme devin parte integrantă a actului medical, apare o întrebare esențială: cine răspunde atunci când inteligența artificială contribuie la producerea unui prejudiciu pacientului?

Din perspectiva dreptului român, răspunsul trebuie căutat atât în AI Act, cât și în dispozițiile dreptului comun privind răspunderea civilă delictuală, precum și în reglementările speciale din domeniul sănătății”, a declarat Silviu Faier.

Sistemele AI utilizate în medicină sunt considerate „high-risk”

AI Act califică majoritatea sistemelor de inteligență artificială utilizate în domeniul sănătății drept sisteme cu risc ridicat („high-risk AI systems”).

„Această calificare nu este întâmplătoare. O eroare a unui algoritm utilizat pentru diagnosticarea cancerului, identificarea unui accident vascular cerebral sau recomandarea unui tratament poate avea consecințe directe asupra vieții și sănătății pacientului.

În consecință, dezvoltatorii și furnizorii unor astfel de sisteme sunt obligați să respecte cerințe stricte privind:

  • calitatea datelor utilizate pentru antrenarea algoritmului
  • gestionarea riscurilor
  • trasabilitatea deciziilor
  • documentarea tehnică
  • supravegherea umană
  • monitorizarea performanței după introducerea pe piață

Aceste obligații nu au doar o componentă administrativă sau de conformitate. În eventualitatea unui litigiu, ele pot constitui repere esențiale pentru stabilirea culpei și a răspunderii civile”, a explicat avocatul.

Răspunderea pentru malpraxis în lumina Legii nr. 95/2006

În dreptul român, cadrul juridic principal în materia malpraxisului medical este reprezentat de Titlul XVI din Legea nr. 95/2006 privind reforma în domeniul sănătății.

„Potrivit art. 653 alin. (1) lit. b) din Legea nr. 95/2006, malpraxisul reprezintă eroarea profesională săvârșită în exercitarea actului medical sau medico-farmaceutic, generatoare de prejudicii asupra pacientului, implicând răspunderea civilă a personalului medical și a furnizorului de produse și servicii medicale.

Definiția legală este suficient de largă pentru a permite includerea situațiilor în care prejudiciul este produs prin utilizarea defectuoasă a unor sisteme de inteligență artificială.

În viitor, problema juridică nu va mai fi doar dacă medicul a greșit, ci și dacă:

  • sistemul AI a funcționat corespunzător
  • spitalul a implementat corect tehnologia
  • furnizorul software și-a îndeplinit obligațiile legale
  • personalul medical a utilizat instrumentul conform destinației sale

Dispare răspunderea medicului? Răspunsul este nu”, a declarat avocatul Silviu Faier.

Una dintre ideile fundamentale ale AI Act este aceea că sistemele de inteligență artificială trebuie să rămână sub control uman.

„Simplul fapt că un medic a urmat recomandarea unui algoritm nu îl exonerează automat de răspundere. Instanțele vor analiza dacă medicul a înțeles limitele sistemului AI, a verificat rezultatele generate, a corelat recomandarea algoritmului cu tabloul clinic concret și a exercitat o judecată profesională proprie.

Dacă medicul transformă recomandarea algoritmului într-o decizie automată, fără analiză critică, există posibilitatea angajării răspunderii sale profesionale în condițiile Legii nr. 95/2006 și ale Codului civil”, a adăugat avocatul.

Silviu Faier a explicat legislația din România.

„Articolul 1349 consacră obligația generală a oricărei persoane de a respecta regulile de conduită impuse de lege și de a nu aduce atingere drepturilor sau intereselor legitime ale altor persoane.

Pentru angajarea răspunderii civile delictuale va trebui dovedită existența cumulativă a celor patru condiții clasice:

  • existența unei fapte ilicite
  • existența unui prejudiciu
  • existența raportului de cauzalitate
  • existența vinovăției

În materia inteligenței artificiale, identificarea faptei ilicite și a autorului acesteia poate deveni extrem de dificilă.

Spre exemplu, o eroare de diagnostic poate fi cauzată de:

  • o utilizare necorespunzătoare a sistemului de către medic
  • o implementare defectuoasă realizată de unitatea sanitară
  • o eroare de programare a algoritmului
  • date de antrenare insuficiente sau incorecte
  • lipsa actualizării sistemului

În funcție de situația concretă, răspunderea delictuală ar putea reveni uneia sau mai multor persoane implicate în lanțul decizional”, transmite avocatul.

Până în prezent, litigiile de malpraxis medical au vizat în principal medicii și unitățile sanitare.

„Odată cu integrarea inteligenței artificiale în actul medical, cercul persoanelor care pot fi trase la răspundere se extinde semnificativ.

În anumite situații, răspunderea ar putea reveni medicului, unității sanitare, dezvoltatorului sistemului AI, producătorului dispozitivului medical, distribuitorului software-ului sau companiei care asigură mentenanța sistemului.

În practică, este foarte probabil să apară litigii complexe în care mai multe persoane vor fi chemate în judecată în solidar, urmând ca instanța să stabilească ponderea contribuției fiecăreia la producerea prejudiciului”, a adăugat avocatul.

Una dintre cele mai dificile provocări juridice este reprezentată de lipsa de transparență a unor sisteme AI.

„În numeroase cazuri, nici medicul și nici pacientul nu pot înțelege exact modul în care algoritmul a ajuns la o anumită concluzie. Acest fenomen, cunoscut sub denumirea de „black box problem”, ridică dificultăți majore de probă.

AI Act încearcă să răspundă acestor probleme prin impunerea unor obligații stricte de trasabilitate, păstrare a logurilor și documentare tehnică, elemente care vor deveni probe esențiale în litigii.

O altă problemă deosebit de importantă privește consimțământul informat. În viitor, standardul informațiilor furnizate pacientului ar putea include și aspecte privind utilizarea sistemelor AI în procesul diagnostic sau terapeutic.

Pacientul ar putea avea dreptul să cunoască faptul că sunt utilizate sisteme de inteligență artificială, rolul acestora în procesul decizional, limitele și riscurile asociate și existența unei supravegheri umane efective.

Neinformarea adecvată a pacientului poate genera litigii suplimentare privind validitatea consimțământului și respectarea dreptului la autodeterminare”, a declarat Silviu Faier.

Pe măsură ce sistemele AI devin mai performante, acestea ar putea modifica însăși definiția conduitei medicale diligente.

„Dacă un sistem de inteligență artificială validat clinic poate identifica anumite patologii cu o rată de succes superioară medicilor, se poate pune întrebarea dacă neutilizarea unei asemenea tehnologii reprezintă ea însăși o abatere de la standardul profesional.

Astfel, în viitor, răspunderea pentru malpraxis ar putea fi analizată nu doar din perspectiva utilizării greșite a inteligenței artificiale, ci și din perspectiva neutilizării unor instrumente tehnologice care au devenit standard de practică medicală.

AI Act nu elimină răspunderea pentru malpraxis medical, ci o transformă profund.

În dreptul român, analiza juridică a unui prejudiciu produs în contextul utilizării inteligenței artificiale va presupune coroborarea normelor europene privind inteligența artificială cu dispozițiile Titlului XVI din Legea nr. 95/2006 privind reforma în domeniul sănătății și cu regulile generale ale răspunderii civile delictuale prevăzute de Codul civil.

Pentru practicienii dreptului, provocarea următorilor ani va consta în identificarea exactă a raportului dintre eroarea umană și eroarea algoritmică, precum și în stabilirea persoanei obligate să repare prejudiciul.

În acest nou context, litigiile de malpraxis medical vor deveni inevitabil mai complexe, necesitând nu doar expertize medico-legale, ci și analize tehnice aprofundate asupra modului în care sistemele de inteligență artificială au influențat actul medical și rezultatul”, a adăugat avocatul.

Ți-a plăcut articolul?

Vrem să producem mai multe, însă avem nevoie de susținerea ta. Orice donație contează pentru jurnalismul independent