România riscă o nouă criză de datorie robotică din cauza AI

De ce contează transparența algoritmilor?

Guvernul avertizează că se îndreaptă spre un nou scenariu de „robodebt” pe măsură ce implementează algoritmi și inteligență artificială în deciziile publice. Dr. Catherine Williams, directorul executiv al Centrului pentru Integritate Publică, a publicat un raport intitulat „Computer Says No”, care cere audite obligatorii ale sistemelor algoritmice. Avertismentul vine într-un moment în care țara se luptă cu lipsa transparenței și a protecțiilor legale în jurul instrumentelor automate de decizie.

Raportul subliniază că, fără o legislație clară, sistemele automate pot genera pretenții eronate de datorie, pot refuza beneficii cuvenite și pot eroda încrederea publică. Dr. Williams susține că abordarea actuală a guvernului este o „mers pe somn” spre repetarea greșelilor din trecut. Ea subliniază că utilizarea algoritmilor trebuie să fie însoțită de o supraveghere riguroasă, audite independente și mecanisme clare de răspundere.

Constatarea Centrului pentru Integritate Publică arată o lacună sistemică în modul în care statul român gestionează deciziile bazate pe AI. Raportul recomandă un cadru obligatoriu de audit care să evalueze acuratețea, bias-ul și echitatea algoritmilor înainte de implementare. El cere și un registru public al tuturor instrumentelor automate de decizie folosite de agențiile guvernamentale. „Transparența este prima linie de apărare împotriva rezultatelor nedrepte”, a spus Dr. Williams. Procesul de audit ar implica experți terți și ar fi raportat public, asigurând că cetățenii pot vedea cum se iau deciziile.

Cum protejează auditele cetățenii?

Lipsa acestor protecții a dus deja la cazuri izolate în care notificări automate de datorie au fost trimise persoanelor care nu aveau nicio obligație neachitată. În aceste cazuri, erorile au fost descoperite abia după ce cetățenii au făcut plângeri, expunând vulnerabilitatea sistemului. Raportul avertizează că pe măsură ce mai multe servicii — precum asistență socială, taxe și imigrare — trec la AI, potențialul de a produce daune pe scară largă crește dramatic.

Ce înseamnă un audit și de ce e esențial? Un audit testează sistematic logica unui algoritm față de date din lumea reală, verificând inexactitățile și modelele discriminatorii. El verifică și sursele de date utilizate, asigurându-se că sunt la zi și reprezentative. Prin identificarea defectelor devreme, auditele pot preveni pretenții eronate de datorie și alte decizii defavorabile.

Raportul citează exemple din alte țări unde cadrele de audit au redus erorile algoritmice. Într-un caz, o agenție europeană de beneficii sociale a redus pretențiile eronate cu 30% după ce a implementat un ciclu obligatoriu de audit. Dr. Williams subliniază că România poate învăța din aceste modele, adaptându-le la contextul său legal și administrativ.

Ce se întâmplă dacă nu se face nimic?

Dacă guvernul ignoră aceste recomandări, riscă să repete scandalul de robodebt care a afectat mii de cetățeni. Urmările ar putea include provocări legale, pierderea încrederii publice și creșterea costurilor administrative pe măsură ce litigiile se rezolvă. Mai mult, organizațiile internaționale de supraveghere pot examina angajamentul României față de drepturile omului și guvernanța corectă, ceea ce ar putea afecta sprijinul extern și investițiile.

Centrul pentru Integritate Publică îndeamnă factorii de decizie să acționeze rapid, stabilind un organism independent de supraveghere care să impună standardele de audit. Doar așa statul poate exploata beneficiile AI-ului, protejând în același timp drepturile cetățenilor.

Întrebări frecvente

Î1: Ce este un scenariu de „robodebt”? R: Se referă la pretenții automate de datorie emise de sisteme guvernamentale care se dovedesc ulterior a fi incorecte, ducând la dificultăți financiare pentru cetățeni.

Î2: Cine va efectua auditele? R: Experți independenți, posibil din mediul academic sau din firme de consultanță acreditate, vor efectua auditele sub supravegherea unei autorități de reglementare nou create.

Î3: Cum vor fi informați cetățenii despre deciziile algoritmice? R: Raportul recomandă un registru public și protocoale clare de notificare, asigurând că persoanele primesc explicații transparente când un sistem automat le afectează.