AI ETHICS & BIAS

Definiție

Bias-ul AI este tendința sistematică a unui model de a produce rezultate părtinitoare, favorizând sau defavorizând grupuri, tipare sau concluzii, pentru că a învățat din date care conțineau acele părtiniri. Modelul nu are opinii; are statistici. Dacă istoricul de creditare a discriminat o categorie, modelul antrenat pe el va „învăța” discriminarea ca regularitate utilă.

Subtilitatea: bias-ul nu dispare eliminând coloana sensibilă, fiindcă modelul o reconstruiește din corelații (cod poștal, tip de activitate, vechime). Etica AI e disciplina mai largă care întreabă nu doar „e corect statistic?”, ci „e just, transparent și asumabil?”: cine răspunde pentru decizia automată, poate fi contestată, știe persoana afectată că a decis un algoritm? Cadrul de reglementare merge exact în această direcție: scoringul de credit, de pildă, e clasificat cu risc ridicat în EU AI Act.

Pentru profesioniștii financiari, subiectul e concret, nu filozofic: modele de scoring, de detectare a fraudei, de aprobare a limitelor comerciale; toate pot discrimina sistematic dacă nu sunt testate. Întrebările de due diligence: pe ce date a fost antrenat, cum se testează echitatea între grupuri, ce cale de contestare are clientul respins. Un model părtinitor nu e doar risc reputațional, ci risc juridic.