EXPLAINABILITY / XAI
Definiție
Explicabilitatea (XAI) este efortul de a face deciziile AI transparente și justificabile: ce factori au cântărit în rezultat, cât de mult și în ce direcție. Instrumentele tipice arată contribuția fiecărei variabile la o decizie („scorul a scăzut din cauza întârzierilor de plată recente, nu a cifrei de afaceri”) sau ce schimbare ar fi răsturnat rezultatul.
E răspunsul constructiv la problema cutiei negre, cu o onestitate necesară: explicațiile sunt aproximări utile ale unui proces complex, nu procese-verbale exacte; două tehnici diferite pot explica aceeași decizie ușor diferit. Distincția practică: interpretabilitate (modelul e simplu și lizibil prin construcție, cum e un arbore de decizie) versus explicabilitate (modelul e complex, dar îl instrumentăm post-hoc). În domeniile reglementate, uneori modelul mai simplu și explicabil bate modelul mai precis și opac.
Pentru profesia financiar-contabilă, XAI e puntea dintre puterea AI și obligațiile profesiei: justificare în dosar, contestabilitate pentru client, demonstrabilitate la control. La achiziția oricărui sistem de scoring sau detecție: cere funcțiile de explicare per decizie, nu doar acuratețea agregată; „92% acuratețe” nu răspunde la întrebarea inspectorului despre dosarul concret.
Exemple practice
- Raportul de explicare a scoringului: „decizia negativă: 60% întârzieri recente de plată, 25% grad de îndatorare, 15% sector”, deci client informat, dosar apărabil.
- În detecția de anomalii la audit: fiecare tranzacție semnalată vine cu factorii care au declanșat-o, iar auditorul verifică țintit, nu orbește.
- Alegere de arhitectură: pentru deciziile de credit, banca preferă modelul puțin mai slab dar explicabil; modelul opac rămâne pe triaj intern, unde omul decide oricum.