BLACK BOX
Definiție
„Black box” descrie faptul că, la modelele complexe, nu putem urmări cauzal de ce s-a produs un anumit răspuns: vedem intrarea și ieșirea, dar „raționamentul” e distribuit în miliarde de parametri, fără o regulă lizibilă de arătat. Chiar și creatorii modelului pot explica doar parțial comportamentele lui.
Contrastul care doare în profesiile reglementate: sistemul clasic pe reguli era o carte deschisă („factura a fost respinsă pentru că depășește plafonul X”), auditabil linie cu linie; modelul modern e mai capabil, dar opac. Nuanță importantă: explicația generată de un LLM la cererea „de ce ai răspuns așa?” e o reconstrucție plauzibilă, nu o inspecție reală a procesului intern; poate fi utilă, dar nu e probă.
Pentru contabilitate și audit, cutia neagră definește granița de utilizare: AI-ul opac e acceptabil unde omul validează rezultatul (draft, sugestie, triaj) și problematic unde decizia trebuie justificată formal (respingerea unui credit, o ajustare fiscală). Soluțiile practice: procese proiectate astfel încât justificarea să vină din verificarea umană și din reguli documentate, nu din model, la care se adaugă, unde se poate, tehnici de explicabilitate (XAI).
Exemple practice
- Clientul respins la credit întreabă „de ce?”, iar „așa a zis modelul” nu e răspuns acceptabil nici pentru client, nici pentru autoritatea de supraveghere.
- În dosarul de audit: concluzia AI de triaj al riscurilor e însoțită de verificarea auditorului pe eșantion, iar justificarea formală vine din procedura umană, nu din cutia neagră.
- Design de proces: modelul opac propune încadrarea tranzacției, dar regula finală aplicată e una explicită din procedura firmei; opacitatea rămâne în zona de sugestie, nu de decizie.