AUTOMATION BIAS
Definiție
Automation bias este tendința umană, documentată de decenii în psihologie, de a acorda încredere excesivă rezultatelor venite de la un sistem automat și de a înceta treptat verificarea. Cifra de pe ecran „arată oficial”, răspunsul AI sună competent, și creierul obosit bifează în loc să controleze. Cu cât sistemul greșește mai rar, cu atât vigilența scade mai mult: paradoxul fiabilității.
E vărul digital al unei erori vechi de audit: încrederea necuvenită în documentul frumos formatat. LLM-urile agravează problema printr-o trăsătură perfidă, fluența: răspunsul prost formulat impecabil trece mai ușor de filtre decât răspunsul bun formulat stângaci. Contramăsurile sunt de proces, nu de voință: verificări prin sondaj obligatorii, teste cu erori plantate, separarea celui care generează de cel care validează.
Pentru profesia contabilă, automation bias e riscul care transformă toate celelalte riscuri AI în pierderi reale: halucinația nedetectată, extragerea greșită neobservată, încadrarea eronată aprobată pe bandă. Scepticismul profesional, obligație de standard în audit, trebuie extins explicit asupra rezultatelor AI: „a zis sistemul” nu e nici probă, nici justificare.
Exemple practice
- Șase luni de extrageri corecte din facturi → contabilul nu mai verifică → luna a șaptea, un furnizor schimbă formatul și 40 de facturi intră cu TVA greșit, detectat abia la decont.
- Test intern: în lotul de validare se plantează lunar 3 documente cu erori cunoscute; dacă trec neobservate, procesul de verificare, nu oamenii, se reproiectează.
- Regulă de echipă calibrată pe risc: rezultatele AI pe sarcini cu impact fiscal se verifică integral; pe sarcini administrative, prin sondaj documentat, cu vigilență proporțională, nu uniformă.
Întrebări frecvente
De ce trece mai ușor un răspuns AI decât unul de la un coleg?
Din cauza fluenței. Un text impecabil formulat pare verificat, chiar dacă nimeni nu l-a verificat, iar mintea obosită bifează în loc să controleze. E aceeași eroare veche din audit, încrederea necuvenită în documentul frumos formatat, doar că modelele o produc acum la scară și fără efort.
Cum îmi dau seama că echipa a încetat să verifice?
Nu prin întrebări, fiindcă toată lumea va spune că verifică. Prin proces: verificări prin sondaj obligatorii, teste cu erori plantate deliberat în materiale de control și separarea persoanei care generează de cea care validează. Dacă erorile plantate trec nedetectate, ai măsurat problema, nu ai presupus-o.
Scepticismul profesional se aplică și rezultatelor AI?
Da, integral. E o obligație de standard în audit și nu are de ce să se oprească la marginea unui instrument nou. Formularea „a zis sistemul” nu e nici probă, nici justificare. Automation bias e riscul care transformă toate celelalte riscuri AI, de la halucinație la extragere greșită, în pierderi reale.