HALLUCINATION
Definiție
Halucinația este fenomenul prin care modelul generează informații false cu ton perfect încrezător: articole de lege inexistente, cifre inventate, surse fabricate, detalii plauzibile care nu au existat niciodată. Nu e o „minciună” intenționată: modelul completează tipare statistice, iar când nu știe, produce cel mai probabil-sunând răspuns, nu tăcere.
Rădăcina problemei: LLM-ul e antrenat să continue textul convingător, nu să-și verifice afirmațiile, iar încrederea tonului nu are nicio corelație cu adevărul conținutului. Zonele de risc maxim sunt exact cele familiare profesioniștilor: referințe precise (articole de lege, numere de decizii, citate), cifre exacte, evenimente recente. Atenuare există (RAG, unelte de căutare, cereri de citare, temperatura mică), dar eliminare completă, nu.
Pentru contabilitate și fiscalitate, halucinația e riscul profesional numărul unu al folosirii AI: un „articol din Codul Fiscal” inventat într-o opinie trimisă clientului e un incident de răspundere profesională. Regula de fier: orice referință legislativă, cifră sau fapt generat de AI se verifică la sursă înainte de a fi folosit; AI-ul redactează, omul garantează.
Exemple practice
- Modelul citează fluent „art. 25 alin. (4) lit. m) din Codul Fiscal” pentru o deductibilitate; articolul există, dar litera invocată se referă la cu totul altceva: verificarea la sursă durează 2 minute și salvează o opinie greșită.
- Într-o sinteză de jurisprudență, două dintre cele cinci decizii citate nu există, ci sunt combinații plauzibile de numere și ani, fabricate; de aceea sintezele juridice cer RAG pe baze de date reale.
- Procedura cabinetului: livrabilele generate cu AI au checklist de verificare a referințelor; nicio trimitere legislativă nu pleacă la client neverificată în textul oficial.
Întrebări frecvente
De ce sună atât de convingător un răspuns care e fals?
Modelul e antrenat să continue textul într-un mod plauzibil, nu să își verifice afirmațiile. Când nu știe ceva, nu tace: produce varianta care sună cel mai probabil. Tonul încrezător nu are nicio legătură cu adevărul conținutului, deci nu există un semnal vizibil care să te avertizeze că tocmai citești o invenție.
Unde greșește cel mai des un model?
Exact în zonele care contează pentru un profesionist: referințe precise, cum sunt articolele de lege, numerele de decizii și citatele, apoi cifre exacte și evenimente recente. Sunt tipurile de informație unde o formulare plauzibilă e ușor de fabricat și imposibil de deosebit de una reală fără verificare la sursă.
Se poate elimina complet halucinația?
Nu. Se poate reduce semnificativ, prin RAG, prin unelte de căutare care aduc sursa, prin cererea explicită de citare și prin temperatură mică, dar riscul rămâne. De aceea regula practică nu e tehnologică, ci de proces: orice referință legislativă, cifră sau fapt generat de AI se verifică la sursă. AI-ul redactează, omul garantează.