CONTEXT WINDOW
Definiție
Reprezintă „memoria de lucru” sau cantitatea maximă de text, măsurată în tokeni, pe care un model AI o poate menține activă în „minte” și procesa simultan într-o singură interacțiune. Include atât textul pe care îl trimiți tu (promptul, documentele atașate, istoricul conversației), cât și răspunsul pe care modelul îl generează.
Gândește-te la fereastra de context ca la memoria de lucru a modelului: tot ce nu încape în ea este pur și simplu invizibil. Dacă trimiți un document mai lung decât fereastra permite, modelul nu va citi documentul complet, ci va procesa doar ce îi încape. Dacă depășești această limită, modelul începe să „uite” primele informații furnizate, ceea ce poate duce la erori sau halucinații.
Modelele moderne au ferestre de context din ce în ce mai mari: de la 4.000 tokeni (GPT-3) la 200.000 tokeni (Claude) sau chiar 1 milion (Gemini 1.5 Pro), ceea ce face posibilă procesarea unor dosare întregi de documente într-o singură cerere. Implicație directă în contabilitate: dimensiunea ferestrei determină câte documente poți procesa simultan și cât de mult context istoric poți păstra într-o conversație de lucru cu modelul.
Exemple practice
- dosar complet de achiziție (comandă + factură + aviz + contract): ~12 pagini / ~8.000 tokeni, încape într-o singură cerere pe modelele moderne
- balanță anuală cu 500 de conturi exportată din ERP = ~15.000 tokeni, poate fi analizată integral fără segmentare
- conversație lungă cu istoricul a 20 de mesaje despre reconciliere bancară: dacă depășești fereastra, modelul „uită” contextul inițial și răspunsurile devin inconsistente
Întrebări frecvente
De ce nu citește AI-ul tot documentul pe care i l-am dat?
Pentru că depășește fereastra de context, adică memoria lui de lucru. Ce nu încape nu e citit parțial, ci deloc, iar modelul răspunde ca și cum acele pagini nu ar exista. Soluția e să împarți documentul sau să folosești un model cu fereastră mai mare.
Cât înseamnă concret o fereastră de context?
Se măsoară în tokeni și variază mult între modele, de la câteva mii la sute de mii sau chiar un milion. Orientativ, 1.000 de tokeni înseamnă aproximativ 750 de cuvinte în engleză și mai puține în română. La modelele actuale, un dosar întreg poate încăpea într-o singură cerere.