Halucinații AI: de ce inventează chatbot-urile și cum le prinzi

Despre halucinații AI vorbim când un chatbot dă un răspuns sigur pe el, dar fals: o citare inventată, o cifră greșită sau un citat pe care nimeni nu l-a spus. Ele apar pentru că un model de limbaj prezice cuvinte probabile în loc să caute fapte și pentru că, așa cum arată OpenAI, antrenarea și evaluările obișnuite răsplătesc ghicitul mai mult decât recunoașterea incertitudinii. Căutarea, documentele-sursă și prompturile atente reduc riscul, dar nimic nu îl elimină, așa că tot ce contează trebuie verificat.

Ce sunt halucinațiile AI?

OpenAI definește halucinațiile drept afirmații plauzibile, dar false, generate de un model de limbaj. Pagina sa de ajutor pentru ChatGPT enumeră formele întâlnite cel mai des: definiții, date sau fapte incorecte, citate, studii și citări inventate și răspunsuri prea sigure la întrebări ambigue sau complexe. Aceeași pagină adaugă că încrederea nu înseamnă fiabilitate, pentru că un model poate suna sigur pe el și totuși să greșească.

Niciun furnizor nu face excepție. Pagina de ajutor Gemini a Google spune că Gemini poate greși, cere utilizatorilor să verifice răspunsurile și avertizează să nu te bazezi pe ele pentru sfaturi profesionale.

De ce inventează ChatGPT lucruri?

Modelele de limbaj învață prezicând următorul cuvânt într-o cantitate uriașă de text. Conform explicației OpenAI, preantrenarea îi arată modelului doar exemple de limbaj fluent, fără etichete adevărat sau fals, așa că afirmațiile valide și cele invalide se deosebesc greu. Tiparele consecvente, precum ortografia, dispar ca erori odată cu scara modelului. Faptele arbitrare și rar menționate, cum ar fi ziua de naștere a unei persoane, nu pot fi prezise din tipare, așa că modelul ghicește.

A doua cauză este felul în care sunt notate modelele. OpenAI compară majoritatea testelor cu un test grilă, în care un răspuns lăsat gol primește zero puncte, iar o presupunere norocoasă poate primi puncte, deci un model care ghicește mereu arată mai bine în clasamentele bazate doar pe acuratețe. Exemplul din fișa de sistem GPT-5, pe testul SimpleQA, arată compromisul.

Model	S-a abținut	Corect	Greșit
gpt-5-thinking-mini	52%	22%	26%
OpenAI o4-mini	1%	24%	75%

Modelul mai vechi are o acuratețe puțin mai mare și face mult mai multe erori. OpenAI concluzionează că acuratețea nu va ajunge niciodată la 100%, pentru că unele întrebări nu pot fi rezolvate cu informațiile disponibile, și că halucinațiile nu sunt inevitabile, fiindcă un model poate spune că nu știe.

Cum arată halucinațiile în practică?

Forma	Exemplu	Cum o prinzi
Citări inventate	O lucrare, un dosar sau un URL care nu există	Caută titlul exact și deschide linkul
Cifre greșite	O statistică, un preț sau o dată afirmate foarte precis	Găsește tabelul original sau recalculează
Fapte depășite	O regulă sau un preț care s-au schimbat după încheierea datelor de antrenare	Folosește căutarea și verifică data paginii
Citate false	Cuvinte atribuite unei persoane sau unui document real	Caută fraza exactă și citește sursa
Citări care nu susțin afirmația	O sursă reală care nu spune ce pretinde răspunsul	Deschide sursa și citește pasajul

Cazurile reale arată miza. În Mata v. Avianca, o instanță federală americană a sancționat avocați care au depus hotărâri judecătorești inexistente, cu citate false create de ChatGPT, și a aplicat o amendă de 5.000 de dolari în iunie 2023. Baza de date AI Hallucination Cases, actualizată ultima dată pe 2 octombrie 2026, urmărește 2.125 de decizii ale instanțelor și tribunalelor în care s-a constatat sau s-a dedus conținut halucinat, dintre care 840 implică avocați.

În afara sălilor de judecată, Deloitte Australia a acceptat să ramburseze parțial 440.000 de dolari australieni pentru un raport guvernamental care conținea un citat fabricat dintr-o hotărâre judecătorească și trimiteri la lucrări de cercetare inexistente. În cazul Moffatt v. Air Canada, un tribunal a obligat compania aeriană să plătească 812 dolari după ce chatbotul ei a dat unui client informații greșite despre tarifele de doliu, potrivit CBC.

Cum reduc căutarea și uneltele halucinațiile?

Căutarea și uneltele îi dau modelului ceva de citit în loc de ceva de reținut. Pagina de ajutor OpenAI listează căutarea (răspunsuri cu surse de pe web), analiza datelor (calcule corecte) și cercetarea aprofundată (răspunsuri cu surse multiple) ca unelte pentru răspunsuri mai ușor de verificat și spune că, fără ele, răspunsurile se bazează pe ce a învățat modelul la antrenare. Ghidul Google de prompting pentru Gemini spune că Gemini poate folosi unelte ca să evite halucinațiile. Recomandă activarea ancorării în Google Search pentru fapte obscure sau recente și a executării de cod pentru orice aritmetică, numărare sau calcul. Ce unelte oferă fiecare asistent diferă, iar comparația noastră despre cel mai bun model AI pentru fiecare sarcină acoperă opțiunile actuale.

Aducerea textului-sursă înainte de răspuns se numește generare augmentată prin regăsire, pe scurt RAG. Ajută, dar nu vindecă problema. Cercetătorii de la Stanford au testat cu peste 200 de întrebări juridice unelte comerciale de cercetare juridică construite pe RAG. Uneltele au greșit mai puțin decât un model general precum GPT-4, dar Lexis+ AI și Ask Practical Law AI au dat informații incorecte în peste 17% din cazuri, iar AI-Assisted Research de la Westlaw în peste 34%. Studiul a găsit și răspunsuri nefundamentate, în care unealta citează o sursă reală care nu susține afirmația, și servilism, în care unealta acceptă o premisă falsă a utilizatorului.

Erorile rămân chiar și când un model rezumă un document pe care îl furnizezi. Clasamentul public Vectara, actualizat pe 11 mai 2026, măsoară cât de des adaugă modelele afirmații nesusținute când rezumă un text-sursă. Ratele au variat de la 1,8% la 24,2%, iar mai multe modele de top s-au aflat între 7% și 12%. Metrica verifică concordanța cu textul furnizat, nu veridicitatea generală, iar clasamentul nu include cele mai noi modele.

Ce obiceiuri de prompting ajută?

Ghidul Anthropic pentru reducerea halucinațiilor listează tehnici care funcționează cu orice chatbot.

• Dă-i voie să spună că nu știe. Anthropic afirmă că acest pas simplu poate reduce drastic informațiile false.
• Pentru documente lungi, de peste 20.000 de tokeni, cere întâi citate cuvânt cu cuvânt și bazează răspunsul doar pe ele.
• Cere un citat justificativ pentru fiecare afirmație și pune modelul să elimine orice afirmație pe care nu o poate susține.
• Rulează același prompt de mai multe ori și compară. Răspunsurile inconsecvente pot semnala o halucinație.
• Spune-i modelului să folosească doar documentele pe care i le dai, nu cunoștințele generale.

Un prompt care le combină:

Răspunde folosind doar textul dintre [TEXT] și [/TEXT]. Pentru fiecare afirmație, adaugă un citat scurt din text care o susține. Dacă textul nu conține răspunsul, scrie: Nu apare în text. Nu folosi cunoștințe din afara textului.
[TEXT] ... [/TEXT]
Întrebare: ...

Anthropic precizează clar că aceste tehnici nu elimină halucinațiile și că informațiile critice trebuie în continuare validate. Ghidul nostru despre cum să folosești AI corect acoperă obiceiurile mai largi de prompting.

Cum verifici răspunsurile AI, pas cu pas?

1. Stabilește miza. O întrebare banală cere o privire rapidă. Banii, sănătatea, dreptul, siguranța și reputația cer o verificare completă.
2. Listează afirmațiile verificabile. Nume, cifre, date, citate și citări.
3. Deschide fiecare sursă. Caută fiecare titlu, urmează fiecare link și citește propoziția pe care se sprijină afirmația.
4. Verifică încrucișat cifrele cheie. Folosește o a doua sursă independentă sau recalculează într-o foaie de calcul.
5. Verifică datele. Uită-te la data publicării și la faptul că o regulă mai nouă nu a înlocuit-o pe cea găsită.
6. Cere o a doua privire. Într-o conversație nouă, lipește răspunsul și întreabă ce ar putea fi greșit. Consideră răspunsul o indicație, nu o dovadă.
7. Păstrează sursele. La documentele de serviciu, notează sursa lângă fiecare afirmație, ca un coleg să poată reverifica.

Hotărârea din Mata v. Avianca consemnează depoziția avocatului, care a spus că lucra sub falsa impresie că ChatGPT nu putea să inventeze cazuri. Verificarea fiecărui caz într-o bază de date juridică ar fi scos problema la iveală.

Când ai nevoie de un expert uman?

Apelează la un profesionist când o greșeală costă scump și e greu de reparat: decizii medicale, documente și consultanță juridică, alegeri fiscale și financiare, lucrări critice pentru siguranță și documente reglementate. Google cere utilizatorilor Gemini să nu se bazeze pe el pentru sfaturi profesionale. În Mata v. Avianca, judecătorul a scris că regulile existente le dau avocaților un rol de filtru pentru a asigura exactitatea documentelor depuse. Tribunalul din cazul Air Canada a constatat că firma nu a luat măsuri rezonabile pentru ca chatbotul să fie corect, deci o companie răspunde pentru ce spune chatbotul ei clienților.

AI-ul tot ajută aici. Folosește-l ca să pregătești întrebări pentru expert, să explici termeni și să rezumi propriile documente, apoi cere expertului să confirme tot ce vrei să pui în practică.

Unde se potrivește Danube Labs

Dacă construiești o funcție AI care nu are voie să inventeze, începem cu un set de evaluare, ca să măsori rata de erori înainte de lansare. Vezi serviciul nostru de sisteme AI sau programează o discuție introductivă gratuită.