Najopasniji AI odgovor nije onaj koji zvuči očito pogrešno. Takav ćete obično odmah odbaciti.
Problem je odgovor koji je samouvjeren, logičan i lijepo napisan — ali netočan.
Generativni modeli mogu izmisliti činjenicu, pogrešno povezati podatke ili navesti izvor koji ne potvrđuje tvrdnju. Zbog toga „ChatGPT kaže” nije izvor, kao što ni „našao sam na internetu” nije dovoljno dobra provjera.
Razina provjere ovisi o riziku
Ako AI predloži naslov članka, posljedica pogreške je mala. Ako daje informaciju o poreznom propisu, ugovoru, medicinskom pitanju ili poslovnoj investiciji, standard mora biti puno viši.
Kod važnih tvrdnji otvorite izvor.
Ako model navede istraživanje, provjerite postoji li i govori li stvarno ono što piše u odgovoru. Za hrvatski propis tražite Narodne novine ili službenu stranicu tijela. Za financijske podatke tražite službena izvješća kompanije. Za funkcije nekog AI proizvoda pogledajte njegovu aktualnu dokumentaciju.
Pritom razlikujte činjenicu od zaključka. AI može ispravno navesti nekoliko činjenica, a zatim izvući zaključak koji iz njih ne proizlazi.
Za posebno važnu informaciju dobro je koristiti i drugi, neovisan put provjere.
Ponovno pitati isti model drugim riječima nije isto što i neovisna potvrda.
Profesionalna AI pismenost zato nije samo znati postaviti pitanje. To je znati kada odgovor nije dovoljno dobar da biste mu vjerovali bez provjere.