Vještačka inteligencija ponekad iznese pogrešnu informaciju o lijeku sa istim samopouzdanjem kao i tačnu. Taj problem se zove halucinacija: model sastavi odgovor koji zvuči uvjerljivo, a nije potkrijepljen činjenicama. Odgovor prepoznajemo tako što tražimo provjerljiv izvor, uparimo tvrdnju sa zvaničnom informacijom o lijeku i budemo posebno oprezni kod doza, interakcija i trudnoće. Konačnu odgovornost uvijek nosi zdravstveni radnik, ne alat.
Sve više ljudi, i pacijenata i kolega, pita jezičke modele o lijekovima. Odgovori djeluju stručno i tečno, pa je lako povjerovati u svaku rečenicu. Kao farmaceut, mislim da nam je dužnost da objasnimo gdje su granice tih alata i kako da sami provjerimo ono što nam kažu. Pogledajmo šta pokazuju studije i kako da sumnjivu tvrdnju uhvatimo na vrijeme.
Šta je halucinacija i zašto se dešava?
Jezički modeli ne pretražuju bazu lijekova kao što bismo mi pogledali sažetak karakteristika lijeka. Oni predviđaju koja riječ najvjerovatnije slijedi na osnovu obrazaca iz teksta na kojem su trenirani. Zato mogu sastaviti odgovor koji gramatički i stilski izgleda savršeno, a sadrži izmišljen podatak. U medicini to nije sitnica: pogrešna doza ili propuštena interakcija mogu naškoditi pacijentu.
Problem je dokumentovan. U studiji objavljenoj u British Journal of Clinical Pharmacology 2024. godine, farmaceuti su ocijenili odgovore ChatGPT-a na 39 stvarnih pitanja o lijekovima. Samo 10 odgovora ocijenjeno je kao zadovoljavajuće, dakle skoro tri četvrtine nije bilo dovoljno tačno ili potpuno. Kada je model zamoljen da navede reference, u pojedinim slučajevima je izmislio naučne izvore koji ne postoje (Grossman i saradnici, 2024).
Koliko su ti alati zapravo pouzdani?
Slika se ponavlja i u drugim istraživanjima. U analizi odgovora na svakodnevna bolnička farmaceutska pitanja, tačnih i potpunih bilo je samo oko 26 posto odgovora, dok je oko 22 posto bilo potpuno netačno. Zabrinjava i to što je ponovljivost bila slaba: kada bi se isto pitanje postavilo ponovo, tek desetak posto odgovora ostalo bi isto (studija o tačnosti ChatGPT-a u bolničkoj farmaceutskoj praksi, 2024).
Poruka nije da su ovi alati bezvrijedni, nego da nisu izvor istine o lijekovima. Oni su pomoćnik koji griješi, a mi smo ti koji moramo prepoznati grešku.
Po čemu se prepoznaje sumnjiv odgovor?
Nekoliko znakova upozorenja vrijedi zapamtiti. Prvi je odsustvo izvora ili izvor koji ne možete pronaći: ako model navede studiju, potražite je po naslovu i autoru, jer izmišljene reference djeluju uvjerljivo. Drugi je pretjerana sigurnost kod pitanja gdje struka nije jednoznačna, na primjer kod doziranja u trudnoći ili kod bubrežne slabosti. Treći je nepodudaranje sa zvaničnim dokumentom: svaku tvrdnju o dozi, indikaciji ili interakciji treba uporediti sa sažetkom karakteristika lijeka ili sa bazom kao što je ona nacionalne agencije za lijekove. Četvrti je nedosljednost: ako isti upit dva puta da različit odgovor, to je jasan signal da se ne treba osloniti na njega.
Ko snosi odgovornost za AI odgovor?
Ovdje struka ima jasan stav. Međunarodna farmaceutska federacija (FIP) je u svojoj izjavi o vještačkoj inteligenciji u farmaceutskoj praksi iz 2025. godine naglasila da farmaceuti ne smiju tretirati rezultate AI alata kao apsolutnu istinu i da moraju razumjeti šta alat radi, na kojim podacima i koja su mu ograničenja (FIP, 2025). Slično, Svjetska zdravstvena organizacija je u smjernicama o velikim jezičkim modelima u zdravstvu iz 2024. istakla potrebu za ljudskim nadzorom i provjerom prije primjene (WHO, 2024).
Drugim riječima, alat može ubrzati posao, ali odluku donosi i potpisuje čovjek. Za širu sliku o tome kako se AI uklapa u svakodnevni rad, pogledajte i tekst Kako vještačka inteligencija mijenja rad u apoteci?, a o tome šta reći pacijentu koji je pitao chatbota, tekst Smiju li pacijenti pitati ChatGPT o lijekovima?.
Šta ovo znači za vas?
Koristite AI kao polaznu tačku, nikada kao završnu riječ o lijeku. Svaku tvrdnju o dozi, interakciji, trudnoći ili dojenju provjerite u zvaničnom izvoru prije nego što je primijenite ili proslijedite. Ako ste pacijent, najsigurnije je da odgovor koji ste dobili od chatbota donesete farmaceutu ili ljekaru na provjeru, umjesto da ga primijenite sami.
Često postavljana pitanja
Šta je AI halucinacija u kontekstu lijekova?
To je situacija u kojoj jezički model iznese informaciju koja zvuči tačno, ali nije potkrijepljena činjenicama, na primjer izmišljena doza, nepostojeća studija ili pogrešna interakcija.
Mogu li vjerovati AI odgovoru ako navede izvor?
Ne automatski. Modeli ponekad izmisle reference. Provjerite postoji li navedena studija i da li zaista tvrdi ono što je model naveo.
Koliko su tačni AI odgovori o lijekovima?
Studije iz 2024. pokazale su da je znatan dio odgovora bio nepotpun ili netačan, u jednoj analizi zadovoljavajuće je bilo samo 10 od 39 odgovora, uz slabu ponovljivost.
Ko je odgovoran ako AI da pogrešan savjet?
Odgovornost nosi zdravstveni radnik koji donosi odluku. Prema FIP-u, AI rezultati se ne smiju tretirati kao apsolutna istina, nego se provjeravaju.
Kako pacijent da se zaštiti?
Odgovor dobijen od chatbota ne treba primijeniti bez provjere. Najbolje je pitati farmaceuta ili ljekara, posebno kod doza, interakcija i trudnoće.
