Vještačka inteligencija ponekad iznese pogrešnu informaciju o lijeku sa istim samopouzdanjem kao i tačnu. Taj problem se zove halucinacija: model sastavi odgovor koji zvuči uvjerljivo, a nije potkrijepljen činjenicama. Odgovor prepoznajemo tako što tražimo provjerljiv izvor, uparimo tvrdnju sa zvaničnom informacijom o lijeku i budemo posebno oprezni kod doza, interakcija i trudnoće. Zdravstveni radnik koji koristi AI zadržava profesionalnu odgovornost za provjeru i primjenu informacije.
Sve više ljudi, i pacijenata i kolega, pita jezičke modele o lijekovima. Odgovori djeluju stručno i tečno, pa je lako povjerovati u svaku rečenicu. Kao farmaceut, mislim da nam je dužnost da objasnimo gdje su granice tih alata i kako da sami provjerimo ono što nam kažu. Pogledajmo šta pokazuju studije i kako da sumnjivu tvrdnju uhvatimo na vrijeme.
Šta je halucinacija i zašto se dešava?
Osnovni jezički model ne pretražuje bazu lijekova onako kako bismo mi pogledali sažetak karakteristika lijeka. On sastavlja odgovor predviđajući koji dio teksta najvjerovatnije slijedi, na osnovu obrazaca naučenih tokom treniranja. Pojedini savremeni AI sistemi mogu dodatno pretraživati internet ili povezane baze podataka, ali ni tada pronađeni izvor nije garancija da ga je model ispravno protumačio. Zato odgovor može gramatički i stilski izgledati savršeno, a sadržati izmišljen podatak. U medicini to nije sitnica: pogrešna doza ili propuštena interakcija mogu naškoditi pacijentu.
Problem je dokumentovan. U studiji Grossman i saradnika objavljenoj u British Journal of Clinical Pharmacology 2024. godine, farmaceuti su ocijenili odgovore ChatGPT-a na 39 stvarnih pitanja o lijekovima. Samo 10 odgovora zadovoljilo je kombinovani kriterij: da odgovor bude direktan, tačan, potpun i relevantan. Ostalih 29 nije nužno bilo netačno, ali nije ispunilo sve uslove, najčešće zbog izostanka direktnog odgovora, netačnosti ili nepotpunosti. Važno je znati da je ovo istraživanje provedeno na besplatnoj verziji ChatGPT-a 3.5; rezultati ne predstavljaju univerzalnu stopu tačnosti svih današnjih AI modela, a sami autori navode da bi novije verzije mogle dati drugačije rezultate.
Poseban nalaz tiče se referenci. Kada je model zamoljen da navede izvore, naveo ih je u samo osam odgovora, i svaki od tih osam sadržao je najmanje jednu izmišljenu referencu; četiri su sadržala isključivo izmišljene, a četiri kombinaciju autentičnih i izmišljenih. Izmišljeni izvori izgledali su uredno: ispravan format, URL, imena stvarnih časopisa. Tek pokušaj pronalaženja članka otkrivao je da ne postoje.
Koliko su ti alati zapravo pouzdani?
Slika se ponavlja i u drugim istraživanjima. U nizozemskoj analizi svakodnevnih bolničkih farmaceutskih pitanja (van Nuland i saradnici, 2024), ChatGPT 3.5 dao je konkretan savjet za 23 od 30 postavljenih pitanja. Od tih 23 odgovora, tačnih i potpunih bilo je 26 posto, dok je 22 posto bilo potpuno netačno. Ponovljivost je testirana na deset pitanja i bila je slaba: kod samo jednog od deset ponovljenih pitanja odgovor je ostao u istoj kategoriji prema prisustvu savjeta i tačnosti. Autori zaključuju da ChatGPT u toj verziji i tom načinu upotrebe predstavlja sigurnosni rizik za bolnička farmaceutska pitanja.
Novija literatura daje nijansiraniju sliku. Sistematski pregled objavljen 2026. godine obuhvatio je 18 studija sa ukupno 2.284 upita, scenarija, parova lijekova ili kliničkih slučajeva, koristeći ChatGPT-4 klasu i novije modele. Pokazao je da tačnost jako zavisi od zadatka: modeli su bolji kod strukturisanih i jednostavnijih informacija za pacijente, dok značajni problemi ostaju kod procjene ozbiljnosti interakcija, sigurnosti lijekova kod bubrežne bolesti, farmakovigilance i složenog izbora terapije. Zaključak pregleda je jasan: AI može biti pomoćni alat, ali dokazi ne podržavaju autonomno korištenje za sigurnosno kritične odluke o lijekovima.
Poruka nije da su ovi alati bezvrijedni, nego da nisu izvor istine o lijekovima. Oni su pomoćnik koji griješi, a mi smo ti koji moramo prepoznati grešku.
Po čemu se prepoznaje sumnjiv odgovor?
Nekoliko znakova upozorenja vrijedi zapamtiti. Prvi je odsustvo izvora ili izvor koji ne možete pronaći: ako model navede studiju, potražite je po naslovu i autoru, jer izmišljene reference djeluju uvjerljivo. Drugi je pretjerana sigurnost kod pitanja gdje struka nije jednoznačna, na primjer kod doziranja u trudnoći ili kod bubrežne slabosti. Treći je nepodudaranje sa zvaničnim dokumentom: tvrdnje o odobrenoj dozi, indikaciji i poznatim interakcijama treba prvo provjeriti u sažetku karakteristika lijeka, na primjer u bazi lijekova Agencije za lijekove i medicinska sredstva BiH. Pritom sažetak karakteristika lijeka jeste prva adresa, ali za interakcije, trudnoću, bubrežnu insuficijenciju ili primjenu van odobrene indikacije ponekad nije dovoljan, pa se koriste specijalizovane stručne baze, smjernice ili primarna literatura. Četvrti znak je nedosljednost: ako isti upit dva puta da različit odgovor, to je jasan signal da se ne treba osloniti na njega.
Ko snosi odgovornost za AI odgovor?
Ovdje struka ima jasan stav. Međunarodna farmaceutska federacija (FIP) je u svojoj izjavi o vještačkoj inteligenciji u farmaceutskoj praksi iz 2025. godine naglasila da farmaceuti moraju zadržati profesionalno prosuđivanje i odgovornost za odluke podržane AI alatima, uz odgovarajući ljudski nadzor. AI treba služiti kao podrška, a ne zamjena za stručno odlučivanje. Slično, Svjetska zdravstvena organizacija je u smjernicama o velikim multimodalnim modelima iz januara 2024. istakla potrebu za ljudskim nadzorom, validacijom i uključivanjem zdravstvenih profesionalaca u razvoj i primjenu ovih sistema.
Zdravstveni radnik koji koristi AI pri donošenju kliničke odluke zadržava profesionalnu odgovornost za provjeru i primjenu te informacije; AI ne treba zamijeniti stručno prosuđivanje. Šira odgovornost je pritom podijeljena: svoje obaveze imaju i ustanove, proizvođači alata i regulatori. A kada pacijent samostalno koristi chatbot, zdravstveni radnik u tom razgovoru uopšte nije učestvovao, i upravo zato je provjera kod farmaceuta ili ljekara toliko važna. Za širu sliku o tome kako se AI uklapa u svakodnevni rad, pogledajte i tekst Kako vještačka inteligencija mijenja rad u apoteci?, a o tome šta reći pacijentu koji je pitao chatbota, tekst Smiju li pacijenti pitati ChatGPT o lijekovima?.
Šta ovo znači za vas?
Koristite AI kao polaznu tačku, nikada kao završnu riječ o lijeku. Svaku tvrdnju o dozi, interakciji, trudnoći ili dojenju provjerite u zvaničnom izvoru prije nego što je primijenite ili proslijedite. Ako ste pacijent, najsigurnije je da odgovor koji ste dobili od chatbota donesete farmaceutu ili ljekaru na provjeru, umjesto da ga primijenite sami.
Često postavljana pitanja
Šta je AI halucinacija u kontekstu lijekova?
To je situacija u kojoj jezički model iznese informaciju koja zvuči tačno, ali nije potkrijepljena činjenicama, na primjer izmišljena doza, nepostojeća studija ili pogrešna interakcija.
Mogu li vjerovati AI odgovoru ako navede izvor?
Ne automatski. Modeli ponekad izmisle reference. Provjerite postoji li navedena studija i da li zaista tvrdi ono što je model naveo.
Koliko su tačni AI odgovori o lijekovima?
Studije iz 2024, rađene na ChatGPT-u 3.5, pokazale su da znatan dio odgovora nije bio dovoljno tačan ili potpun: u jednoj analizi zadovoljavajuće je bilo 10 od 39 odgovora, uz slabu ponovljivost. Noviji modeli u nekim zadacima daju bolje rezultate, ali dokazi i dalje ne podržavaju samostalnu upotrebu za odluke o dozama i interakcijama.
Ko je odgovoran ako AI da pogrešan savjet?
Zdravstveni radnik koji koristi AI u donošenju odluke zadržava profesionalnu odgovornost za provjeru i primjenu informacije. Prema FIP-u, farmaceut zadržava odgovornost za odluke podržane AI alatima, a AI treba koristiti uz ljudski nadzor i stručno prosuđivanje.
Kako pacijent da se zaštiti?
Odgovor dobijen od chatbota ne treba primijeniti bez provjere. Najbolje je pitati farmaceuta ili ljekara, posebno kod doza, interakcija i trudnoće.
Izvori
- Grossman S, Zerilli T, Nathan JP. Appropriateness of ChatGPT as a resource for medication-related questions. British Journal of Clinical Pharmacology. 2024;90(10):2691-2695. https://bpspubs.onlinelibrary.wiley.com/doi/10.1111/bcp.16212
- van Nuland M, Lobbezoo AF, i sar. Assessing accuracy of ChatGPT in response to questions from day to day pharmaceutical care in hospitals. Exploratory Research in Clinical and Social Pharmacy. 2024. https://pmc.ncbi.nlm.nih.gov/articles/PMC11267013/
- Azmakan H, i sar. ChatGPT as a digital pharmacist: A systematic review of medication counselling accuracy. Intelligence-Based Medicine. 2026;15:100417. doi:10.1016/j.ibmed.2026.100417. https://doi.org/10.1016/j.ibmed.2026.100417
- International Pharmaceutical Federation (FIP). Statement of Policy: Artificial intelligence in pharmacy practice. 2025. https://www.fip.org/file/6354
- World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. 2024. https://www.who.int/publications/i/item/9789240084759
- Agencija za lijekove i medicinska sredstva Bosne i Hercegovine. Baza lijekova. https://lijekovi.almbih.gov.ba/SpisakLijekova
