Dobar prompt ≠ istinit odgovor: prepoznavanje i prevencija halucinacija AI alata u obrazovnoj praksi

Generativni AI alati poput ChatGPT-a sve su prisutniji u obrazovanju. No, zajedno s njihovom upotrebom raste i pojava „halucinacije“ – uvjerljivih, ali često netočnih ili izmišljenih odgovora koje modeli generiraju, osobito kada su upiti (promptovi) nejasni, preopćeniti ili sugeriraju postojanje podataka. To se često zanemaruje, i kod učenika ali i učitelja, što dovodi do širenja netočnih informacija, pogrešnih zaključaka te lažni osjećaj sigurnosti u točnost odgovora. Ideja ovog BoF-a jest fokus na konkretne strategije prepoznavanja, prevencije i otvorene rasprave o AI halucinacijama u obrazovanju, s naglaskom na razvoj kritičkog mišljenja, odgovornu i svjesnu primjenu alata te praktične primjere rada s učenicima. Rad analizira povezanost kvalitete upita i pojave halucinacija u generativnim AI alatima. Iako precizan i jasno strukturiran prompt smanjuje vjerojatnost netočnih ili izmišljenih informacija, halucinacije se ne mogu isključiti jer modeli generiraju tekst na temelju statističke vjerojatnosti, a ne provjere činjenica. Primjer halucinacije može biti zahtjev poput: „Navedi tri znanstvena rada iz 2023. godine s autorima i DOI brojevima koji dokazuju određenu tvrdnju“, pri čemu model može konstruirati uvjerljive, ali nepostojeće radove. Suprotno, formulacija: „Ukoliko nema izvora, napiši da informacija nije potvrđena i ne izmišljaj reference“ smanjuje rizik netočnosti jer modelu daje mogućnost za iskazivanje nesigurnosti ili nepostojanja izvora. Rad ističe važnost preciznog, ali realno postavljenog upita te potrebu za sustavnim kritičkim vrednovanjem AI odgovora, osobito u obrazovanju. Aktivna rasprava pomoći će sudionicima u oblikovanju realnih očekivanja i jasnih smjernica za rad s AI-om u učionici, bez prevelikih iluzija o njegovoj nepogrešivosti. Diskusiju vode nagrađivani učitelji informatike, izvrsni savjetnici s iskustvom u radu s digitalnim tehnologijama i integraciji AI alata u učionice koji redovito istražuju i primjenjuju mogućnosti novih tehnoloških dostignuća za unaprjeđenje nastavnog procesa. Njihovo znanje i praktično iskustvo omogućuju uravnotežen i konstruktivan pristup raspravi, uz naglasak na profesionalnu odgovornost, etička pitanja i stvarne izazove iz obrazovne prakse.

Ciljana grupa: Učitelji/ce i profesori/ce osnovnih i srednjih škola.

Predznanja: Nisu potrebna predznanja.

Broj sudionika:

Uvjeti za sudjelovanje na radionici: