Halucinacije su temeljna greška u dizajnu AI chatbotova. Kada ChatGPT, Gemini, Copilot ili drugi modeli umjetne inteligencije pruže pogrešnu informaciju, bez obzira na to koliko uvjerljivo zvučali, riječ je o halucinaciji. Umjetna inteligencija može halucinirati neznatno odstupanje, naizgled bezazlenu pogrešku, ili se upustiti u iznošenje klevetničke i potpuno izmišljene optužbe.

Prodaja imovine

Država rasprodaje nekretnine, početna cijena jednog stana je samo 8.000 eura, evo svih detalja

Neovisno o težini pogreške, one će se neizbježno pojaviti ako dovoljno dugo koristite ChatGPT ili njegove konkurente. Razumijevanje kako i zašto ovi sustavi mogu pobrkati ono što je vjerojatno s onim što je istinito ključno je za svakoga tko želi komunicirati s umjetnom inteligencijom.

Budući da ti sustavi generiraju odgovore predviđanjem koja bi sljedeća riječ trebala doći na temelju obrazaca u podacima za obuku, umjesto provjere u odnosu na stvarne činjenice, mogu zvučati uvjerljivo stvarni dok su istovremeno potpuno izmišljeni. Trik je biti svjestan da se halucinacija može pojaviti u svakom trenutku i tražiti tragove koji se kriju pred vama.

Jedna od najiritantnijih stvari kod AI halucinacija jest to što često uključuju naizgled specifične detalje. Izmišljeni odgovor može spominjati datume, imena i druge pojedinosti koje mu daju privid vjerodostojnosti.

Budući da ChatGPT generira tekst koji nalikuje obrascima koje je naučio tijekom obuke, može stvoriti detalje koji se uklapaju u strukturu valjanog odgovora, a da nikada ne upućuju na stvarni izvor. Mogli biste postaviti pitanje o nekoj osobi i vidjeti stvarne djeliće osobnih podataka o pojedincu pomiješane s potpuno izmišljenom pričom.

Ova vrsta specifičnosti čini halucinaciju težom za uočiti jer su ljudi skloni vjerovati detaljnim izjavama. Ipak, ključno je provjeriti bilo koji od tih detalja koji bi vam mogli uzrokovati probleme ako se pokažu netočnima. Ako se spomenuti datum, članak ili osoba ne pojavljuju nigdje drugdje, to je znak da se možda suočavate s halucinacijom.

Povezan s zamkom specifičnosti je i previše samouvjeren ton mnogih AI halucinacija. ChatGPT i slični modeli dizajnirani su da predstavljaju odgovore tečnim, autoritativnim tonom, a kako piše TechRadar, upravo ta samouvjerenost može učiniti da dezinformacije djeluju pouzdano, čak i kada je temeljna tvrdnja neutemeljena. AI modeli optimizirani su za predviđanje vjerojatnih nizova riječi, pa će čak i kada bi trebali biti oprezni oko onoga što pišu, informacije predstaviti s istom sigurnošću kao i točne podatke.

Za razliku od ljudskog stručnjaka koji bi se mogao ograditi ili reći “nisam siguran”, još uvijek je neuobičajeno, iako u posljednje vrijeme češće, da AI model kaže “ne znam”. To je zato što sveobuhvatan odgovor nagrađuje privid potpunosti umjesto iskrenosti o nesigurnosti.

Novi regulatorni okvir

Dobivanje kriptolicence u Hrvatskoj: ključni rokovi, uvjeti i koraci

Fiskalna stabilnost

Kako banke oblikuju ekonomski rast Hrvatske?

U bilo kojem području gdje sami stručnjaci izražavaju nesigurnost, trebali biste očekivati da pouzdan sustav to i odražava. Primjerice, znanost i medicina često sadrže rasprave ili teorije u razvoju gdje su konačni odgovori nedostižni. Ako ChatGPT odgovori kategoričkom izjavom o takvim temama, proglašavajući jedan jedini uzrok ili univerzalno prihvaćenu činjenicu, ta bi samouvjerenost zapravo mogla signalizirati halucinaciju, jer model popunjava prazninu u znanju izmišljenom pričom umjesto da ukaže na sporna područja.

Duhovi u citatima

Citati i reference odličan su način za potvrdu istinitosti onoga što ChatGPT navodi. No, ponekad će pružiti ono što izgledaju kao legitimne reference, osim što ti izvori zapravo ne postoje. Ova vrsta halucinacije posebno je problematična u akademskom ili profesionalnom kontekstu. Student bi mogao izraditi pregled literature na temelju lažnih citata koji izgledaju besprijekorno formatirani, s uvjerljivim nazivima časopisa.

stanje na tržištima

Cijene nafte oštro pale nakon popuštanja napetosti oko Irana, dolar oslabio

Kasnije se ispostavi da se rad temelji na referencama koje se ne mogu pronaći u provjerljivim publikacijama. Uvijek provjerite može li se citirani rad, autor ili časopis pronaći u uglednim akademskim bazama podataka ili putem izravne internetske pretrage. Ako se ime čini neobično specifičnim, ali ne daje rezultate pretrage, vrlo je moguće da je riječ o “duhovnom citatu” koji je model izradio kako bi njegov odgovor zvučao autoritativno.

Proturječja unutar razgovora

Samouvjerene tvrdnje s pravim referencama su sjajne, ali ako si ChatGPT proturječi, nešto možda ipak nije u redu. Zato su korisna dodatna pitanja. Budući da generativna umjetna inteligencija nema ugrađenu bazu podataka koju konzultira radi dosljednosti, može si proturječiti kada je se dodatno ispita. To se često očituje kada postavite dodatno pitanje koje se fokusira na raniju tvrdnju.

Ako se noviji odgovor razlikuje od prvog na način koji se ne može pomiriti, jedan ili oba odgovora vjerojatno su halucinacija. Srećom, ne trebate gledati dalje od samog razgovora kako biste uočili ovaj pokazatelj. Ako model ne može održati dosljedne odgovore na logički povezana pitanja unutar iste konverzacijske niti, izvorni odgovor vjerojatno od početka nije imao činjeničnu osnovu.

Logika koja prkosi stvarnosti

Čak i ako unutarnja logika nije proturječna, logika ChatGPT-ja može djelovati pogrešno. Ako je odgovor nedosljedan s ograničenjima stvarnog svijeta, obratite pozornost. ChatGPT piše tekst predviđanjem nizova riječi, a ne primjenom stvarne logike, pa ono što se čini racionalnim u rečenici može se urušiti kada se razmotri u stvarnom svijetu.

Obično sve počinje s lažnim premisama. Na primjer, AI bi mogao predložiti dodavanje nepostojećih koraka u dobro uspostavljeni znanstveni protokol ili jednostavno kršiti zdrav razum. Kao što se dogodilo s Geminijem, AI model je predložio korištenje ljepila u umaku za pizzu kako bi se sir bolje zalijepio. Sigurno bi se bolje zalijepio, ali što se tiče kulinarskih uputa, to baš i nije visoka kuhinja.

Halucinacije u ChatGPT-ju i sličnim jezičnim modelima nusprodukt su načina na koji su ti sustavi trenirani. Stoga će halucinacije vjerojatno postojati sve dok se umjetna inteligencija temelji na predviđanju riječi. Trik za korisnike je naučiti kada vjerovati rezultatu, a kada ga provjeriti.

Prepoznavanje halucinacije sve više postaje ključna vještina digitalne pismenosti. Kako se umjetna inteligencija sve više koristi, logika i zdrav razum bit će od presudne važnosti. Najbolja obrana nije slijepo povjerenje, već informirano propitivanje.