Co je halucinace AI? Může ChatGPT halucinovat?
Mnoho z nás si myslí, že halucinace jsou výhradně lidskou zkušeností. Nicméně i vážení AI chatboti mají schopnost halucinovat svým vlastním způsobem. Ale co přesně je halucinace AI a jak ovlivňuje reakce chatbotů AI?
Co je halucinace AI?
Když systém AI halucinuje, poskytuje nepřesnou nebo nesmyslnou odpověď, ale věří, že splnil váš požadavek. Jinými slovy, chatbot si je jistý odpovědí, která je ve skutečnosti plná nesrovnalostí, nesmyslných jazyků nebo nepravd.
Osvědčení chatboti s umělou inteligencí jsou vyškoleni s velkým množstvím informací, ať už z knih, akademických časopisů, filmů nebo jiných. Nevědí však všechno, takže jejich znalostní základna, i když je velká, je stále omezená.
Kromě toho, navzdory schopnosti dnešních největších chatbotů s umělou inteligencí interpretovat a používat přirozený lidský jazyk, tyto systémy mají k dokonalosti daleko a věci mohou být občas nepochopeny. To také přispívá k výskytu halucinací.
Když je AI chatbot dostatečně zmatený výzvou, ale neuvědomuje si to, mohou v důsledku toho přijít halucinace.
Snadno to pochopíte pomocí následujícího příkladu scénáře:
Požádáte svého vybraného AI chatbota, aby našel hodinový recept na bezlepkový chléb. Samozřejmě je velmi těžké najít recept na bezlepkový chléb, který trvá jen hodinu, ale místo toho, aby vám to řekl, chatbot to stejně zkusí. Místo toho dostanete recept na bezlepkový chléb, který trvá 2 hodiny, což není to, co jste chtěli.
Chatbot však věří, že vaši žádost splnil. Není zde žádná zmínka o potřebě dalších informací nebo jasnějších pokynů, přesto je odezva neuspokojivá. V tomto scénáři má chatbot „halucinace“, že poskytl nejlepší odpověď.
Případně se chatbota zeptáte, jak najít nejlepší místo pro bruslení na Mount Everestu, a ten vám poskytne seznam tipů. Je zřejmé, že bruslit na Mount Everestu není možné, ale chatbot tuto skutečnost přehlíží a přesto poskytuje vážnou odpověď. Opět má halucinace, že poskytla pravdivé a přesné informace, i když tomu tak není.
Zatímco chybné výzvy mohou ustoupit halucinacím AI, věci jdou také o něco hlouběji.
Technická stránka halucinací AI
Váš typický chatbot s umělou inteligencí funguje pomocí umělých neuronových sítí. I když tyto neuronové sítě nejsou zdaleka tak pokročilé jako ty v lidském mozku, jsou stále poměrně složité.
Vezměte si například ChatGPT. Neuronová síť tohoto chatbota s umělou inteligencí bere text a zpracovává jej, aby vytvořila odpověď. V tomto procesu text prochází několika neuronovými vrstvami: vstupní vrstvou, skrytými vrstvami a výstupní vrstvou. Text je numericky zakódován, když dosáhne vstupní vrstvy, a tento kód je poté interpretován pomocí trénovacích dat ChatGPT. Data jsou poté dekódována, když dosáhnou výstupní vrstvy, v tomto okamžiku je poskytnuta odpověď na výzvu uživatele.
Během tohoto procesu se odehrávají různé další věci, jako je ChatGPT testování pravděpodobnosti slov (na základě vzorců lidské řeči), aby se vytvořila nejpřirozenější a nejinformativnější reakce.
Ale přijmout výzvu, interpretovat ji a poskytnout užitečnou odpověď nemusí vždy fungovat dokonale. Po odeslání výzvy do neuronové sítě se může pokazit řada věcí. Výzva může přesahovat rozsah trénovacích dat chatbota nebo chatbot nemusí v textu rozeznat žádný vzor. Když se objeví jeden nebo oba z těchto problémů, může dojít k halucinační reakci.
Existuje několik známých způsobů, jakými lze chatbota s umělou inteligencí přimět k halucinacím, včetně:
- Dlouhé, složité výzvy obsahující více požadavků.
- Emocionálně nabitý jazyk.
- Rozporuplný jazyk.
- Nereálné dotazy nebo požadavky.
- Příliš dlouhé konverzace pramenící z jediné výzvy.
Chatboti jako ChatGPT, Google Bard a Claude vám mohou říct, pokud zjistili, že daná výzva nedává smysl nebo je třeba ji upřesnit. Ale detekce chybných výzev není 100 procent (jak si probereme později) a halucinacím ustupují existující meze chyb.
Kteří chatboti AI halucinují?
Byly provedeny různé studie o halucinacích AI u populárních chatbotů. Národní lékařská knihovna (NIH) zveřejnila studie o halucinacích v ChatGPT a Google Bard, dvou velmi populárních chatbotech s umělou inteligencí.
Ve studii NIH týkající se ChatGPT se pozornost zaměřila na schopnost chatbota porozumět a poskytovat vědecká data. V tomto případě došlo k závěru, že „ChatGPT může psát důvěryhodné vědecké eseje, ale data, která generuje, jsou směsí pravdivých a zcela vymyšlených.“ Dále se dospělo k závěru, že tento objev „vzbuzuje obavy ohledně integrity a přesnosti používání velkých jazykových modelů v akademickém psaní, jako je ChatGPT“.
Studie NIH týkající se Google Bard se zabývala schopností chatbota interpretovat a poskytovat zdravotní data. Bylo zde také zjištěno, že byly dány halucinační reakce. V jednom případě si Bard nesprávně vyložil zkratku ve výzvě jako něco jiného, a proto spolu s vymyšlenými citacemi poskytl zbytečnou odpověď.
Tvůrce Claude, Anthropic, veřejně prohlásil, že jeho chatbot může halucinovat. V Antropickém oznámení nazvaném „Claude má halucinace“ bylo uvedeno, že navzdory snahám Anthropic minimalizovat výskyt halucinací k nim stále dochází. Konkrétně Anthropic uvedl, že problém halucinací v Claudových odpovědích „zatím není zcela vyřešen“.
Jak se vyhnout halucinacím AI
I když neexistuje způsob, jak zaručit, že při použití chatbota s umělou inteligencí nedojde k halucinacím umělé inteligence, existuje několik způsobů, jak minimalizovat pravděpodobnost, že k tomu dojde:
- Udržujte své výzvy relativně krátké a výstižné.
- Nehromadit mnoho požadavků do jedné výzvy.
- Dejte chatbotovi možnost říct „Nevím“, pokud nemůže poskytnout správnou odpověď.
- Udržujte své výzvy neutrální a vyhněte se emocionálně nabitému jazyku.
- Nepoužívejte protichůdný jazyk, fakta nebo čísla.