Veľké jazykové modely (LLM) sú tu s nami už istý čas. Zatiaľ neprebrali nadvládu nad svetom. Skynet sa nekoná a ani Šestka z Battlestar Galactica sa medzi nami neprechádza. Napriek tomu čoraz výraznejšie ovplyvňujú naše životy, či už priamo, alebo nepriamo.
Na túto tému nedávno upozornil portál Futurism. LLM sú pomerne dobrými sluhami, no postupne sa na niektorých miestach stávajú pánmi. Svoje by o tom vedeli rozprávať aj v americkom Kongrese, kde tieto chatboty podľa dostupných informácií pomáhajú s triedením pošty, prípravou prejavov, ba dokonca s návrhmi dodatkov k zákonom.
Keďže tieto systémy dokážu vytvoriť presvedčivo znejúci text za niekoľko sekúnd, je ľahké zabudnúť, že zároveň často produkujú chyby, vymyslené informácie alebo nezmyselné formulácie. Podobné zlyhania pritom nie sú ničím novým. Právnici už boli pristihnutí pri citovaní neexistujúcich súdnych rozhodnutí, ktoré vytvorila umelá inteligencia.
Prečítaj si tiežVIDEO: Takto vyzerá gameplay GTA VI. Uniknuté videá a celá mapa sú asi pravé
Na internete sa začali šíriť dve videá údajne zachytávajúce skutočné hranie GTA VI a niekoľko obrázkov mapy, ktorá má zobrazovať celý herný svet. Materiály navyše naznačujú viacero doteraz nepotvrdených herných mechaník a je tu aj nepriama súvislosť s kryptomenami....
Veľké poradenské spoločnosti zase odovzdali správy s bizarnými závermi a vymyslenými údajmi. Objavili sa aj prípady, keď učitelia používali AI na úpravu študentských esejí, hoci (paradoxne) samotné práce pravdepodobne vznikli s pomocou rovnakých nástrojov. Technológia sa tak dostáva do zvláštnej slučky. Jeden človek nechá vytvoriť text, druhý ho nechá skontrolovať chatbotom a výsledok už nikto poriadne nečíta.
Poďme však späť k politike. Asi najznámejšie použitie LLM sa spája s kanceláriou poslankyne Anny Pauliny Luny z Floridy. Jej tím pripravoval podklady k dodatku súvisiacemu so zákonom National Defense Authorization Act, ktorý sa týka obrany a fungovania amerického ministerstva obrany. Do verejného záznamu sa však omylom dostala časť výstupu z modelu Claude. A nešlo pritom o nenápadnú štylistickú chybu, ktorú by postrehla iba odborná redakcia.
Čo konkrétne od AI zostalo v oficiálnom dokumente?
V zverejnenom texte zostali útržky nezrozumiteľných formulácií, časová pečiatka a dokonca aj označenie „Claude responded:“ (Claude odpovedal). V ďalšej časti sa objavila veta s útržkami typu „increasing example specific factors“ a odkazom na skorší návrh H.R. 100. Takýto text by bol nepríjemným prešľapom v bežnom e-maile, no v prípade verejného záznamu k obrannému zákonu ide o podstatne vážnejší problém.
Prečítaj si tiežDave Bautista si zahrá Kratosa. Seriál God of War museli reštartovať
Dave Bautista preberá rolu Kratosa v seriáli God of War po zranení Ryana Hursta. Štúdio zahodí staré zábery a nakrúcanie štartuje od znova....
Poslankyňa sa samozrejme snažila situáciu vysvetliť tým, že umelá inteligencia podľa nej nevytvárala samotné znenie zákona. Jej tím mal Claude použiť na prípravu zhrnutia dodatku a na kontrolu pravopisu či gramatiky. Zároveň uviedla, že podobné nástroje využíva veľké množstvo pracovníkov v Kongrese a že ona osobne dáva prednosť Groku, zatiaľ čo jej asistent uprednostňuje Claude.
Ako sme už vyššie spomenuli, používanie LLM ako nástroja je v poriadku, no výstup z neho je stále potrebné kontrolovať a overovať. Chatbot môže vytvoriť text, ktorý znie odborne, no obsahuje nesprávne údaje, neexistujúce odkazy alebo formulácie s úplne iným významom. Trochu to pripomína aj našich politikov (žmurk-žmurk). Akurát s tým rozdielom, že oni sú ľudia.
