Tvrdenie, že zdvorilé výrazy ako „prosím“ a „ďakujem“ stoja OpenAI milióny, nie je len internetový výmysel. Sam Altman, šéf firmy, ktorá stojí za vývojom ChatGPT, túto skutočnosť potvrdil
Ako sa z vtipu stala realita
Sociálnymi sieťami, ale aj renomovanými spravodajskými médiami sa už asi mesiac šíri informácia o tom, že frázy ako „prosím“ a „ďakujem“ v promptoch pre ChatGPT stoja OpenAI milióny.
Spočiatku to pôsobí ako internetový žart či hoax, no pri podrobnejšom skúmaní sa ukáže reálny základ týchto tvrdení. Sam Altman, generálny riaditeľ OpenAI, verejne priznal, že takéto zdvorilostné formulácie spôsobujú spoločnosti náklady rádovo v desiatkach miliónov dolárov ročne.
Prečítaj si tiežTrump tlačí na čínu, Xiaomi, Oppo a ďalší chcú vlastný OS
Návrat Donalda Trumpa do Bieleho domu oživil obchodnú vojnu medzi USA a Čínou. V reakcii na možné sankcie chcú viaceré čínske značky vyvinúť vlastný OS (operačný systém), ktorý by úplne obišiel služby spoločnosti Google...
Z technického hľadiska každé slovo navyše zvyšuje počet tzv. tokenov, ktoré model musí spracovať. Tokeny sú základná jednotka textu pre jazykové modely, a čím viac ich je, tým väčšia výpočtová záťaž vzniká. A keďže ChatGPT denne spracúva miliardy požiadaviek, aj malé nadbytky sa môžu pri takejto škále premietnuť do citeľných nákladov, najmä za elektrinu a výpočtový výkon.
Altman: „Dobre minuté peniaze“
Hoci je výrok o nákladoch v podstate pravdivý, Altman zároveň dodal, že ide o „dobre minuté peniaze“. Jeho poznámka „nikdy nevieš“ naznačuje, že kultúra zdvorilosti má zrejme hodnotu, ktorú nie je možné jednoducho prepočítať. OpenAI tieto náklady nevníma ako problém, ale ako prirodzenú súčasť používateľského správania.
Prečítaj si tiežŠPEKULÁCIA: Bude PlayStation 6 lepšia ako tvoje PC? Možno aj drahšia
Aj keď PlayStation 5 stále patrí medzi špičku herného hardvéru, Sony už aktívne pracuje na jej nástupcovi. Viaceré úniky, vyhlásenia a indície naznačujú, že PlayStation 6 sa objaví na trhu v najbližších troch rokoch...
Z pohľadu modelového učenia majú zdvorilé výrazy dokonca prínos. Pomáhajú modelu lepšie rozpoznať tón, zámer a kontext požiadavky. Zároveň prispievajú k formovaniu kultúry, kde ľudia komunikujú s technológiou tak, ako by komunikovali s človekom. Aj to môže z dlhodobého hľadiska zlepšiť kvalitu interakcie medzi človekom a umelou inteligenciou.
Skutočné náklady na chod umelej inteligencie
Modely ako GPT-4 majú vysoké prevádzkové náklady, ktoré súvisia najmä s výkonom grafických kariet, infraštruktúrou dátových centier a spotrebou elektriny. Frázy ako „ďakujem“ či „prosím“ sa na týchto nákladoch podieľajú len minimálne. Ide skôr o to, že pri obrovskom množstve dopytov každý token navyše tvorí kvapku v mori, ktoré je však veľmi hlboké.
Prečítaj si tiežMegaúspešný seriál Fallout sa vracia 2. sériou. Kedy vyjde?
Postapokalyptický svet sa čoskoro opäť otvorí. Úspešný seriál Fallout od Amazonu má oficiálne ukončené nakrúcanie druhej série a tvorcovia sľubujú ešte väčšie nečakané zvraty, viac príšer a nové legendárne lokality zo sveta hier...
Tvrdenie, že zdvorilé výrazy stoja OpenAI milióny, nie je hoax, ale prekvapivo pravdivé vyhlásenie. Zároveň však nejde o problém, ktorý by mal znepokojovať používateľov. OpenAI náklady akceptuje a vníma ich ako súčasť širšej kultúry interakcie s umelou inteligenciou.
A ak je cena za slušnosť niekoľko miliónov ročne, zrejme to nie je až tak veľa. Navyše, s nadsadením môžeme konštatovať, že možno to raz dopadne ako v tomto meme:
