Umelá inteligencia je v súčasnosti až príliš často skloňované slovné spojenie a neraz ide aj o marketing. Dnešné systémy však stále nie sú všeobecnou umelou inteligenciou (AGI). Najznámejšie generatívne AI služby stoja prevažne na veľkých jazykových modeloch (LLM), ktoré sa učia vzory z obrovského množstva tréningových dát. Dokážu vytvárať nový obsah, no všeobecnú inteligenciu porovnateľnú s človekom zatiaľ nemajú.
Vývoj je však neúprosný, spoločnosti sa predbiehajú v tom, ktorá vydá pokročilejší model a medzi najvýraznejších rivalov patria OpenAI a Anthropic. Tento urýchlený vývoj už neraz vyvolal kritiku, či už od vedcov, vizionárov alebo aj od samotných vývojárov. Dokonca aj Sam Altman opakovane podporil reguláciu najvýkonnejších systémov AI. Konkurencia je však silná a peniaze sú potrebné. Na tému upozornil portál Techspot.
Urýchlený vývoj očividne znepokojil aj 27-ročného bývalého výskumníka OpenAI a Anthropicu Jacoba Coxona. Vo svojom verejnom vyhlásení obvinil obe spoločnosti z neuvážených pretekov s cieľom dosiahnuť superinteligenciu schopnú vlastného zdokonaľovania. Podľa neho doslova „hazardujú s našimi životmi“.
Preteky medzi OpenAI a Anthropicom naberajú na obrátkach
K jeho vyhláseniu sa vyjadril aj Evan Hubinger, ktorý v Anthropicu vedie oblasť výskumu alignment science, teda zosúladenia AI s ľudskými cieľmi. Reagoval slovami, ktoré výrazne zmenili tón celej debaty.
„Jacob má pravdu, naozaj úprimne veríme, že AI by mohla zabiť všetkých ľudí! Osobne si myslím, že šanca je väčšia ako 10 percent v priebehu nasledujúceho desaťročia,“ napísal Hubinger na X.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Tento odhad, viac ako jedna z desiatich šancí na vyhynutie ľudstva v priebehu nasledujúceho desaťročia, nie je marketingová fráza ani hypotéza z akademického článku. Je to osobný odhad človeka, ktorý v Anthropicu patrí medzi vedúcich výskumníkov zaoberajúcich sa tým, ako udržať budúce AI systémy pod kontrolou.
Prečítaj si tiežRECENZIA: The Blood of Dawnwalker je krvavá jazda 14. storočím, v ktorej sa hrá o čas
Veteráni zodpovední za Zaklínača 3 prinášajú temné upírske RPG. The Blood of Dawnwalker láka na striedanie dňa a noci, Oravský hrad aj neľútostnú hru o čas....
Hubinger zároveň priznal, že napriek úsiliu firma zatiaľ nemá vyriešený problém zosúladenia prípadnej superinteligencie.
„Snažíme sa ako vieme, ale zatiaľ nemáme plán, ako sa prispôsobiť superinteligencii, a nie sme ani na ceste k tomuto cieľu,“ uviedol.
Coxon vo svojom vyhlásení načrtol dynamiku, ktorá podľa neho poháňa celý priemysel. V OpenAI si vraj mnohí zamestnanci „neuvedomujú v akom ohrození je civilizácia“ a v Anthropicu situáciu vnímajú vážnejšie, no cítia sa uväznení: „Veria, že nik iný nebude konať zodpovedne, takže to musia urobiť oni, napriek riziku.“.
Inými slovami, ak Anthropic spomalí, konkurencia ho môže predbehnúť a svet podľa tejto logiky dostane menej bezpečnú superinteligenciu. Je to klasická dilema väzňa v globálnom meradle.
Prečítaj si tiežMasívny 12 TB únik dát z Valve odhalil vývojárske prototypy aj zrušené hry
Masívny únik dát z Valve sprístupnil 12 TB starých vývojárskych verzií herných klasík aj zrušených projektov....
Samuel Marks, ktorý v Anthropicu vedie výskum scalable oversight, pridal ďalší znepokojujúci detail: „Čím seniornejší zamestnanec, tým viac sa obáva.“. Zároveň uviedol, že podľa niektorých ľudí pracujúcich na vývoji AI by k extrémne vážnym následkom mohlo dôjsť už v horizonte rokov, nie desaťročí.
Čo presne ich desí?
Jadrom Coxonových obáv je takzvané recursive self-improvement, teda rekurzívne sebazdokonaľovanie. Nejde iba o schopnosť AI prepisovať vlastný kód. Ide o možný stav, v ktorom AI preberá čoraz väčšiu časť vývoja ďalších AI systémov a nakoniec by mohla autonómne vyvíjať svojich výkonnejších nástupcov. Anthropic pritom sám uvádza, že na tejto úrovni zatiaľ nie sme a jej dosiahnutie nie je isté.
Coxon varoval, že podľa neho by mohli prísť systémy s nadľudskými schopnosťami, schopné hacknúť prakticky čokoľvek, cez noc prevrátiť celé odvetvia a získať reálnu moc aj zdroje. Ide však o jeho predpoveď možného ďalšieho vývoja, nie o schopnosti dnešných AI modelov.
Prečítaj si tiežKultový Heroes of Might and Magic 3 bude mať veľký remake
Ubisoft oznámil remake stratégie Heroes of Might and Magic III pre PC a konzoly. Ponúkne 3D grafiku, originálnu hrateľnosť aj expanzie....
Navrhol preto dočasné moratórium na zvyšovanie schopností modelov, kým sa nezistí, ako ich udržať pod kontrolou. Realita je však krutá a je nepravdepodobné, že by niektorá firma dobrovoľne zastavila preteky, pokiaľ bude presvedčená, že konkurencia pokračuje.
Možno už onedlho sa tak budú medzi nami prechádzať androidi podobní Šestke z Battlestar Galactica, ibaže by taká budúcnosť pre ľudstvo veľmi šťastne nevyzerala. A možno je to zasa celé len marketing.
