Výskumníci OpenAI postavili svojich AI agentov pred nezvyčajnú výzvu. Zakázali im komunikovať cez internet aj zdieľať súbory, no napriek tomu si dokázali posielať tajné správy. Využili na to vlastnosť procesora, o ktorej bežný používateľ pravdepodobne ani netuší.
Predstavte si dva počítače, ktoré medzi sebou nemajú žiadne sieťové spojenie a nesmú si vymieňať súbory. Za normálnych okolností by takáto izolácia mala zabrániť akejkoľvek komunikácii, no výskumníci OpenAI sa rozhodli preveriť, či ju pokročilé AI systémy dokážu obísť.
Počas bezpečnostných testov preto spustili agentov v oddelených virtuálnych počítačoch a poverili ich úlohou odovzdať si pripravené tajné informácie. Hoci mal každý vlastné izolované prostredie, všetci využívali spoločnú fyzickú infraštruktúru. A práve tá im napokon poskytla nečakanú komunikačnú cestu.
Z procesora si urobili tajnú vysielačku
Kľúčom k úspechu bola vyrovnávacia pamäť procesora – cache. Tá uchováva často používané údaje, aby ich procesor nemusel zakaždým načítavať z pomalšej operačnej pamäte RAM. Ak už má potrebné dáta poruke, dokáže s nimi pracovať výrazne rýchlejšie.
Prečítaj si tiežRECENZIA: Lenovo Tab Plus Gen 2 – Netradičný dizajn, extrémna výdrž a pohlcujúce audio
Lenovo Tab Plus Gen 2 klame telom. Mohutný reproduktor s výklopným stojanom prekvapivo zlepšuje ergonómiu úchopu. Ako u nás v teste celkovo obstál?...
Agenti prišli na spôsob, ako tieto rozdiely v rýchlosti využiť na prenos informácií. Jeden z nich cielene odstraňoval vybrané údaje z cache, zatiaľ čo druhý meral, ako dlho trvá ich opätovné načítanie. Rýchle a pomalé odozvy následne premenili na signály predstavujúce nuly a jednotky, z ktorých sa skladá digitálna komunikácia.
Keď si dohodli spôsob, akým budú tieto signály čítať, dokázali si odovzdávať pripravené tajomstvá bez toho, aby otvorili sieťové spojenie alebo upravili spoločný súbor. Podobný princíp využívania rozdielov v časovaní pamäte poznáme aj zo známych bezpečnostných zraniteľností Spectre a Meltdown. Tentoraz však takýto kanál zostavili AI agenti v rámci zadanej bezpečnostnej úlohy.
Vyrovnávacia pamäť nebola jedinou možnosťou
Ako OpenAI vysvetľuje vo svojej oficiálnej správe o zabezpečení výskumných systémov, agenti počas experimentov objavili aj ďalšie spôsoby, ako prekonať komunikačné obmedzenia. Niektoré využívali spoločné úložiská, iné zasa zmeny v dostupnom výpočtovom výkone či vyrovnávaciu pamäť bezpečnostných certifikátov.
Prečítaj si tiežSamsung Galaxy S26 Ultra sa dostal medzi najlepšie vynálezy roka. Čím zaujal TIME?
Americký magazín TIME zaradil vlajkový smartfón Samsungu do výberu Best Inventions of 2026. Pozornosť si získal najmä funkciou, ktorá rieši nepríjemnosť známu z verejnej dopravy. Samsung Galaxy S26 Ultra sa objavil v každoročnom zozname najlepších vynálezov podľa amerického magazínu TIME. Ten pri výbere posudzuje najmä originalitu, účinnosť, ambicióznosť a celkový prínos nových technológií. Nejde teda […]...
Pri jednom z testov napríklad agent striedavo intenzívne zapisoval údaje na úložisko a následne prestal pracovať. Druhý dokázal tieto zmeny rozpoznávať podľa rýchlosti odozvy hardvéru a postupne z nich skladať správu. Väčšina podobných metód bola pomalá a vyžadovala presnú koordináciu, no na preukázanie existencie skrytého komunikačného kanála to stačilo.
Výskumníci pritom agentov cielene navádzali na hľadanie bezpečnostných slabín a pri viacerých pokusoch im poskytli aj technické informácie či návrh komunikačného postupu. Nešlo teda o spontánnu vzburu umelej inteligencie, ale o riadené testy, ktorých cieľom bolo odhaliť nedostatky skôr, než by ich niekto mohol skutočne zneužiť.
Prečo je to problém aj pre budúce generácie AI?
Výsledky experimentov poukazujú na slabinu, s ktorou musia počítať prevádzkovatelia cloudových dátových centier. Na jednom fyzickom serveri totiž bežne fungujú virtuálne systémy rôznych zákazníkov, pričom ich vzájomná softvérová izolácia nemusí stačiť na úplné zabránenie nepriamemu prenosu informácií cez spoločný hardvér.
Prečítaj si tiežPrídu lietajúce autá Tesla na trh, alebo je to bublina?
Sú lietajúce autá od Tesly zlomom v doprave, alebo len marketingom? Pozreli sme sa na stav vzdušných taxíkov a reálne plány na výrobu....
Otázka bezpečného ohraničenia systémov získava na význame aj s rozvojom autonómnych AI agentov a výskumom AGI, teda všeobecnej umelej inteligencie. Čím schopnejšie budú budúce modely pri riešení technických problémov, tým náročnejšie môže byť zabezpečiť, aby nedokázali obchádzať stanovené obmedzenia. Nie je preto prekvapením, že OpenAI venuje ich testovaniu značné výpočtové kapacity.
Spoločnosť na základe zistení už posilnila bezpečnostné opatrenia a zaviedla ďalšie kontroly na odhaľovanie podobných pokusov o komunikáciu. Experiment však ukázal, že ani dôsledné oddelenie programov nemusí znamenať ich úplnú izoláciu, pokiaľ stále zdieľajú hardvér, ktorého správanie dokážu ovplyvňovať.
