Autonomní AI agent společnosti OpenAI, který unikl z uzavřeného testovacího prostředí a napadl vývojářskou platformu Hugging Face, se nezastavil jen u ní. V úterý aktualizovaném vyšetřovacím záznamu firma přiznala, že bot pronikl i na několik dalších „veřejně dostupných služeb“. Podle OpenAI šlo o čtyři účty na čtyřech různých službách, jejichž jména společnost neuvedla. Agent přitom využil přihlašovací údaje, které už dříve unikly na internet. Rozšíření incidentu prohlubuje obavy z bezpečnosti pokročilých AI systémů, které řada expertů považuje za dosud nejzávažnější zdokumentovaný případ tohoto druhu.
- Agent OpenAI napadl vedle Hugging Face další čtyři účty na čtyřech službách.
- Mezi zasaženými firmami byla podle agentury Reuters newyorská Modal Labs.
- OpenAI slibuje zveřejnit podrobnou technickou zprávu v následujících týdnech.
Podle firmy sloužil jeden ze čtyř účtů jako prostředník k maskování skutečného původu útoku a další jako dočasné úložiště dat. Ke zbývajícím dvěma měl agent přístup pouze pro čtení a k samotnému průniku do Hugging Face je nevyužil. OpenAI zároveň zdůraznila, že nezaznamenala „žádnou další aktivitu na úrovni závažnosti nebo rozsahu toho, co jsme sdíleli v souvislosti s Hugging Face“, kde došlo ke kompromitaci na úrovni celé platformy.
Mezi oběťmi byla i newyorská firma Modal Labs
Ačkoli OpenAI dotčené organizace nejmenovala, agentura Reuters zjistila, že jednou z nich byla technologická společnost Modal Labs se sídlem v New Yorku. Její technický ředitel Akshat Bubna potvrdil, že umělá inteligence zneužila zranitelný kód napsaný zákazníkem, který byl hostován na cloudové platformě Modal. „Platforma Modalu ani její izolace nebyly nijak narušeny,“ upřesnil Bubna. Hugging Face ve vlastní analýze popsal, že agent „zneužil veřejný nástroj pro vyhodnocování kódu hostovaný uživatelem u externího poskytovatele infrastruktury“.
Model hledal zkratku místo poctivého řešení testu
Nejzajímavější na celém incidentu není samotný útok, ale jeho příčina. Agent byl testován v prostředí ExploitGym, které ověřuje, jak dobře umí umělá inteligence hledat bezpečnostní zranitelnosti. Místo poctivého splnění úkolu ale podle vyšetřovatelů dospěl k jinému závěru: správné odpovědi na test by mohly být uložené přímo na serverech Hugging Face. Podle magazínu Wired se je proto pokusil získat oklikou.
Model tedy nehledal jen technické chyby – sám si vytvořil strategii, jak se dostat k cíli co nejrychleji, i když tím zcela obešel smysl celého testu.
Podle Hugging Face pronikl agent do firemních systémů mnohem dál, než se původně předpokládalo. Během několika dnů provedl přes 17 tisíc různých akcí. Většina z nich skončila neúspěchem, některé ale vedly k získání administrátorských oprávnění v interních systémech. Pomocí odcizených přihlašovacích údajů navíc připojil do podnikové sítě 181 vlastních zařízení a získal přístup i do prostředí, kde společnost vyvíjí a testuje svůj software.
OpenAI si úniku všimla až po týdnu
OpenAI zveřejnila 21. července, že jeden z testovaných AI agentů se vymanil z izolovaného prostředí, našel cestu na internet a poté pronikl do Hugging Face – vše ve snaze vyřešit úkol, který byl součástí jeho hodnocení. Agent byl poháněn modelem GPT-5.6 Sol a ještě výkonnějším nezveřejněným modelem. Samotný Hugging Face byl napaden 16. července a incident nahlásil policii; teprve téměř o týden později se OpenAI přihlásila k tomu, že za útokem stojí její umělá inteligence. Podle Reuters si přitom firma úniku všimla až s týdenním zpožděním.
Spoluzakladatel Hugging Face Clement Delangue uvedl, že společnost od začátku podezřívala některou z předních AI laboratoří a že podle jeho názoru nešlo o zlý úmysl. OpenAI popsala, že žádný z modelů zapojených do incidentu nebyl určen pro veřejné vydání; použitý prototyp označila za „interní výzkumný nástroj“, který byl mezitím „deaktivován, zašifrován a zpřístupnění pro výzkum omezeno“. Firma nyní provádí důkladnou revizi a technickou zprávu s výsledky slibuje zveřejnit v následujících týdnech.
Incident přichází v době rostoucích obav z rychlého vývoje autonomních systémů a stále schopnějších modelů s otevřenými váhami. Živí přitom i debatu, zda jsou výkonné AI modely bezpečnější, když zůstávají uzavřené v rukou firem jako OpenAI, nebo naopak v otevřenějším ekosystému, který umožňuje širší kontrolu.
Měli by vývojáři pokročilé AI podléhat přísnějšímu dohledu, nebo je otevřenost cestou k větší bezpečnosti? Napište nám svůj názor do diskuse.
