Proč vaši AI agenti potřebují sandbox (a co právě spustil Cloudflare)

AI agent vygeneruje funkci a aplikace ji chce hned spustit. Kód může obsahovat chybu nebo operaci, kterou uživatel neměl povolit. Potřebuje oddělené prostředí s přesně určenými oprávněními. Cloudflare Dynamic Worker Loader nabízí takový mechanismus ve Workers.

Proč ne kontejner

Kontejner může poskytnout potřebné prostředí i knihovny. U krátkých úloh ve velkém objemu však odměřte čas startu a náklady proti variantě založené na izolátech.

Rozhodují požadavky a měření aplikace, nikoli samotný počet uživatelů.

Dynamic Workers

Cloudflare při představení otevřené bety popisuje vytvoření Workera z kódu dodaného za běhu. Izolát má oddělený kontext vykonávání. Aplikace mu musí zpřístupnit jen potřebná rozhraní a omezit síťová spojení.

Cloudflare uvádí rychlejší start a nižší paměťovou náročnost proti typickému kontejneru. Jde o tvrzení poskytovatele, nikoli měření vaší aplikace.

Změřte celý průchod včetně modelu a externích API. Samotný sandbox neodstraní chyby v povolených operacích.

Prakticky to funguje tak, že váš hlavní Worker přijme požadavek, AI model vygeneruje TypeScript funkci, Worker zavolá Dynamic Worker Loader, ten vytvoří V8 izolát, nahraje do něj kód, spustí ho, vrátí výsledek. Po odpovědi se izolát zahodí. Jednorázový izolát lze po úloze zahodit. Jeho přístupy závisí na konfiguraci a poskytnutých rozhraních.

Code Mode a proč mě zaujal

Cloudflare ukazuje i pattern, kterému říkají Code Mode. Místo klasického tool callingu (model generuje JSON, runtime vykonává, model analyzuje výsledek, volá další tool) agent napíše jednu TypeScript funkci, která celý tok vykoná naráz.

Cloudflare popisuje úsporu tokenů v konkrétní ukázce Code Mode. Stejnou úsporu na fakturačním procesu tím nezaručuje.

Představte si, že agent dostane "vytvoř fakturu ve Stripe pro zákazníka X s položkami Y." Místo čtyř tool calls (najdi zákazníka, vytvoř položky, vytvoř fakturu, pošli e-mail) napíše jednu funkci, co to celé udělá v jednom běhu. Míň roundtripů, míň tokenů, rychlejší odpověď.

Omezení

Pro krátký generovaný kód Cloudflare doporučuje JavaScript. Podle jeho popisu Workers podporují také Python a WebAssembly. Před výběrem ověřte knihovny, limity běhů a přístupy k externím službám.

Cena je $0.002 za unikátní Worker za den plus CPU a invokace. Během bety je odpuštěná.

Kam s tím jdeme dál

Když děláte s AI agenty, kteří generují kód (a pokud ne teď, tak brzy), otázce izolace se nevyhnete. Dynamic Workers jsou jedna z odpovědí. Ne jediná, v některých případech pořád chcete kontejner, v jiných generovaný kód vůbec nepotřebujete vykonávat. Záleží na tom, co agent dělá a s jakými daty pracuje. Pokud vás zajímá, kdy agent dává smysl a kdy stačí klasická automatizace, napsali jsme o tom i v kontextu multi-model strategií.

Pokud stavíte agenta, který spouští cizí kód, a chcete se pobavit o izolační architektuře, ozvěte se.