Nem minden engedélyezett lépés biztonságos
A Datadog új, AI Guard nevű megoldása az AI-ügynökök működési hurkába épül be, és futás közben vizsgálja a rendszer döntéseit. A cél annak felismerése, amikor egy művelet ugyan megfelel az ügynök jogosultságainak, mégis eltér attól, amit a szervezet eredetileg szeretett volna elérni. A vállalat szerint a hagyományos jogosultságkezelés önmagában nem képes ezt a különbséget megállapítani.
A Datadog 2026. november 2-án közzétett bejegyzése szerint az AI-ügynökök jelentős támadási felületet hoznak létre. Ezek a rendszerek belső alkalmazásokhoz, fejlesztői eszközökhöz és érzékeny üzleti adatokhoz férhetnek hozzá, miközben külső tartalmakat is feldolgoznak eszközökön, API-kon és MCP-ken keresztül. az AI-ügynökök futás közbeni védelméről az AI Hírek beszámolója szerint a közvetett promptinjektálás különösen nehezen észlelhető veszélyt jelent.
Rejtett utasítások is eltéríthetik az ügynököt
A cég az EchoLeak incidenseit hozza fel példaként. A közvetett promptinjektálás reputációs károkat és érzékeny adatok kiszivárgását is okozhatja, miközben a támadó utasítása nem feltétlenül jelenik meg közvetlenül az ügynöknek szánt kérésben.
Egy GitHub-problémák osztályozására használt ügynök például olyan eszközhívással találkozhat, amely rejtett utasításként telepítési hitelesítő adatok összegyűjtésére és külső végpontra küldésére próbálja rávenni. Az egyes műveletek külön-külön megfelelhetnek az engedélyeknek, a teljes folyamat azonban már ellentétes lehet a szervezet szándékával. A Datadog ezért olyan biztonsági vezérlést tart szükségesnek, amely minden lépést a teljes környezet figyelembevételével értékel.
Az AI Guard a működés megkezdése előtt feltérképezi a felhőkörnyezetben futó ügynököket, az általuk elért modellvégpontokat, adattárakat és kapcsolódó szolgáltatásokat. Futás közben figyelheti a beszélgetési előzményeket, a rendszerutasításokat, a feladatokat, az eszközhívásokat és a következő végrehajtandó lépést is.
Blokkolás, tisztítás és valós idejű maszkolás
A rendszer a Datadog szerint több ponton avatkozhat be. Blokkolhatja vagy megtisztíthatja a promptokat, a modellkimeneteket, az eszközhívásokat és azok eredményeit, még a tényleges végrehajtás előtt. Ez azért lehet fontos, mert a több lépésből álló támadásoknál önmagában egyik üzenet sem biztos, hogy rosszindulatúnak tűnik.
A csapatok saját szabályzatokat, eszközblokkolási feltételeket és üzleti környezetet is megadhatnak. Az értékelés során számíthat a szolgáltatás, annak függőségei, az adattárak, a tulajdonos, valamint azok az erőforrások, amelyeket az ügynök ténylegesen érintett. Ha a rendszer úgy látja, hogy egy lépés eltér a meghatározott céltól, leállíthatja a viselkedési láncot.
Érzékenyadat-keresés bekapcsolásakor a személyes adatok és a titkok valós időben maszkolhatók. Így a védelem nemcsak a veszélyes műveletek felismerésére, hanem az adatok további felhasználásának korlátozására is kiterjedhet.
A vizsgálat és a reagálás egy helyen maradhat
A Datadog szerint egy incidensnél nem elég megakadályozni a káros lépést. Azt is fel kell tárni, mi vezetett hozzá, és milyen rendszerekre hathatott ki. A SecurityHQ és a Datadog több mint 200 kiberbiztonsági vezető bevonásával készített felmérésében a válaszadók 39 százaléka mondta azt, hogy szervezete csak részben tudta rekonstruálni, milyen műveleteket hajtott végre egy AI-ügynök az előző 30 napban.
Az AI Guard jelzései rekonstruálhatják a blokkolt művelethez vezető teljes munkamenetet, összefoglalhatják az eseményeket, és össze is kapcsolhatják az ügynök interakcióit a részletes vizsgálathoz. A jelzések ugyanazokon a nyomkövetéseken jelennek meg, mint az alkalmazás és az ügynök teljesítményadatai.
A csapatok letilthatják a problémát okozó felhasználókat vagy IP-címeket, biztonsági ügyet indíthatnak, illetve helyreállítási munkafolyamatot aktiválhatnak. Az ügy Jira-ba vagy SIEM-rendszerbe is továbbítható. A Datadog szerint az alkalmazáscsapatok külön proxy felállítása vagy hibajegy benyújtása nélkül kapcsolhatják be az inline értékelést, miközben a biztonsági csapatok az ügynökök belső működésének ismerete nélkül is szabályzatokat állíthatnak be. A felmérésben a válaszadók 40 százaléka azt nevezte meg legnagyobb aggodalomként, hogy egy AI-ügynök úgy hoz döntést, hogy arról senki sem tud.
