AI Guard
Az AI Guard címke az MI-rendszerek, különösen az önállóan működő AI-ügynökök biztonságával és védelmével foglalkozó híreket gyűjti. A téma azért fontos, mert az ügynökök külső utasításokat értelmezhetnek, adatokat kezelhetnek és feladatokat hajthatnak végre, ezért a hibás vagy rosszindulatú beavatkozások kockázata különös figyelmet igényel.
Itt olyan fejlemények kapnak helyet, amelyek a futás közbeni védelmet, az AI-ügynökök felügyeletét és a promptinjekciók lehetséges terjedését vizsgálják. A Datadog kapcsolódó bejelentései azt mutatják be, hogyan közelíthető meg a biztonság a gyakorlatban, amikor egy rendszer nem csupán válaszol, hanem műveleteket is végez.
A Datadog futás közbeni védelemmel biztosítaná az AI-ügynököket
A Datadog AI Guard nevű megoldása az AI-ügynökök működési hurkába építve értékeli a döntéseket, és szükség esetén blokkolja a veszélyes lépéseket. A vállalat szerint a…
A Datadog megmutatta, hogyan terjedhet egy önmagát másoló promptinjekció
A Datadog szimulált támadásokkal vizsgálta, felismeri-e az AI Guard, amikor egy AI-ügynök egy e-mailből vagy CSV-fájlból érkező rejtett utasítást továbbmásol. A…