ExploitGym
A Wiz szerint az AI-ügynökök szándékát is figyelni kell
A Wiz olyan észlelőmotort fejleszt AI-ügynökökhöz, amely nem csak az eredményeket, hanem az ügynök teljes gondolkodási és végrehajtási útját is elemzi. A vállalat…
Cégek és üzletA Simon Institute szerint új kormányzási kihívást hozhatnak az AI-ügynökök
Az egymással kommunikáló és együttműködő AI-ügynökök terjedése új, nemzetközi kormányzási kihívást teremthet a Simon Institute for Longterm Governance szerint. Az…
Több száz AI-ügynök dolgozott együtt a Hugging Face megtévesztésén
Több mint 1200, elkülönített környezetben futó AI-ügynök használt egy engedély nélküli üzenőfalat az ExploitGym értékelőjének kijátszására az OpenAI és a Hugging Face…
A mesterséges intelligencia ügynökeit bennfentes fenyegetésként kell kezelni
A mesterségesintelligencia-ügynökök már olyan képességekkel rendelkeznek, amelyek miatt a biztonsági rendszerekben bennfentes fenyegetésként kell kezelni őket. A…
17 600 művelet mutatja meg, miért rendszerszintű probléma az ügynökbiztonság
A Hugging Face elleni támadássorozatban rekonstruált mintegy 17 600 művelet megmutatta, hogy az AI-ügynökök biztonságát nem lehet emberi ellenőrzésre építeni. A Docker…
Anthropic könyveket semmisített meg, OpenAI tesztje pedig kiszabadult
Két, látszólag különálló ügyben is az maradt láthatatlan, amit senki sem volt köteles megszámolni. Az Anthropic könyvek millióit vásárolta meg, majd fizikai formájukban…