AI-biztonság
A SentinelOne és az NVIDIA hardveres alapokra helyezné az AI felügyeletét
A SentinelOne az NVIDIA Open Agent Safety Platform kezdeményezésének kulcsfontosságú együttműködője lett. A kiberbiztonsági vállalat szerint az önállóan cselekvő…
A Red Hat biztonságos környezetet épít a vállalati AI-ügynököknek
A Red Hat az OpenShell nevű nyílt forráskódú projekttel olyan biztonsági réteget épít, amely szabályozza, milyen rendszerekhez férhetnek hozzá a vállalati AI-ügynökök. A…
Az UNESCO szerint az igazságszolgáltatásban is az elesetteket kell védenie az AI-nak
Az igazságszolgáltatás mesterséges intelligenciával történő digitalizálása csak akkor csökkenti a hozzáférési különbségeket, ha a leginkább veszélyeztetett csoportokat…
Az NVIDIA bejelentette a robotikához fejlesztett Halos rendszert
Az NVIDIA bejelentette a Halos nevű robotikai biztonsági rendszert, amelyet a fizikai mesterséges intelligenciához fejlesztett. A vállalat az iparág első teljes stackű…
Az Apollo Research szerint kevés a megjelenés előtti AI-tesztelés
A mesterségesintelligencia-modellek végső ellenőrzése önmagában nem képes feltárni a fejlesztés korábbi szakaszaiban jelentkező súlyos kockázatokat. Az Apollo Research…
A SentinelOne és az NVIDIA hardveres alapokra helyezné az AI felügyeletét
A SentinelOne kulcsegyüttműködőként csatlakozik az NVIDIA Open Agent Safety Platform kezdeményezéséhez. A kiberbiztonsági vállalat szerint az AI-rendszerek megbízható…
A Red Hat biztonságos beléptetést épít az AI-ügynököknek
A Red Hat az OpenShell nevű nyílt forráskódú projekttel olyan biztonsági réteget épít, amely szabályozza a vállalati AI-ügynökök hozzáférését és műveleteit. A cél, hogy…
Az UNESCO szerint az igazságszolgáltatási AI sikere a hozzáférésen múlik
A bíróságokon használt mesterséges intelligencia csökkentheti az igazságszolgáltatáshoz való hozzáférés különbségeit, de rossz tervezéssel tovább mélyítheti azokat. Az…
Biztonság és etikaA DigitalOcean az ügynökök elől is elrejtené a hozzáférési kulcsokat
A DigitalOcean olyan hitelesítési architektúrát ismertetett, amelyben az autonóm ügynökök feladataik végrehajtásához sem kapják meg közvetlenül az API-kulcsokat és…
Washington és Peking állandó AI-kommunikációt építene a válságok elé
Washington és Peking AI-incidensekről szóló állandó kommunikációs csatorna létrehozását tervezi, bár Donald Trump és Hszi Csin-ping találkozóján nem született formális…
Az AI-kutatók 18 százalékos esélyt látnak az emberiség végzetére
Az AI-kutatók átlagosan 18 százalékos esélyt adtak annak, hogy a jövőbeli AI-fejlődés az emberiség kihalásához vagy hasonlóan súlyos, végleges kiszolgáltatottságához…
A Microsoft eszköze megtalálja és ellenőrzi az AI-agentek kockázatait
A Microsoft bemutatta a run-assert-eval nevű fejlesztői eszközt, amely egyetlen VS Code-promptból tárja fel egy AI-agent kockázatait, méri a hibákat, majd ellenőrzi…
A tolvajvírusok már a felhős és AI-kulcsokat is célba veszik
Az infostealer kártevők fejlesztői gépekről lopott hitelesítő adatokkal, API-kulcsokkal és aktív munkamenet-tokenekkel juthatnak be vállalati felhős, kód- és…
Új biztonsági modellt kapott az MCP, négy szinttel és szigorúbb kontrollokkal
A Coalition for Secure AI közzétette az MCP Security 2.0 változatát, amely a fenyegetések felsorolása mellett azt is meghatározza, milyen biztonsági követelmények…
Az AI új kockázatokat hoz a biológiai fegyverek elleni védelemben
A mesterséges intelligencia egyre mélyebben épül be a biológiai kutatásba, ami új kihívásokat teremt a biológiai fegyverek megelőzésében. Az UNIDIR szerint több szintű…
A folyamatos tanulás kiüresítheti az AI-biztonsági monitorokat
A telepítés közben folyamatosan tanuló mesterséges intelligenciák idővel kijátszhatják a működésüket felügyelő, gyanús műveleteket blokkoló monitorokat. A Redwood…
A Scale AI szerint Washingtonnak saját AI-tesztelési kapacitás kell
A Scale AI szerint az amerikai szövetségi kormány nem tudja megfelelően mérni a legfejlettebb mesterségesintelligencia-modellek kockázatait, ezért független tesztelési…
Az UNESCO harmadszor indítja el mesterséges intelligenciáról szóló kurzusát
Október 12-én indul az UNESCO digitális polgárságról és mesterséges intelligenciáról szóló, ingyenes online kurzusának harmadik évfolyama. A képzés mostantól portugál…
Az OECD szerint új szabályokra lehet szükség az állami AI-ügynökökhöz
Az önállóan tervező és több rendszeren keresztül feladatokat végrehajtó AI-ügynökök új kihívásokat támasztanak a kormányzati működéssel szemben. Az OECD szerint a…
Több mint száz szakértő véleményét gyűjtötte össze a Forbes az AI kockázatairól
A Forbes több mint száz mesterségesintelligencia-kutató, cégvezető és technológiai szakértő véleményét gyűjtötte össze arról, hogy a fejlett AI jelenthet-e…
A GitHub ügynöke önállóan épít fuzzingfolyamatot C és C++ projektekhez
A GitHub Security Lab olyan automatizált fuzzingfolyamatot készített, amely egy GitHub-tárhelyből kiindulva azonosítja a tesztelhető belépési pontokat, fuzzing…
A szuverén AI nem helyszín, hanem irányítás kérdése a Dell szerint
A vállalatok fele már nagyon fontosnak tartja az adatszuverenitást, külön költségvetést azonban csak minden tizedik szervezet biztosít rá. A Dell szerint a szuverenitást…
Red teaminggel és automatikus teszteléssel bővül a LangSmith Engine
A LangChain bemutatta a LangSmith Engine v2-t, amely proaktív red teaminggel, automatikus teszteléssel és részletesebb teljesítményelemzéssel segíti az ügynökalapú…
A Docker mikrogépekkel és szabványos csomagokkal védené az AI-ügynököket
A Docker új eszközökkel adna biztonságosabb keretet az önállóan dolgozó AI-ügynököknek. A vállalat a Sandboxes, a Kits és a felhős Sandboxes rendszerével az…