AI-biztonság
AI Now: az igazítás önmagában nem garantálhatja az AI biztonságát
Az AI Now Institute szerint az AI-rendszerek igazítása, vagyis annak biztosítása, hogy a modellek az emberi utasításokat kövessék, önmagában nem elég az AI…
A gondolkodási láncok irányíthatóságát alul mérhetik a tesztek
A Redwood Research vizsgálata szerint a jelenlegi tesztek jelentősen alulbecsülhetik, hogy a következtető modellek mennyire képesek irányítani saját gondolkodási…
A DataRobot támadó tesztekkel vizsgálja az AI-ügynökök biztonságát
A DataRobot Agent Assist automatizált, többfordulós támadó teszteléssel vizsgálja az AI-ügynökök viselkedését a telepítés előtt. A rendszer a promptinjekciót, a…
Három pillérre épülő frontier AI-stratégiát sürget egy új jelentés
A fejlett mesterségesintelligencia-rendszerek gyors fejlődése miatt átfogó amerikai szakpolitikai programra van szükség, állítja az Institute for AI Policy and Strategy…
A chatbotok után az AI-ügynököké lehet a főszerep
Az AI fejlődésének következő szakaszában a felhasználók egyre gyakrabban bízhatnak feladatokat olyan ügynökökre, amelyek érzékelnek, következtetnek és cselekszenek. A…
Kaliforniában egy év alatt megduplázódott az AI miatti aggodalom
A kaliforniaiak 58 százaléka aggódik amiatt, hogy merre tart a mesterséges intelligencia, miközben közel négyötödük már használt AI-eszközt. Az új AI Compass felmérés…
Kína írhatja az AI városi szabályait, az Egyesült Államok kimarad
Kínai állami vállalatok, kormányzati szervek és a Huawei számos vezető szerepet töltenek be abban az ITU-munkában, amely a mesterséges intelligencia városi használatának…
Kalifornia szigorítja a gyerekeket védő chatbot- és közösségimédia-szabályokat
Kalifornia új törvényekkel szigorítja a gyermekek védelmét a mesterséges intelligenciát használó társalgó chatbotokkal és a közösségi médiával szemben. A szabályok…
Független vizsgálatokat sürget a nagy teljesítményű AI-modellek előtt
Nicolas Papernot, a Torontói Egyetem kutatója szerint az egyetemek függetlenül vizsgálhatnák a nagy teljesítményű AI-modellek kiberbiztonsági kockázatait, még a…
A Palo Alto Networks ismét vezető lett a Gartner tűzfalpiaci elemzésében
A Palo Alto Networks a Gartner 2026-os Magic Quadrant elemzésében ismét vezetőként szerepel a hybrid mesh firewall kategóriában. A vállalat szerint a Strata Network…
Új mérőszámot javasol a rejtett AI-gondolkodás követésére a Redwood
A Redwood Research olyan mérőszámot dolgozott ki, amely egy AI-modell kimondatlan, soros gondolkodási képességét közelíti. Az NLS depth a természetes nyelvi gyökerű…
Négy AI-projekt nyert díjat a társadalmi célú innovációért
Négy, társadalmi problémákra AI-eszközökkel reagáló projekt nyerte el az AI4Good Lab Accelerator Awards díjait. A fejlesztések között manipulációt felismerő…
A Redwood Research átláthatóbbá tenné az AI-modellek monitorozhatóságát
A Redwood Research javaslata szerint a fejlett AI-modelleket fejlesztő cégeknek rendszeresen és külső ellenőrzéssel kellene beszámolniuk arról, mennyire követhető a…
A Microsoft keretrendszert mutatott be a fiatalok biztonságos AI-használatához
A Microsoft Safe Participation Framework néven olyan megközelítést tett közzé, amely a fiatalok biztonságos, adatvédelmet tiszteletben tartó és életkorukhoz igazított…
Cégek és üzletA Data & Society szerint az AI-ügynökök felügyelete nem lehet csak technikai kérdés
A Data & Society új kutatási és szakpolitikai gyűjteményt állított össze az AI-ügynökök irányításáról. A szervezet szerint a biztonságot nem lehet önkéntes vállalásokra…
Biztonság és etikaPuzzleMask: rejtett promptinjekció kerülheti meg az LLM-szűrőket
A Check Point bemutatta a PuzzleMask nevű promptinjekciós technikát, amely szabályos, gördülékeny szövegbe ágyazhat policy-sértő tartalmat. A módszer azokat a védelmi…
Hat új partnerrel bővül a Partnership on AI hálózata
Hat új partnerrel bővült a Partnership on AI, köztük az Anthropic, az AI Safety Asia és a Transluce. A szervezet szerint az új tagok az AI-irányítás, a biztonság, a…
A NIST kvantumérzékelői pontosabbá tehetik a nukleáris anyagok ellenőrzését
A NIST kutatói korábban elérhetetlen pontossággal mérték a plutónium, az urán és a neptúnium röntgensugárzását. Az eredmények segíthetnek pontosabban nyomon követni a…
Szabályozás és politikaOpenAI kedvezményes AI-hozzáférést ad az amerikai kormányzati szerveknek
Az OpenAI for Government és az amerikai General Services Administration 2026. szeptember 10-én új, többéves megállapodást jelentett be. A konstrukció $0 licencdíjat, 50…
Kalifornia független AI-auditorokkal erősíti a technológia felügyeletét
Kalifornia két új törvénnyel vezet be országosan elsőként olyan keretet, amely független szervezetekre bízza a mesterségesintelligencia-rendszerek és modellek…
Négy hackercsoport használja ugyanazt a Chrome- és Windows-kártevőcsomagot
Legalább négy hackercsoport használja ugyanazt a BlueMoon nevű támadócsomagot, amely Chromium-alapú böngészők és régebbi Windows-verziók sérülékenységeit fűzi össze. A…
A CISókra hárul az AI biztonsága, de kevés plusz támogatást kapnak
A vállalati biztonsági vezetők többségétől elvárják, hogy kezelje a mesterséges intelligencia használatának kockázatait, miközben ehhez sokuk szerint nem kapnak…
Cégek és üzletA Simon Institute szerint új kormányzási kihívást hozhatnak az AI-ügynökök
Az egymással kommunikáló és együttműködő AI-ügynökök terjedése új, nemzetközi kormányzási kihívást teremthet a Simon Institute for Longterm Governance szerint. Az…
Cégek és üzletKanada országos, ingyenes AI-műveltségi programot indít
Kanada országos, ingyenes mesterségesintelligencia-képzési programot indít, amely diákoknak, oktatóknak, dolgozóknak és közösségeknek szól. A kezdeményezés célja, hogy a…