AI-biztonság
A MIRI szerint egyre közelebb kerülhetünk a szuperintelligens AI veszélyéhez
A MIRI szerint az elmúlt év AI-fejlesztései több ponton alátámasztották az If Anyone Builds It, Everyone Dies című könyv figyelmeztetéseit. A szervezet úgy látja, hogy a…
Biztonság és etikaAI Now: egyre átláthatatlanabb, hogyan fejlesztik a mesterséges intelligenciát
Az AI Now Institute szerint a mesterséges intelligenciát fejlesztő vállalatok folyamatai egyre átláthatatlanabbá váltak. Az intézet társigazgatója egy Forbes-interjúban…
AI-ellenőrzési tervet készített a Fehér Ház, de ki vizsgálja a modelleket?
A Fehér Ház augusztusban véglegesítette a zárt forráskódú, csúcskategóriás AI-modellek biztonsági és kiberbiztonsági vizsgálatának keretrendszerét. Az Atlantic Council…
A CoSAI szerint az engedélyezést nem szabad az AI-modellre bízni
A Coalition for Secure AI új tanulmánya szerint az AI-ügynökök jogosultságait nem maga a modell, hanem attól független, folyamatosan ellenőrzött biztonsági réteg…
Biztonság és etikaAz OpenAI új keretrendszerben jelenti a modellek félreigazodását
Az OpenAI új keretrendszert vezetett be a modellek félreigazodásának követésére, kivizsgálására és nyilvánosságra hozatalára. A vállalat ezzel együtt hat olyan esetet is…
Cégek és üzletKína a legfejlettebb mesterséges intelligencia szabályozását vizsgálja
Kína meglévő mesterségesintelligencia-szabályozási rendszerére építve kezelné a legfejlettebb modellekből eredő kockázatokat a Safe AI Forum elemzése. A szerzők szerint…
Termékek és eszközökAz OpenAI idősebbeknek szervez ChatGPT-oktatást és átverésfelismerést
Az OpenAI és az AARP-hoz tartozó Older Adults Technology Services ingyenes, személyes képzéseken segíti az idősebbeket a ChatGPT magabiztos és biztonságos használatában.…
A Google szerint az AI már a kiber támadások teljes folyamatát gyorsítja
A mesterséges intelligencia felgyorsítja a szoftverfejlesztést, bővíti a támadási felületet és erősíti a támadók képességeit, írja a Google Threat Intelligence Group. A…
Cégek és üzletKilenc javaslatot tett a Safe AI Forum a kínai frontier AI szabályozására
Kína meglévő mesterségesintelligencia-szabályozási infrastruktúrájára építve kezelné a frontier AI rendszerek sajátos kockázatait a Safe AI Forum új tanulmánya. A…
Cégek és üzletAz OSI szerint az open weights hasznos, de az Open Source többet ad
Az Open Source Initiative szerint az open-weight modellek több lehetőséget kínálnak a zárt rendszereknél, de nem biztosítják teljes körűen a használat, tanulmányozás…
Biztonság és etikaKanada és Németország a LawZero biztonságos AI-megközelítését támogatja
Kanada és Németország a LawZero mesterségesintelligencia-projektjébe fektet, hogy a vállalat egy új, biztonságos és szuverén AI-megközelítést dolgozzon ki. A bejelentést…
A vállalati AI-t a teljes rendszer szintjén kell támadni a Scale AI szerint
A vállalati mesterséges intelligencia akkor is sérülékeny lehet, ha maga a modell átmegy minden szöveges biztonsági teszten. A Scale AI szerint a teljes rendszert kell…
A Google viselkedésük alapján ellenőrzi az AI-ügynököket
Private Preview státuszba került a Google Agent Anomaly Detection szolgáltatása, amely az AI-ügynökök munkameneteit elemzi, és a szokatlan vagy szabályellenes…
A Microsoft megtanítaná a választókat az AI-válaszok ellenőrzésére
A Microsoft frissíti Check. Recheck. Vote nevű választói tájékoztató kampányát, amely az amerikai választóknak segít ellenőrizni a mesterséges intelligencia által közölt…
Biztonság és etikaAz AI kipusztíthatja az emberiséget? A százalékok mögötti bizonytalanság
Az emberiség pusztulásának esélyéről szóló százalékos becslések tudományos megalapozottságát kérdőjelezte meg az AI Now Institute vezető kutatója. Heidy Khlaaf szerint…
Berkeley-jelentés: az AI által készített intim képek szabályozása hiányos
A mesterséges intelligencia jelentősen megkönnyítette a beleegyezés nélkül készített intim képek és a gyermekek szexuális bántalmazását ábrázoló anyagok előállítását és…
A nyílt modellekhez hozzáférni könnyebb, irányítani nehezebb
A nyílt súlyú AI-modellek nonprofit szervezetekhez, kórházakhoz és kormányzati intézményekhez is eljutnak, de a valódi irányításhoz infrastruktúra, szakértelem és…
Stratégiai AI-partnerséget kötött a német DFKI és a kanadai Mila
Stratégiai partnerséget alakított ki a német DFKI és a kanadai Mila, hogy közös kutatási projektekkel erősítsék a két ország mesterségesintelligencia-együttműködését. A…
Döntős lett az MLCommons pénzügyi AI-ügynökökre kidolgozott profilja
Döntőbe jutott az MLCommons Financial Services Working Group Agent Reliability Profile kezdeményezése a C:>DIR Global „Agentic Regulator” Hackathonon. A projekt azt…
A Cisco helyben futtatná a Splunk AI-funkcióit
A Cisco és az NVIDIA kiterjeszti együttműködését, így a Splunk AI-funkciói saját adatközpontban, privát felhőben és elszigetelt környezetben is futtathatók lesznek. A…
A kutatói lemondás és a GPT-6 Astra újra középpontba állította az AI-kockázatokat
Egy Anthropic-kutató azért mondott le, mert szerinte a mesterséges intelligencia emberi kihalást okozhat, miközben az OpenAI nyilvánossá tette a GPT-6 Astrát. A Center…
Biztonság és etikaA Check Point valós időben állítaná meg az ártalmas ügynöki műveleteket
A Check Point olyan szinkron vezérlésfigyelési megoldást ismertetett, amely az AI-ügynökök működését végrehajtás közben követi, és a vállalat szerint még az indításuk…
Cégek és üzletAz AI-ipar ellen forduló hangulat segítette az Anthropic hitelességét
A fokozódó adatközponti ellenállás miatt az AI szabályozásának támogatása vált általánosan elfogadott állásponttá, miközben az AI-iparág megítélése romlott. Az AI Now…
Cégek és üzletFüggetlen AI-auditokat sürgetnek, de a szabályok még formálódnak
Az Egyesült Államokban egyre több politikus, technológiai vállalat és civil szervezet támogatja a mesterséges intelligencia külső értékelését. A Center for Democracy &…