AI-biztonság
Az ügyvéd felel az AI hibás jogi munkájáért, nem az algoritmus
Az ügyvéd és az ügyvédi iroda felel az AI által készített hibás jogi munkáért, akkor is, ha a téves idézetet vagy elemzést egy eszköz generálta. A Filevine szerint a…
Gina Neff: Az AI jövőjét nem irányíthatják egyedül a techcégek
A mesterséges intelligencia irányítását nem lehet kizárólag a technológiai vállalatok önkéntes vállalásaira és saját értékeléseire bízni Gina Neff, a Cambridge-i…
Cégek és üzletÚtmutatót kaptak az iskolavezetők a felelős MI-használathoz
A Center for Democracy & Technology új eszköztárat készített az iskolavezetők számára az MI felelős és méltányos használatáról. A kiadvány az intézményi döntéshozatalt…
Cégek és üzletA Jev döntési modellje is sebezhetőnek bizonyult a promptinjekcióval szemben
A Check Point szerint a Jev nevű, döntéseket visszaadó AI-modell minden tesztelt konfigurációban eltéríthető volt. A kísérletben egy figyelmeztető jelekkel teli…
A Wiz AI-val keres kritikus biztonsági réseket közszolgáltatásoknál
A Wiz Scan for Good programja mesterséges intelligenciával és emberi biztonsági kutatókkal keres nyilvánosan elérhető kitettségeket közszolgáltatásokban, kritikus…
Az ENSZ-nél a szuperintelligenciáért folyó verseny fékezését sürgették
Az ENSZ Közgyűlésének 81. ülésszakán több vezető és technológiai cégvezető is az AI-fejlesztés nemzetközi összehangolását, a modellek közös tesztelését és a veszélyes…
Cégek és üzletAI-szabályozás: fontos uniós lépések történtek szeptemberben
Az Európai Unióban szeptemberben több fontos mesterségesintelligencia-szabályozási lépés történt. Az Európai Bizottság az ipari AI-ra és a biztonsági kockázatokra…
Az IBM felvásárolja a brit Logiq Consulting kiberbiztonsági céget
Az IBM felvásárolja a Logiq Consulting brit kiberbiztonsági tanácsadó céget, amely szabályozott környezetekben, a védelemben és a kritikus nemzeti infrastruktúrák…
Helen Toner szerint jelentős lehetőségek rejlenek az AI-ban
Helen Toner, a Georgetown Center for Security and Emerging Technology szakértője a Bloombergnek az amerikai mesterségesintelligencia-szabályozás állásáról, a Kínával…
Rugalmasabb szabályozást és platformadatokat sürget az ADM+S
Rugalmasabb szabályozást, nagyobb felhasználói önrendelkezést és a platformadatokhoz való erősebb kutatói hozzáférést sürget az ADM+S Ausztrália tervezett digitális…
Az AI-ügynökök már szervezeti folyamatokban dolgoznak, de korlátozott önállósággal
Az AI-ügynökök egyre több szervezeti folyamatban jelennek meg, a szoftverfejlesztéstől és kiberbiztonságtól a közigazgatásig. Az OECD szerint a vizsgált szervezetek…
Vízjelet kapott a vLLM szöveggenerálása, így ellenőrizhető lehet az eredet
A vLLM olyan szöveges vízjelezési módszert mutatott be, amely a nyelvi modellek generálásának véletlenszerűségét használja az eredet jelezésére. A megoldás a…
A Vercel minden platformtermékére kiterjesztette hibavadászprogramját
A Vercel nyilvánosan elérhetővé tette egységes hibavadászprogramját, amely a vállalat teljes platformját és nyílt forráskódú projektjeit is lefedi. A kutatók a…
Az Elastic módszere külön ellenőrzi az LLM-ek által összevont cikkeket
Az Elastic olyan módszert dolgozott ki tudásbázis-cikkek összevonására, amely különválasztja a szöveggenerálást és az ellenőrzést. A rendszer a forrásanyagokat önállóan…
Deepfake-figyelő: katonai téves riasztás és politikai jogvita is történt
Egy chatbot téves nukleáris minősítése csaknem katonai műveletet indított el egy kínai hajó ellen, miközben amerikai bíróság politikai deepfake-ek miatt korlátozta…
Cégek és üzletA pénzügyi szektorban terjednek az önállóan cselekvő AI-rendszerek
A pénzügyi szolgáltatók egyre több olyan mesterségesintelligencia-rendszert fejlesztenek és használnak, amelyek feladatokat terveznek meg és hajtanak végre a…
Közös kognitív hadviselési hálózatot sürget az Atlantic Council
Az Egyesült Államoknak, Japánnak és Tajvannak közös kognitív hadviselés elleni védelmi hálózatot kellene létrehoznia az Atlantic Council szerint. A javaslat összehangolt…
A MIRI támogatja a szuperintelligencia fejlesztését tiltó törvényjavaslatot
A MIRI támogatja a Ban Artificial Superintelligence Act of 2026 törvényjavaslatot, amely megtiltaná a mesterséges szuperintelligencia fejlesztését. A szervezet szerint…
A látens gondolkodás veszélyeztetheti az AI-k legfontosabb felügyeleti eszközét
A Redwood Research szerint a látens állapotokban végzett, hosszabb gondolkodás jelentősen gyengítheti a láncolt gondolatmenet, vagyis a chain of thought felügyeleti…
Biztonság és etikaNégy modellt javasolnak a frontier AI biztonsági együttműködésre
A frontier AI biztonságával kapcsolatos nemzetközi együttműködésben nagyobb szerepet kaphatnak a magáncégek, állítja a Safe AI Forum új tanulmánya. A szerzők négy…
A Microsoft egyesíti az AI-ügynökökre épülő biztonsági műveleteket
A Microsoft bemutatta az Integrated Security Operations Centert, vagyis az ISOC-t a Microsoft Defenderben. A vállalat szerint az új megközelítés közös alapra helyezi a…
Egy manipulált beszélgetés támadóvá változtathatja az AI-ügynököt
A Darktrace kutatói szerint a helyben tárolt és ellenőrizetlen beszélgetési előzmények manipulálásával AI-ügynökök támadó műveletekre vehetők rá. A vizsgálatban Claude…
A Jev gyorsabban szűri ki az LLM-ek veszélyes döntéseit
Az Arize AI összehasonlította a TypeSafe Jev döntési modelljét és az OpenAI GPT-5.4 nano modelljét egy autókereskedői chatbot védelmében. A Jev a bemutatóban 15-18-szor…
37 amerikai államban született chatbotokat szabályozó törvényjavaslat 2026-ban
Gyorsan terjed a chatbotok szabályozása az Egyesült Államokban: 2026-ban 37 állam 124 kapcsolódó törvényjavaslatot nyújtott be. A Future of Privacy Forum új jelentése…