A mesterséges intelligencia kockázatairól tárgyalt New York városi tanácsa

A meghallgatás az AI kockázataira összpontosított

A Data & Society oldalán a „Testimony to NY City Council Hearing: Examining the Risks Posed by AI” című anyag szerepel. A cím alapján a dokumentum egy New York-i városi tanácsi meghallgatáshoz kapcsolódik, amely a mesterséges intelligencia által jelentett kockázatokat vizsgálta.

A megadott forrásszöveg a meghallgatáshoz kapcsolódó teljes tanúvallomás részleteit nem közli. A lapon ugyanakkor több olyan kutatás és szakpolitikai anyag szerepel, amelyek az AI-rendszerek irányításának kérdéseit járják körül.

Középpontban az AI-ügynökök irányítása

A Data & Society szeptember 10-én közzétett gyűjteménye az „Governing AI Agents”, vagyis az AI-ügynökök irányítása címet viseli. A szervezet szerint egy OpenAI-ügynökök által végrehajtott, Hugging Face-et érintő hack elterelheti a figyelmet azokról az ismeretekről, amelyek már rendelkezésre állnak az AI-kormányzásról.

A forrás egy szeptember 17-i kongresszusi levelet is felsorol. A „Letter to Congress on Pacing the Frontier” című dokumentum szerint a kártékony vagy irányítás alól kikerült AI-ügynökök által végrehajtott kibertámadások új politikai figyelmet irányítottak az AI-biztonság és -szabályozás kérdéseire.

A puszta emberi felügyelet korlátai

A Data & Society július 29-i jelentése, „The Oversight Fallacy: Why AI Agents Require More than Humans-in-the-Loop”, azt vizsgálja, mire van szükség az AI-ügynökök emberi felügyeletéhez a gyakorlatban. A primer egy számítógépes biológiai laboratóriumban végzett terepmunkára támaszkodik.

A szervezet július 28-án „The Limits of Human Oversight in the Age of AI Agents” címmel eseményt is felsorol. A leírás szerint Ranjit Singh, Samir Passi, Margaret Mitchell és Madeleine Claire Elish arról vitatták meg, mit kell tenniük a fejlesztőknek és a telepítőknek azért, hogy az AI-ügynökök felügyelete érdemi legyen.

Mit jelenthet ez a szabályozás számára?

A felsorolt anyagok alapján a Data & Society az AI-kockázatokról szóló vitát az ügynökalapú rendszerek működésével és ellenőrzésével kapcsolja össze. A hangsúly az AI-biztonságon, az elszámoltathatóságon, a kormányzáson és azon van, hogy az emberi jelenlét önmagában elegendő-e a rendszerek megfelelő ellenőrzéséhez.

A forrás nem közöl konkrét New York-i szabályozási döntést, új követelményt vagy elfogadott intézkedést. A meghallgatáshoz kapcsolódó anyag és a hozzá felsorolt kutatások azt mutatják, hogy az AI-ügynökök felügyelete és az ezekből fakadó biztonsági kockázatok a szakpolitikai vita részei.