Újságírók vitatták meg, hogyan kellene felkészülni az AGI-ra

Különböző előrejelzések és gazdasági hatások

A Journalism Workshop on AGI Impacts & Governance nevű rendezvényt a FAR.AI és a Tarbell Center for AI Journalism közösen szervezte. A Washington DC-ben, a Thompson Hotelben tartott egész napos eseményre szerkesztőségek, egyetemek és szakpolitikai központok képviselői érkeztek. A szervezők célja az volt, hogy olyan szereplőket kapcsoljanak össze, akik általában ritkábban dolgoznak együtt.

Adam Gleave nyitóbeszéde után Helen Toner három különböző nézőpontból beszélt az AGI megjelenésének időzítéséről. Toner, aki a Georgetown University Center for Security and Emerging Technology ideiglenes ügyvezető igazgatója, azt vizsgálta, miért térnek el ennyire egymástól a szakértői jóslatok arról, hogy mi várható és mikor. Előadása a FAR.AI beszámolója szerint keretet adott az újságíróknak az egymástól szélsőségesen eltérő előrejelzések értelmezéséhez.

Anton Korinek és Ioana Marinescu az AGI munkahelyekre és gazdaságra gyakorolt hatásairól beszélgettek. Korinek szerint a korábbi technológiai forradalmak egyes munkaköröket megszüntettek, miközben új, kizárólag emberek által végezhető feladatokat hoztak létre. Értelmezése szerint az AGI ezt a mintát megtörheti, mivel az újonnan létrehozott munkákat is képes lehet elvégezni. Ennek következtében alapvetően csökkenhet az emberi munka szerepe a gazdaságban.

Verseny az Egyesült Államok és Kína között

Scott Singer az amerikai és kínai AI-versenyről kialakult hagyományos képet kérdőjelezte meg. Elmondása szerint Kína gyorsan terjeszti az AI-t a gazdaságában, és a fejlesztőkre vonatkozóan a világ legszigorúbb megfelelési követelményeivel rendelkezik. Az ország AI-biztonsági kutatása még kezdeti szakaszban van, de Singer szerint előrelépést mutat.

A FAR.AI összefoglalója szerint Singer következtetése az volt, hogy az Egyesült Államoknak a piaci részesedésért folytatott verseny mellett erős nemzetbiztonsági érdeke fűződik ahhoz, hogy körültekintően együttműködjön Kínával a legfejlettebb AI-rendszerek kockázatairól. Saif Khan az amerikai félvezető-exportkorlátozásokat tekintette át a Biden- és a Trump-kormányzat alatt. Ezek a szabályok azt befolyásolják, hogy kik férhetnek hozzá az AI-fejlesztéshez szükséges chipekhez.

A modellek összehangolása és a biológiai kockázatok

A délutáni program technikai kérdésekre koncentrált. Adam Gleave az összehangolási problémát, vagyis azt a helyzetet mutatta be, amikor egy AI-rendszer céljai eltérnek attól, amit az emberek ténylegesen szeretnének. Evan Hubinger, az Anthropic kutatója a modellek tanítás közbeni félreilleszkedésének időzítéséről és kialakulásáról készülő kutatásokat ismertette.

Jason Wolfe, az OpenAI munkatársa a „scheming”, vagyis a látszólag segítőkész, közben saját célokat rejtetten követő modellek vizsgálatának eredményeiről beszélt. A tesztekben a legfejlettebb modellek több problémás viselkedést is mutattak. Wolfe ugyanakkor hangsúlyozta, hogy ezek nem tipikus éles használati körülmények voltak.

Rocco Casagrande szerint a közeli biológiai biztonsági kockázat elsősorban nem az, hogy az AI új biológiai fegyvereket hoz létre. Nagyobb veszélyt jelenthet, ha a nagy nyelvi modellek kevésbé felkészült szereplőknek segítenek korábbi támadó programok lemásolásában vagy már létező veszélyes kórokozók megszerzésében. A kockázat nőhet, ha a modellek intuitívabban működnek, részletesebben magyarázzák el a támadási útvonalakat, és egyre több összetett biológiai feladatot lehet magáncégekhez kiszervezni.

Szabályozás és a sajtó feladata

Alex Bores, New York állam közgyűlési képviselője a RAISE Act kapcsán beszélt arról, miért nem feltétlenül várhatnak az államok a szövetségi AI-szabályozásra. Tapasztalatai alapján az állami innováció és a szövetségi előbbség kérdését is vizsgálta.

A napot Dean Ball és Ben Buchanan beszélgetése zárta Shakeel Hashim moderálásával. Mindketten több kormányzat alatt alakították az AI-politikát a Fehér Házból. A résztvevők összevetették, mely szakpolitikai megoldások működnek, melyek nem, és mire kellene összpontosítaniuk a szövetségi szabályozóknak az AGI fejlesztésének gyorsulása mellett.

A FAR.AI beszámolója szerint egyes, nyilvánosan rögzített beszélgetések felvételei később elérhetők lesznek a szervezet YouTube-csatornáján. A workshop azt mutatja, hogy az AGI-ról szóló tudósításokhoz a technológiai kérdések mellett gazdasági, külpolitikai, szabályozási és biztonsági szempontokat is össze kell kapcsolni. A rendezvényről szóló bejegyzés dátuma 2025. november 16.