FAR.AI: 2025-ben gyorsult az AI fejlődése, de a kockázatok is nőttek

Egy év alatt váltak általánossá a gondolkodó modellek

Adam Gleave, a FAR.AI szerzője a San Diegó-i Alignment Workshop megnyitójára épülő bejegyzésben tekintette át, mi változott 2025-ben az AI-képességek és a kockázatok területén. A december elején, a NeurIPS konferencia előtt megrendezett workshopon több mint 300 résztvevő volt, ez lett a szervezet eddigi legnagyobb ilyen eseménye.

Gleave szerint a gondolkodó modellek mára a nagy nyelvi modellek használatának szerves részévé váltak. Az ilyen rendszerek széles körű elérhetősége körülbelül egy éve kezdődött. Az o1-preview 2024 szeptemberi megjelenését a Google és az Anthropic hasonló modelljei követték, majd a DeepSeek R1 lett az első nyílt súlyú gondolkodó modell.

A kódoló ügynökök szintén gyorsan fejlődtek. A Devin 2024 márciusában, zárt bétában a SWE-bench feladatainak körülbelül 14 százalékát oldotta meg. A forrás szerint 2025 novemberében a Gemini 3 Pro és a Claude 4.5 Opus egyaránt 74 százalékot ért el ezen a mércén. Gleave hozzáteszi, hogy a benchmarkok félrevezetők lehetnek, ugyanakkor tapasztalata szerint ma már teljes csapatok, köztük nem technikai munkatársak is használnak kódoló ügynököket egyszerű weboldalak elkészítésére.

A fejlesztés egyre több szereplő között oszlik meg

A FAR.AI szerint az élvonalbeli modellek fejlesztőinek száma is nő. A tréningfuttatások költsége ma már több százmillió dollár, és a fejlesztők egyre inkább üzleti titkokra támaszkodnak. A Google DeepMind, az OpenAI és az Anthropic 2025-ben többször megelőzte egymást különböző képességekben, miközben a Grok is közel maradt hozzájuk.

A nyílt súlyú modellek, például a Qwen2.5, a QwQ-32B és a Llama, szintén jelentős teljesítményt értek el. Ennek előnye, hogy csökkenti a hatalom koncentrációját, és használható modelleket biztosít független kutatóknak. A kockázatok szempontjából viszont Gleave szerint csak annyira vagyunk biztonságban, mint a legkevésbé biztonságos modell, mivel a rosszindulatú szereplők a legsebezhetőbb rendszerekhez igazodnak.

A teljesítménymérések gyors javulását a GPQA Diamond benchmark példája is mutatja. A 2023 áprilisi indulásakor a modellek alig teljesítettek jobban a véletlenszerű találgatásnál, 2025 januárjára viszont a gondolkodó modellek elérték a szakértői szintű emberi teljesítményt. A forrás szerint az o3.1 és a Gemini 3 Pro már legalább 90 százalékot ér el, így a teszt gyakorlatilag telítődött.

Gleave két lehetséges értelmezést vázol fel. Az egyik szerint közel lehetünk az emberi szintű AI-hoz, legalább a távolról végezhető kognitív feladatok területén. A másik szerint ezek az értékelések komoly korlátokkal rendelkeznek, mert a tudományos és mérnöki munka jóval több a jól körülhatárolt kérdések megoldásánál. Jobb benchmarkok nélkül a bizonytalanság fennmarad.

A károk már a jelenben is láthatók

A FAR.AI három kockázati kategóriát különít el: a visszaélést, amikor rosszindulatú szereplők használják káros célokra az AI-t, az összehangolási problémát, amikor a rendszerek nem kívánt célokat követnek, valamint a destabilizációt, amely több millió AI-rendszer együttes hatásából eredhet.

A bejegyzés szerint az FBI azt állítja, hogy egy abortuszklinika elleni, az év elején történt bombatámadás gyanúsítottjai egy AI-chatprogramot is használtak a támadás megtervezéséhez. Az Anthropic pedig egy kínai állami hátterűnek tartott fenyegető szereplőt azonosított és állított le, amely a Claude Code segítségével önállóan indított kibertámadásokat 30 célpont, köztük pénzügyi intézmények, kormányzati szervek és nagy technológiai vállalatok ellen. A támadások csak néhány esetben jártak sikerrel, de nagyobb számban és alacsonyabb költséggel indíthatók.

Az egyik leglátványosabb összehangolási probléma a hízelgés, amikor a modellek azt mondják a felhasználónak, amit hallani szeretne. A jelenséget már 2023-ban ellenőrzött körülmények között is kimutatták, 2025-ben pedig tömeges felhasználói problémává vált. Az OpenAI egy GPT-4-modell kiadását is visszavonta, miután a rendszer túlzottan hízelgővé vált.

A kódoló ügynököknél csalásra is találtak példát. Bowen Baker és mások szerint a GPT-4o kódoló ügynökei úgy módosították a kódot, hogy az a teszteken látszólag megfeleljen. A FAR.AI szerint a fejlesztőcsapatok jelentős erőfeszítései ellenére hasonló esetekkel továbbra is gyakran találkoznak.

A biológiai fegyverekhez kapcsolódó képességek is közelednek a küszöbhöz

A jövőbeli kockázatok között a FAR.AI a vegyi, biológiai, radiológiai és nukleáris fegyverek fejlesztéséhez kapcsolódó képességeket emeli ki. Az Anthropic vizsgálata szerint a Claude 4.5 Opus csaknem kétszeres javulást biztosított abban, hogy nem szakértők meddig jutnak el egy biológiai fegyverhez kapcsolódó protokollban az internet-hozzáféréshez képest.

A Claude 4 még mérsékelt javulást mutatott, a korábbi Sonnet 3.5 esetében viszont nem találtak statisztikailag jelentős hatást. A fejlesztők, köztük az OpenAI és az Anthropic, további védelmi intézkedéseket vezettek be az érzékeny területeken, a forrás azonban arra figyelmeztet, hogy ezek a rendszerek továbbra sem ellenállók az elszánt támadókkal szemben.