Toby Ord szerint a visszacsatolás dönti el, lehet-e intelligenciarobbanás

Az AI fejlesztheti a következő AI-t

Toby Ord, a Forethought kutatója a 2026. augusztus 28-án közzétett The Dynamics of Intelligence Explosions című tanulmányban az intelligenciarobbanás matematikai dinamikáját vizsgálja. A kiindulópont az, hogy a mesterséges intelligenciát egyre több olyan feladatra használják, amely jobb AI-rendszerek létrehozásához kapcsolódik.

A tanulmány példaként említi, hogy AI segítségével már próbáltak jobb optimalizálási algoritmusokat találni neurális hálózatok tanításához, hatékonyabb mátrixszorzási algoritmust tervezni, új AI-rendszerek kódját megírni, valamint kísérleteket futtatni az AI-rendszerek iteratív fejlesztésére. A vezető AI-cégek egyre többet beszélnek arról is, hogy egy rendszer a következő rendszer megtervezésében és felépítésében végezzen munkát.

Ord ezt a folyamatot rekurzív önfejlesztésnek, röviden RSI-nek nevezi. A fogalom nála tág értelemben szerepel: beleférnek azok az esetek is, amikor az emberek végzik a munka nagy részét, és azok is, amikor az AI végzi szinte vagy teljes egészében a fejlesztést.

Miért fontos a generációs idő?

A szerző differenciálegyenletekkel modellezi, hogyan változhat egy AI-rendszer kognitív képessége. Az egyik alapmodellben a képesség változásának sebessége arányos a jelenlegi képesség szintjével. Ez exponenciális növekedést eredményez.

Ord szerint azonban a korábbi, közgazdasági ihletésű modellek könnyen összekeverhetik a gyors növekedés két eltérő formáját. Az egyik a szuperexponenciális növekedés, amely gyorsabb az exponenciálisnál, de nem feltétlenül tart egy véges időn belüli függőleges aszimptotához. A másik a szinguláris növekedés, amelynél a növekedési görbe véges idő alatt függőleges aszimptotához közelít.

A tanulmány absztraktja szerint a függőleges aszimptota eléréséhez a visszacsatolási ciklus időtartamának, vagyis a generációs időnek gyorsan nullához kell közelítenie. Rögzített generációs idő mellett ez nem érhető el, függetlenül attól, milyen gyorsan nőnek a fejlesztések.

A gyorsulásnak lehet fizikai korlátja

Ord következtetése szerint a szuperexponenciális fejlődés idővel lelassulhat, amikor a generációs időt már nem lehet tovább csökkenteni. Ez azt jelenti, hogy a gyors képességnövekedés és a véges idő alatt bekövetkező szinguláris növekedés nem ugyanaz a jelenség.

A kutató célja a legszélsőségesebb növekedési formák jobb megértése, nem pedig az RSI kockázatainak vagy az ezekre adható válaszoknak a részletes vizsgálata. Ugyanakkor a tanulmány szerint az RSI felgyorsíthatja a képességnövelést a biztonsági kutatásokhoz, a vállalati döntéshozatalhoz és a társadalmi alkalmazkodáshoz képest. A szerző ezért olyan lehetséges korlátozásokat is felsorol, mint a szoros megfigyelés, az érdemi emberi kontroll fenntartása, a havi képességnövekedés sebességének korlátozása vagy bizonyos RSI-megközelítések tiltása.

A felhasználók és a piac szempontjából a tanulmány fő üzenete az, hogy az AI-fejlesztés gyorsulását nem elég egyetlen növekedési görbével leírni. A visszacsatolási ciklusok tényleges időtartama meghatározhatja, hogy a fejlődés exponenciális, annál gyorsabb, vagy egy véges időn belül szinguláris jellegű lesz-e.