A mesterséges intelligencia hallucinációi a kreativitás árnyoldalára vezethetők vissza

A kreativitás forrását a váratlan válaszokban keresték

Benjamin Lindquist, az MIT történelem tanszékének adjunktusa új tanulmányban vizsgálta, hogyan került a véletlenszerűség a mesterséges intelligencia korai modelljeibe. A kutató az MIT Schwarzman College of Computing és az Electrical Engineering and Computer Science tanszék közös pozícióját tölti be, emellett a Laboratory for Information and Decision Systems vezető kutatója.

Az The Irrational Computer: Randomness and Unreason in the History of Artificial Intelligence című tanulmány a Past and Present folyóiratban jelent meg. Lindquist az MIT Newsnak elmondta, hogy a 20. század közepének több mérnöke és kutatója a kreativitást a váratlan logikai ugrásokkal, illetve az álomszerű gondolkodással kapcsolta össze.

Az 1950-es évek elején John Pierce, a Bell Labs jelentős villamosmérnöke úgy vélte, hogy a matematika nem feltétlenül a rendet erősíti a művészetben. A matematika szerinte kiszámított módon eltávolíthatja a megszokott mintákat, és szabálytalanságot adhat hozzájuk. Ez az eltérés új felismerésekhez vezethet.

A korai neurális hálózatok a gondolkodás hibáit is modellezték

A kiszámítható számítógépekbe épített szabálytalanság egyik módja a mesterséges, vagyis véletlenszerű neurális hálózatok használata volt. Sok korai neurális hálózatot pszichológusok építettek, mert úgy gondolták, hogy az agy modelljének létrehozásával megfigyelhetővé válhatnak a gondolkodás belső folyamatai, köztük a produktív hibák is.

Ezeket a rendszereket egyes kutatók nem fekete dobozként kezelték. Azt remélték, hogy segítségükkel betekintést nyerhetnek az elme rendezetlenebb működésébe. Mások ezzel szemben úgy gondolták, hogy a kreatív gondolkodás egyszerűen a szokásos gondolkodás hatékonyabb formája.

A korai AI hívei ezért sokszor éppen a váratlan válaszok miatt értékelték a neurális hálózatokat. A laboratóriumi környezetben egy furcsa vagy hibás kimenetnek még kevés gyakorlati következménye volt. Lindquist szerint ez különbözik a mai helyzettől, amikor jogi és pénzügyi okok miatt az OpenAI és az Anthropic sem szeretne kiszámíthatatlan válaszokat adó chatbotokat működtetni. A rendszerek furcsaságát fokozatosan visszaszorították, még ha ez a tulajdonság a kutató szerint továbbra is jelen lehet az alapjaikban.

A neurális hálózatok hosszú kerülő után váltak meghatározóvá

A neurális hálózatok az 1950-es években kezdtek teret nyerni, de kezdetben háttérbe szorultak a szimbolikus AI mögött. Ez a megközelítés abból indult ki, hogy a világ szabályokra épül, ezért a kutatóknak tények és állítások formájában kell rekonstruálniuk a tudást, majd azt számítógépbe kell táplálniuk.

Frank Rosenblatt pszichológus a neurális hálózatok egyik fontos korai alakja volt. Rosenblatt 1971-ben, 43. születésnapján bekövetkezett balesetben halt meg. Lindquist szerint korai halála idején már zajlott az elmozdulás a szimbolikus AI felé, és lehetséges, hogy másképp alakult volna a terület története, ha tovább él.

A neurális hálózatok azonban nem tűntek el. Az 1980-as évekre inkább a kognitív tudományok felé mozdultak, később pedig az internet megjelenése biztosította a szükséges nagy adatmennyiséget és számítási kapacitást. Körülbelül 2012-től kezdve ezek a hálózatok elkezdték felülmúlni a statisztikai gépi tanulás egyik formáját, és ezt követően tovább fejlődtek.

A hallucinációk visszaszorítása kreativitásveszteséggel járhat

Lindquist szerint az AI története óvatosságra int. A kutatók dolgozhatnak azon, hogy a rendszerek kevesebb hallucinációt produkáljanak, és ritkábban adjanak nem kívánt vagy váratlan válaszokat. A kutatás története ugyanakkor arra utal, hogy ennek ára lehet.

A meglepő és kreatív következtetések, valamint a hibák és hallucinációk között kapcsolat áll fenn. A rendszerek tervezésekor ezért választani kell a kiszámíthatóság és a váratlan ötletek lehetősége között. Lindquist szerint valószínűleg egyik véglet sem érhető el teljesen, és ha egy tulajdonságot erőteljesen erősítünk, közben gyakran akaratlanul feláldozunk valami mást.