Az Ai2 szerint ezek az AI-val támogatott tudomány legnehezebb kérdései

Az AI már sok tudományos feladatban segít, de a kutatás irányítása nehezebb

Az Ai2 beszámolója szerint az AI már ma is képes meglepően sok tudományos munkafolyamatban támogatást adni: szakirodalmat kereshet, adatkészleteket elemezhet, kódot írhat, valamint hipotéziseket generálhat és tesztelhet. A nehezebb feladat az, hogy olyan rendszerek készüljenek, amelyeket a kutatók egy folyamatban lévő projekt során is irányítani tudnak, különösen akkor, amikor új bizonyítékok miatt változik, mely hipotéziseket, kísérleteket vagy kérdéseket érdemes előtérbe helyezni.

Ez állt az Ai2 augusztus 27-i eseményének középpontjában, amely a Providence Swedish Cancer Institute Paul G. Allen Research Centerével végzett munka bővítését kísérte. Az Ai2 jelezte, hogy a közös munka nyomán létrejött rákkutatási eredményekről külön írt, ezen az eseményen viszont a téma tágabb keretben jelent meg: mi hiányzik még a mai tudományos AI-ból.

A beszélgetésben és az előadásokban több kutató és szakember vett részt, köztük Kelly Paulson, Bodhisattwa Prasad Majumder, Sasha Stanton, Kyle Travaglini, Abraham Flaxman, Stephen Salerno és Hoifung Poon. Az Ai2 összefoglalója öt visszatérő kihívást emelt ki.

Az emberi szakértelem és az irányíthatóság központi kérdés marad

Bodhisattwa Prasad Majumder az Ai2 beszámolója szerint a tudományos ízlést olyan ítélőképességként írta le, amely segít a kutatónak megkülönböztetni az érdekes eredményt attól, ami triviális, valószínűtlen, már ismert vagy aligha vezet tovább. A mai tudományos AI-rendszerek önállóan nem megbízhatóak ezekben a döntésekben.

Az Ai2 szerint a cél nem feltétlenül az, hogy ezt az ítélőképességet teljes egészében átadják egy AI-rendszernek. A kihívás inkább az, hogy a kutatók a saját szakértelmüket, prioritásaikat és a problémáról szerzett változó tudásukat be tudják vinni a rendszerbe, hogy az AI úgy segítsen, hogy közben ne saját maga döntse el, mely irányok érdemelnek figyelmet.

Az Ai2 és a Providence kutatóinak munkája erre konkrét példát adott. Az AutoDiscovery olyan hipotéziseket tudott felszínre hozni, amelyek statisztikailag meglepőnek tűntek, de szakértői kontextus nélkül biológiai vagy klinikai szempontból kevés értelmük volt. Amikor a kutatók bevitték a területi tudásukat a folyamatba, a rendszer sokkal hasznosabbá vált.

A másik visszatérő téma az irányíthatóság volt. A tudományos munka ritkán követ előre rögzített tervet: egy kísérlet váratlan eredményt hozhat, egy új tanulmány módosíthatja a kutatók tudását, vagy egy tudós új adatkészletet, másik eszközt vagy eltérő kutatási irányt választhat. Majumder szerint a jelenlegi ügynökök továbbra is nehezen irányíthatók hosszabb vizsgálatok során.

Az Ai2 összefoglalója alapján a tudósoknak szükségük lehet arra, hogy új kísérleti eredmények és friss szakirodalmi megállapítások alapján módosítsák egy ügynök utasításait, kontextusát vagy eszközeit anélkül, hogy minden alkalommal újrakezdenék a munkát vagy újratanítanák az alapmodellt. A beszámoló szerint a tudományos ügynökök viselkedésének irányítása és tudásuk naprakészen tartása szorosan összefügg.

Nem mindegy, mit bíznak az AI-ra

Hoifung Poon kétféle AI-hozzájárulást különített el: a termelékenységi és a kreativitási nyereséget. A termelékenységi nyereség olyan feladatok átvállalásából származik, amelyeket az emberek már tudnak elvégezni, de fárasztóak vagy időigényesek, például rekordok keresése, információk strukturálása vagy szakirodalom összegzése. Ezeket a feladatokat viszonylag könnyű leírni, és ami fontos, ellenőrizni.

A kreativitási nyereség nehezebben értékelhető. Ha az AI olyan mechanizmust vet fel, amelyre a kutatók nem gondoltak, vagy váratlan kísérletet javasol, az tudományosan értékes lehet, de az ilyen kimeneteket rendszerint nem lehet olyan egyszerűen ellenőrizni, mint egy pontosan meghatározott feladat eredményét. Sokszor további elemzésre és megismétlésre van szükség annak eldöntéséhez, hogy az ötlet megállja-e a helyét.

Abraham Flaxman egy szerkesztői munkájából vett példát hozott a Journal of Privacy and Confidentiality folyóiratnál. Egy kutató AI-rendszerrel tesztelte a saját, korábban megjelent cikkeiben szereplő algoritmusokat, a rendszer pedig hibát jelzett az egyikben. A kritika kivizsgálása után a kutató arra jutott, hogy az AI-nak igaza volt, és kérte a folyóirattól a cikk visszavonását.

Az Ai2 beszámolója szerint a példa értéke nem az AI ítéletének feltétel nélküli elfogadásában volt, hanem abban, hogy a rendszer felszínre hozott valamit, amit érdemes volt megvizsgálni. Kelly Paulson megfogalmazását az Ai2 így idézte: „Ez kutatás, nem keresés. Fel kell fedezni, és ellenőrizni kell.”

A rossz tudományt is felerősítheti a gyorsabb elemzés

Stephen Salerno arra figyelmeztetett, hogy a gyorsabb elemzés nem javít meg egy rosszul megtervezett vizsgálatot vagy hibás adatot. Az Ai2 összefoglalója szerint Salerno ebben az értelemben az AI-t erősítőként írta le: a jó kísérlettervezést, gondos adatgyűjtést és megalapozott oksági érvelést erősebbé teheti, de a gyenge feltételezéseket és módszertani hibákat is felnagyíthatja.

Ezért a kutatási folyamat alapvető kérdései még fontosabbá válnak. Honnan származtak az adatok? Miért gyűjtötték őket? Kik kerültek be a vizsgálatba, és kik maradtak ki? Egy látszólagos kapcsolat oksági vagy tudományos szempontból értelmes-e? Az Ai2 szerint ahogy az AI több adat elemzését és több ötlet tesztelését teszi lehetővé, a gyenge feltételezések és a módszertani hibák következményei is jelentősebbé válnak.

A felhasználóknak ellenőrizhetőbb és rugalmasabb tudományos AI kell

Az esemény egyik ambiciózusabb témája az AI és a labor közötti szorosabb kapcsolat volt. Kyle Travaglini olyan idegtudományi projekteket írt le, amelyekben több száz sejttípus és több ezer változó gén szerepel, vagyis túl sok kapcsolat ahhoz, hogy egy kutató egyedül kövesse végig a szakirodalomban. Az ügynökök segíthetnek az ilyen bizonyítékok szintetizálásában és az ígéretes hipotézisek rangsorolásában, később pedig közvetlenül laboratóriumi eszközökkel is kapcsolatba léphetnek, hogy az egyik kísérlet eredménye alakítsa a következőt.

Poon ehhez kapcsolódva a biológia gazdagabb számítógépes modelljeiről beszélt. A „virtuális szövetet” olyan lehetséges hídként írta le, amely az egyedi sejtek modelljei és a távolabbi célként említett „virtuális beteg” között helyezkedhet el. Utóbbi a betegség előrehaladásának vagy a kezelésre adott válasznak az előrejelzésében segíthetne.

A beszámoló alapján mindez olyan tudományos AI felé mutat, amely aktívabban vesz részt a kutatási folyamatban: segít eldönteni, mit érdemes vizsgálni, beépíti az új bizonyítékokat, és közelebb kapcsolja az elemzést a laboratóriumi munkához. Az Ai2 szerint ehhez nemcsak erősebb modellekre van szükség, hanem alkalmazkodóbb rendszerekre, az új tudás beépítésének jobb módszereire és elég rugalmasságra ahhoz, hogy a kutatók a projektek változása közben is irányítani és ellenőrizni tudják a munkát.