Kié az érdem, ha a mesterséges intelligencia is a csapat tagja?

Az AI már a tudományos ötletek alakításában is részt vesz

A kérdés különösen látványosan jelent meg egy matematikai probléma esetében. Paul Erdős matematikus unit-distance conjecture nevű sejtése azt próbálta meghatározni, hány pontpár helyezkedhet el egymástól azonos távolságra. A mesterséges intelligencia a beszámoló szerint olyan végtelen ellenpéldák csoportját találta meg, amelyek megcáfolták az Erdős által javasolt megoldást.

Az eredménynek nem volt egyetlen matematikushoz köthető szerzője. Emberek irányították a keresést, az AI-t pedig emberi adatokon tanították, így a felfedezés ember és gép együttműködésének eredménye lett. Christoph Riedl, a Northeastern Khoury College of Computer Sciences professzora szerint az ilyen helyzetekben egyre nehezebb megmondani, ki mit tett hozzá a munkához, és ki birtokolja azt.

Az AI már a mindennapi közös munkában is jelen van. Az Otter.ai például egy megbeszélés hozzászólásaiból készíthet összefoglalót, a Jenni AI és a SciSpace vázlatokat, illetve számítási eredmények magyarázatát írhatja meg, a Claude pedig kódot állíthat elő. A ChatGPT ötletelésben, szövegek javításában és információk megtalálásában is használható.

A szerzőség és a felelősség határai elmosódnak

Kashif Imteyaz, a Khoury College doktorandusza szerint könnyű átsiklani afelett, hogy a botok mekkora szerkesztői hatással vannak a tudományos folyóiratokban megjelenő tartalmakra. Egy kezdeti ötletből a felhasználó és a chatbot több napon át tartó közös gondolkodása alakulhat ki, ezért nehéz különválasztani, mi származik az embertől, és mi az AI hozzájárulása.

A Nature 2023-ban arra kérte a kutatókat, hogy a módszertani vagy köszönetnyilvánítási részekben jelezzék a botok használatát. A Wiley és az Elsevier hasonló kéréseket fogalmazott meg, egyes esetekben a promptok feltüntetését is kérve. A forrás szerint azonban egy prompt önmagában csak a beszélgetés egy részét rögzíti, és nem feltétlenül elég az AI válaszának megismétléséhez.

Riedl és munkatársai ezt a problémát „contribution dissolution”, vagyis a hozzájárulások feloldódásának nevezik. Az AI a megbeszélések jegyzeteinek rendbetétele közben átstrukturálhatja az érvelést, és ezzel átrendezheti, hogy egy-egy fontos ötlet kinek tulajdonítható. A kutatók szerint az AI a felelősség kérdését is felveti. Ha valaki elfogad egy meggyőzőnek tűnő, de téves AI által generált hipotézist, nem egyértelmű, ki viseli a következményeket.

Neda Maria Kaizumi, az AI irányításának szakértője szerint az emberi gondolkodást végig a folyamatban kell tartani. Azt mondta, minél erősebbé válik a technológia, annál fontosabb lesz az emberi ítélőképesség.

Műhelyben tesztelik, hogyan osztható el az érdem

Christoph Riedl, Saiph Savage, Kashif Imteyaz és más munkatársak olyan projektjavaslatot tettek közzé, amely egy gyakorlati műhellyel vizsgálná az ember és az AI közös munkáját. Az eseményt októberben rendezik Salt Lake Cityben, Utah államban. Kutatók és gyakorlati szakemberek több tudományterületről érkeznek, hogy közösen vizsgálják az érdem, a felelősség és a kreativitás elosztását.

A résztvevők saját munkamódszereikkel és AI-használati szokásaikkal dolgoznak majd együtt. A program egyik feladata, a „Documentation Trap Activity” során egy kész jelentést, korábbi változatokat és a csapat teljes AI-interakciós naplóját kapják meg. Ezek alapján kell feltárniuk, ki milyen ötlettel járult hozzá a munkához, mely elképzelések maradtak fenn, és kit terhelne a felelősség, ha hiba történt.

A műhely az úgynevezett dokumentációs csapdát és az accountability infrastructure, vagyis a felelősség kijelölését támogató alternatív rendszerek lehetőségét is vizsgálja. Saiph Savage szerint az AI-val végzett munkában a szerző szerepe egyre inkább a kreatív folyamat irányítása és a probléma megfogalmazása lehet. Riedl korábbi kutatásai pedig arra utalnak, hogy emberből és botból álló csapatok olyan eredményt is létrehozhatnak, amelyre külön-külön nem lettek volna képesek.