Az AI Now szerint a végzetjóslatok a nagy AI-cégeknek kedveznek
Az AI Now Institute szerint nincs világos út, amely a jelenlegi mesterségesintelligencia-rendszerektől a szuperintelligenciáig vezetne, ezért a civilizációs katasztrófa valószínűsége sem számítható ki megalapozottan. Az intézet úgy látja, hogy az AI-végzetjóslatok és a vállalatok önszabályozása a nagy technológiai cégek üzleti érdekeivel találkozhat.
- Az AI Now szerint nincs világos út a mai AI-rendszerektől a szuperintelligenciáig.
- Az intézet szerint a végzetjóslatok mögött nem áll tudományosan ellenőrizhető munka.
- Az Anthropic és az OpenAI vezetői saját cégeiket alkalmasnak tartják a felelős fejlesztésre.
- Az AI Now a vállalati önszabályozás helyett független, közérdekű ellenőrzést sürget.
- Az intézet szerint az önszabályozás a nagy AI-cégek üzleti érdekeit szolgálhatja.
Nincs tudományos alap a végzetjóslatok mögött
Az AI Now Institute szeptember 30-án közzétett írása szerint jelenleg nincs egyértelmű tudományos út annak bemutatására, hogy a mai AI-rendszerek szuperintelligenciához vezetnek. Az intézet álláspontja szerint ebből következően arra sincs megalapozott módszer, hogy kiszámítsák egy esetleges katasztrófa valószínűségét.
A szervezet szerint a szuperintelligenciának tulajdonított képességek miatt egyes közösségek az előrehaladott mesterséges intelligenciáról istenhez hasonló fogalmakkal beszélnek. Boyan Milanov, az AI Now Institute vezető kutatója szerint ezekben a közösségekben egy mindenható AI-isten eljövetelében hisznek, amely az emberiség pusztulásához vezethet, vagy utópiát teremthet.
Az AI Now a tudományos ellenőrizhetőséget hiányolja
Milanov szerint a végzetjóslás mögött nem áll tudományos munka. Az AI Now Institute által közölt idézetben úgy fogalmaz: „Azt kell szem előtt tartanunk, hogy ez az egész végzetjóslás nem tudományos munkán alapul.” A kutató szerint ezek az elképzelések inkább tudományos-fantasztikus történetek, mivel állításaik tudományosan sem igazolhatók, sem cáfolhatók.
Ez a kritika arra a kérdésre irányul, hogy milyen bizonyítékok alapján beszélnek egyes szereplők a jövőbeli szuperintelligenciáról és az emberiséget fenyegető kockázatokról. A forrás szerint a jelenlegi rendszerekről a szuperintelligenciáig vezető fejlődési lánc nincs világosan bemutatva.
A vállalatok saját maguk állítanák fel a korlátokat
Az AI Now szerint az Anthropic és az OpenAI vezetői egyaránt arra utalnak, hogy saját szervezeteik képesek felelősen, megfelelő védőkorlátokkal megépíteni ezeket a rendszereket. A megközelítésben a vállalatok maguk határozzák meg a szabványokat és a működési folyamatokat.
Milanov értékelése szerint ez önszabályozást jelent. Az intézet kutatója úgy látja, hogy a vállalatok által kialakított rendszerek helyett olyan független szereplők által végzett ellenőrzésre lenne szükség, akik a köz érdekeit képviselik. Az AI Now állítása szerint a cégek saját szabályainak és folyamataiknak meghatározása nem biztosít ilyen külső felügyeletet.
Miért fontos ez a felhasználóknak és a piacnak?
Az AI Now elemzése szerint a vita tétje nem kizárólag az, hogy bekövetkezhet-e egy jövőbeli, szélsőséges AI-katasztrófa. Az is kérdés, hogy ki állapítja meg a fejlesztések biztonsági követelményeit, és ki ellenőrzi azok betartását.
Az intézet szerint az önszabályozás a nagy AI-vállalatoknak kedvezhet, mert a döntési jogkör a cégeknél marad. Milanov úgy fogalmazott, hogy ha az érvek mögé nézünk, minden olyan intézkedéshez vezethetnek, amely az Anthropic-hoz hasonló vállalatokat segíti. A forrás nem közöl új szabályozást vagy független ellenőrzési rendszert, az írás központi állítása a vállalati önszabályozás és a végzetjóslatok kapcsolatának bírálata.
AI Now Institute: How the bad science of AI doomerism is good for big business