AI Now: nincs tudományos alapja az AI-apokalipszis jóslatainak
Az AI Now Institute szerint nincs világos út a mai mesterségesintelligencia-rendszerektől a szuperintelligenciáig, ezért az emberiség pusztulásának valószínűsége sem számítható ki tudományosan. Az intézet úgy látja, hogy az AI-végítélet narratívája a nagy technológiai cégek önszabályozását erősítheti.
- Az AI Now Institute szerint nincs bizonyíték a mai AI-rendszerektől a szuperintelligenciáig vezető útra.
- Az AI-végítélet esélye a szervezet szerint nem számítható ki tudományos alapon.
- Boyan Milanov tudományos-fantasztikumnak nevezi a nem ellenőrizhető és nem cáfolható állításokat.
- Az Anthropic és az OpenAI vezetői saját szervezeteiket alkalmasnak tartják a rendszerek felelős fejlesztésére.
- Az AI Now szerint a vállalati önszabályozás független ellenőrzés helyett a nagy cégeknek kedvezhet.
Nincs tudományos alap a végítélet-jóslatok mögött
Az AI Now Institute szeptember 30-án közzétett anyaga szerint nincs egyértelmű bizonyíték arra, hogy a jelenlegi mesterségesintelligencia-rendszerek szuperintelligenciához vezetnének. Az intézet álláspontja szerint emiatt annak kiszámítására sincs megfelelő alap, hogy egy ilyen fejlődés mekkora eséllyel okozna katasztrófát.
A szervezet szerint a szuperintelligenciának tulajdonított képességek egyes közösségekben vallásos jellegű, istenhez hasonló leírásokhoz vezettek. Boyan Milanov, az AI Now Institute vezető kutatója úgy fogalmazott, hogy ezek az elképzelések egy mindenható, nagy hatalmú AI-isten eljövetelét feltételezik, amely vagy az emberiség pusztulásához, vagy egy utópiához vezet.
Milanov szerint ez inkább tudományos-fantasztikum
Milanov szerint az AI-végítélet köré épülő gondolkodás mögött nincs tudományos munka. A kutató szavait az AI Now Institute idézte: „Azt kell észben tartanunk, hogy ez az egész végítélet-központú gondolkodás nem tudományos munkán alapul. Valójában tudományos-fantasztikum. Egyik állítás sem ellenőrizhető vagy cáfolható tudományosan.”
Az állítások ellenőrizhetetlensége az intézet szerint azért fontos, mert a szuperintelligenciáról és annak következményeiről szóló kijelentések így nem ugyanúgy vizsgálhatók, mint a tudományos kutatásból származó állítások. A forrás nem állítja, hogy a mesterséges intelligencia jövőbeli kockázatai általában nem léteznek, azt hangsúlyozza, hogy a végítélet-jóslatokhoz nem társul ellenőrizhető tudományos alap.
Az önszabályozás a nagy cégeknek kedvezhet
Az AI Now Institute szerint az Anthropic és az OpenAI vezetői egyaránt azt jelzik, hogy saját szervezeteik képesek felelősen felépíteni ezeket a rendszereket, a megfelelő korlátokkal. A forrás szerint ezeknek a korlátoknak a meghatározását maguk a vállalatok végeznék el.
Milanov ezt olyan megközelítésként írja le, amelyben a cégek saját szabványaikat és folyamataikat állítják fel, ahelyett hogy független, a közérdeket képviselő felek ellenőriznék őket. Az AI Now Institute értelmezésében ez önszabályozást jelent. Milanov szerint a javaslatok mögé nézve olyan megoldások rajzolódnak ki, amelyek az Anthropic-hoz hasonló vállalatoknak kedveznének.
A hír a felhasználók és a piac számára azt jelenti, hogy az AI biztonságáról folyó vita az intézet szerint nem csak a rendszerek jövőbeli képességeiről szól. Arról is, hogy ki határozza meg a biztonsági szabályokat, és hogy ezeket a vállalatok saját maguk alakítják-e ki, vagy független szereplők ellenőrzik.
AI Now Institute: How the bad science of AI doomerism is good for big business