AI Now: szigorú felelősség kellhet az MI-rendszerek okozta károkért
Az AI Now Institute szakértője szerint a mesterséges intelligenciát fejlesztő vállalatoknak szigorú felelősséget kellene viselniük, ha termékeik súlyos károkat okoznak. Kate Brennan úgy látja, a cégek pénzügyi érdekei miatt a technológiát olyan közintézményekben is alkalmazhatják, ahol az nem biztonságos vagy nem alkalmas a feladatra.
- Az AI Now Institute szakértői az MI-kormányzás lehetséges eszközeit vizsgálták.
- Kate Brennan szerint a cégek pénzügyi kényszere gyors és széles körű terjeszkedést ösztönözhet.
- A Bain becslése szerint 2031-re évi 6 billió dolláros bevételre lehet szükség az évi 1,5 billió dolláros tőkekiadás fenntartásához.
- Brennan jelentős károkozás esetén szigorú vállalati felelősséget vetett fel.
- A példák között sérülés, haláleset és kiberbiztonsági támadás szerepel.
A növekvő beruházási kényszer hajthatja a terjeszkedést
Az AI Now Institute október 26-án közölt írásában szakértői panelt kérdezett arról, milyen kockázatokat jelent a mesterséges intelligencia, és milyen kormányzati eszközökkel lehetne kezelni ezeket. A megszólalók között szerepel Kate Brennan, a Google korábbi technológiai munkatársa, aki az AI Now Institute-nál a mesterséges intelligenciával és a vállalati hatalommal kapcsolatos szakpolitikai munkát vezeti.
Brennan szerint a legnagyobb kockázatot az jelenti, hogy az MI-vállalatok rendkívül sok pénzt fordítanak a technológia kiépítésére. Az AI Now oldalán idézett álláspontja szerint a Bain tanácsadó cég becslése alapján 2031-re ezeknek a vállalatoknak évente 6 billió dollár bevételt kellene elérniük ahhoz, hogy fenntartsák jelenlegi, évi 1,5 billió dolláros tőkekiadásukat.
Brennan szerint az ilyen számok fenntartásához a cégeknek mindenhol el kellene terjeszteniük a technológiát. Ez magában foglalhatja a közintézményeket és az állami szerződéseket is, olyan területeken, ahol az MI nem alkalmas a feladatra, illetve nem biztonságos vagy eleve nem biztonságos működésre tervezett.
A kormány feladata a káros termékek kiszűrése
Az AI Now által közölt beszélgetésben Brennan azt mondta, a kormány feladata, hogy megakadályozza a káros termékek piacra kerülését. Ezt a gyógyszerek és a repülőgépek esetében már alkalmazott megközelítéshez hasonlította.
Az általa felvetett probléma középpontjában a vállalati gondatlanság áll. Brennan szerint erről kellene szólnia a vitának, ahelyett hogy a figyelem elsősorban elvont kockázatokra irányulna. Az AI Now Institute független kutatóintézetként hivatkozik magára, amely közérdekű szakértői elemzéseket készít a mesterséges intelligenciáról.
A szakértő úgy látja, meggyőző érv szól amellett, hogy jelentős károkozás esetén a vállalatokat objektív, vagyis szigorú felelősség terhelje. Ez akkor is érvényesülhetne, ha a cég nem tudott a veszélyről, és nem is kellett volna tudnia róla.
Sérülés, haláleset és kibertámadás is a példák között
Brennan szerint a szigorú felelősség kérdése akkor merülhet fel, ha egy MI-termék jelentős kárt okoz. Példaként említette az embereket érő sérülést, a halálesetet és a kiberbiztonsági támadásokat.
Az AI Now Institute bejegyzése egy teljes kerekasztal-beszélgetésre is hivatkozik, amelyben a kormányzati szabályozás lehetséges eszközeit és a mesterséges intelligencia kockázatait vizsgálták. A közölt rész alapján a vita egyik súlypontja annak meghatározása, hogy miként lehet a vállalati felelősséget a konkrét károkhoz kötni.
Az álláspont a felhasználók számára azt jelentheti, hogy az MI-rendszerek közintézményi alkalmazásának kockázatait nem kizárólag a használatuk után kellene vizsgálni. Brennan szerint már a piacra kerülés előtt szükség lehet annak kezelésére, hogy a termék biztonságos-e, és alkalmas-e arra a feladatra, amelyre használni akarják.
AI Now Institute: What Should the Rules for A.I. Companies Actually Be? We Asked the Experts.
