A CMU az AI-irányítást is beépíti adatvédelmi képzésébe

Az adatvédelmi szakemberektől már AI-irányítást is várnak

A Carnegie Mellon szeptember 25-i közleménye szerint új nevet kapott az egyetem több mint egy évtizede működő Privacy Engineering programja. A Privacy Engineering and AI Governance elnevezés azt tükrözi, hogy a képzés tananyaga az évek során már jelentősen kibővült a mesterséges intelligenciához kapcsolódó témákkal.

A változás hátterében az áll, hogy a vállalatoknál, kormányzati szervezeteknél, tanácsadó cégeknél és nonprofit intézményeknél dolgozó adatvédelmi mérnököket egyre gyakrabban kérik fel AI-irányítási feladatokra is. Ezek közé tartozik a legfontosabb kockázatok azonosítása, a mérséklési lehetőségek kidolgozása és az együttműködés más szervezeti szerepkörökkel.

Norman Sadeh, a program társigazgatója szerint az átnevezés annak felismerése, hogy az adatvédelmi mérnöki képzésben részt vevő szakembereknek már eddig is AI-irányítási kérdésekkel kellett foglalkozniuk. Az adatvédelmi mérnöki munka ugyanis eleve magában foglalja a kockázatok feltárását, a technológiák emberekre gyakorolt hatásának vizsgálatát, a szabályozás értelmezését és a lehetséges károk csökkentését.

Kötelező lett a felelős AI-ról szóló kurzus

Az AI-hoz kapcsolódó témák már több éve jelen vannak a tantervben. A hallgatók tanulnak többek között az AI szabályozásáról, a méltányosságról, a magyarázhatóságról, a vörös csapatos tesztelésről, a modellek összehangolásáról és az ügynöki AI gyors terjedésével járó kockázatokról.

A Responsible AI and AI Governance kurzust Sadeh néhány éve még választható tárgyként vezette be. Rövid idő alatt a program egyik legnépszerűbb kurzusává vált, és a hallgatók többsége elvégezte. Az átnevezett programban ezért már kötelező tárgyként szerepel.

A tananyag célja, hogy a hallgatók rendszerszerűen tudják azonosítani, felmérni és mérsékelni az AI-alapú termékek és szolgáltatások tervezése, illetve bevezetése során felmerülő kockázatokat. A képzés technikai, szervezeti és szabályozási eszközöket is bemutat ezek kezelésére.

Egy másik kötelező tárgy, az Information Security, Privacy, and Policy új neve Information Security, Privacy, and Policy in the Age of AI lett. A kurzusban azt is vizsgálják, miként használhatják a támadók az AI-t támadásaik nagyobb léptékű és gyorsabb végrehajtására, illetve hogyan alkalmazható ugyanez a technológia biztonsági és adatvédelmi sérülékenységek gyorsabb feltárására és javítására.

Több képzési forma közül választhatnak a hallgatók

A Carnegie Mellon a program átalakításával párhuzamosan többféle képzési lehetőséget kínál. Elérhető a Master of Science in Privacy Engineering and AI Governance, valamint a Master of Science in Privacy Technology and AI Governance. Utóbbi teljesen távoli formában is elvégezhető, így azoknak a szakembereknek szól, akik tanulmányaik mellett dolgozni szeretnének.

A teljes mesterképzésre nem vállalkozók számára az egyetem öthetesvégés, teljesen távoli Privacy Engineering and AI Governance Certificate programot biztosít. Ez koncentrált bevezetést ad a magánszféra védelmét és az AI-irányítást alakító fontos technológiákba, szabályozásokba és trendekbe.

A különböző formátumokat eltérő karrierszakaszban lévő résztvevőknek szánják. Egyes hallgatók informatikai, szoftvermérnöki vagy információs rendszerekkel kapcsolatos háttérből szeretnének az adatvédelem, a megfelelőség és az AI-irányítás területére váltani. Mások már ezen a területen dolgoznak, de formális képzéssel akarják követni a technológiai és szabályozási változásokat.

A program átnevezése a Carnegie Mellon szerint a munkaadók számára is világosabbá teszi, hogy a végzősök nem kizárólag hagyományos adatvédelmi mérnöki ismereteket szereztek. A képzés az AI által létrehozott jogi, etikai, társadalmi és technikai kockázatok értékelésére is felkészít, miközben az adatvédelmi szakma és az AI-irányítás egyre szorosabban kapcsolódik egymáshoz.