Valós időben szűrné a deepfake-eket a Microsoft Teamsben a Resemble AI
A Resemble AI valós idejű hang- és videóalapú deepfake-észlelést kínál Microsoft Teams-megbeszélésekhez. A Resemble Detect a hívás közben jelezheti, ha egy résztvevő hangja vagy képe mesterségesnek, illetve manipuláltnak tűnik.
- A Resemble Detect a Microsoft Teams-megbeszélések közben elemzi a hangot és a videót.
- A rendszer jelezheti a mesterséges vagy manipulált médiát és a név, illetve az arc eltérését.
- A használathoz a Resemble AI szerint nincs szükség külön megbeszélésbotra.
- Az adminisztrátorok célzottan telepíthetik a szolgáltatást különböző üzleti csapatok számára.
- A vállalat szerint csak a gyanúsnak jelölt résztvevők hangját és videóját őrzik meg.
A hívás közben vizsgálja a hangot és a képet
A Resemble AI szeptember 30-án ismertette a Microsoft Teamshez készült megoldását. A vállalat szerint a videóhívásokon már nem elegendő pusztán látni és hallani a beszélgetőpartnert, mivel a támadók mesterséges intelligenciával létrehozott hanggal és videóval utánozhatnak vezetőket, jelölteket, beszállítókat, ügyfeleket és partnereket.
A Resemble Detect a Teams-megbeszélések során elemzi a résztvevők hang- és videófolyamát. A rendszer azt vizsgálja, hogy a média valódi vagy mesterséges, illetve manipulált lehet-e, és gyanús résztvevők esetén riasztást küldhet. A szolgáltatás a Resemble AI leírása szerint Teamsbe épülő élményt ad, így az engedélyezett felhasználók egy rögzített alkalmazáson keresztül érhetik el.
Külön megbeszélésbot nélkül is használható
A Resemble Detect használatához a vállalat szerint nincs szükség külön megbeszélésbot hozzáadására. Ha egy szervezet látható botot szeretne a hívásban, ezt később megteheti. A gyanús médiáról szóló értesítések több Teams-felületen is megjelenhetnek, így a felhasználók a megbeszélés közben és azt követően is találkozhatnak velük.
A rendszer személyazonosság-ellenőrzést is kínál azoknál, akiket előzetesen arccal és hanggal regisztráltak. A Resemble Detect jelezheti, ha a képernyőn látható név nem egyezik a kamerában szereplő személlyel. Ez a vállalat által felsorolt felhasználási esetek között különösen az állásinterjúk és az egymást követő interjúk során történő személycserék kiszűrését segítheti.
Vezetői megszemélyesítést és csalási kockázatokat céloz
A Resemble AI szerint a deepfake-kockázat az elszigetelt csalásokon túl a mindennapi üzleti munkafolyamatokban is megjelenik. A felsorolt esetek között szerepel a vezetők megszemélyesítése és a fizetési csalás, a hamis állásjelöltek megjelenése, a beszállítók, partnerek és ügyfelek utánzása, valamint az érzékeny, külső résztvevőkkel tartott megbeszélések védelme.
A bevezetést az informatikai és biztonsági adminisztrátorok kezelhetik a Resemble irányítópultján és a Microsoft Teams adminisztrációs eszközein keresztül. A forrás szerint célzottan telepíthető például a biztonsági, pénzügyi, HR-, vezetői, beszerzési és ügyfélkapcsolati csapatok számára.
A szolgáltatás adatkezelési modellje a Resemble AI leírása szerint úgy működik, hogy csak a gyanúsként megjelölt résztvevők hangját és videóját őrzi meg felülvizsgálatra. A vállalat szerint minden más résztvevő adata törlődik. A megoldás így azoknak a szervezeteknek szól, amelyek a Teamsben zajló, nagy kockázatú beszélgetésekhez szeretnének valós idejű deepfake-jelzéseket és adminisztrációs kontrollt.
Resemble AI: Resemble AI for Microsoft Teams
