Az FBI figyelmeztet a mesterséges intelligencia hamisított zsarolási csalásokra

A generatív mesterséges intelligencia életszerű képeket képes létrehozni, de az Egyesült Államok Szövetségi Nyomozó Iroda szerint a bűnözők mélyhamisításokat használnak a zsarolás áldozataira.

„Az FBI továbbra is kap jelentéseket áldozatoktól, köztük kiskorú gyerekektől és nem beleegyező felnőttektől, akiknek fényképeit vagy videóit nyílt tartalommá változtatták” – áll az ügynökség hétfői PSA-riasztásában.

Az FBI szerint tavaly több mint 7,000 bejelentés érkezett a bűnüldöző szervekhez kiskorúakat célzó online zsarolásról, április óta pedig megnövekedett a mélyhamisításokat használó úgynevezett „zsarolási csalások” áldozatainak száma.

A mélyhamisítás a mesterséges intelligenciával létrehozott video- vagy audiotartalom egyre gyakoribb típusa, amely hamis eseményeket ábrázol, amelyeket egyre nehezebb hamisítványként felismerni, köszönhetően az olyan generatív AI-platformoknak, mint a Midjourney 5.1 és az OpenAI DALL-E 2.

Májusban elterjedt a Tesla és a Twitter vezérigazgatójának, Elon Musknak a kriptobefektetők átverésére készített mélyhamisítása. A közösségi médiában megosztott videó Musk korábbi interjúiból készült felvételeket tartalmazott, amelyeket a csalásnak megfelelően szerkesztettek.

A mélyhamisítások nem mind rosszindulatúak, az év elején terjedt el egy fehér Balenciaga-kabátot viselő Ferenc pápa hamisítványa, és a közelmúltban a mesterséges intelligencia által generált mélyhamisításokat is felhasználták a gyilkosságok áldozatainak életre keltésére.

Az FBI ajánlásaiban óva intett a váltságdíj fizetésétől, mert ez nem garantálja, hogy a bűnözők úgysem teszik közzé a mélyhamisítványt.

Az FBI emellett óvatosságra int a személyes adatok és tartalmak online megosztása során, beleértve az olyan adatvédelmi funkciók használatát, mint a fiókok priváttá tétele, a gyermekek online tevékenységeinek megfigyelése, valamint az olyan személyek szokatlan viselkedésének megfigyelése, akikkel korábban kapcsolatba került. Az ügynökség azt is javasolja, hogy rendszeresen keressen személyes és családtagokra vonatkozó információkat az interneten.

Más ügynökségek is megkongatják a vészharangot, többek között az Egyesült Államok Szövetségi Kereskedelmi Bizottsága, amely arra figyelmeztetett, hogy a bűnözők mélyhamisításokat használtak arra, hogy a gyanútlan áldozatokat pénzküldésre csalják, miután egy barátról vagy családtagról hangos hamisítványt készítettek, amely azt állítja, hogy elrabolták őket.

„A mesterséges intelligencia már nem egy távoli ötlet egy sci-fi filmtől. Élünk vele, itt és most. Egy csaló mesterséges intelligencia segítségével klónozhatja szerettei hangját” – mondta az FTC márciusi fogyasztói figyelmeztetésében, hozzátéve, hogy minden bűnügyi igény egy családtag hangjának rövid hangfelvétele, hogy a felvétel valósághű legyen.

Az FBI még nem válaszolt dekódolása a megjegyzés kérése.