Láthatatlan hangparancsok támadhatják az AI-ügynököket – egy podcast is elég lehet a bajhoz
Egy ártatlannak tűnő YouTube-videó vagy podcast is biztonsági kockázattá válhat, ha emberi füllel alig érzékelhető vagy teljesen észrevétlen hangparancsokat rejt. Az AudioHijack néven bemutatott kutatás szerint ezek a rejtett jelek nagy audio-nyelvi modelleket téríthetnek el, és bizonyos tesztekben 79 és 96% közötti sikerarányt értek el. Egyre természetesebbnek vesszük, hogy mesterséges intelligenciára épülő asszisztenseknek és ügynököknek adunk hozzáférést a digitális életünk egyre nagyobb részéhez. Ezek a rendszerek már nemcsak válaszolnak, hanem fájlokat kezelhetnek, webes kereséseket indíthatnak, e-maileket írhatnak, alkalmazásokat vezérelhetnek, és bizonyos környezetekben akár a felhasználó nevében is végrehajthatnak műveleteket. Ez kényelmes, de közben új támadási felületet is nyit: ha az AI-ügynök hangot is képes feldolgozni, akkor nemcsak az számít, mit írunk vagy mondunk neki, hanem az is, milyen rejtett utasításokat hallhat meg egy videóból,… Olvasd tovább... Láthatatlan ...
Hamarosan átirányítunk a teljes cikkhez → theGeek