Windows 11: a Microsoft megerősítette, hogy az új MI-ügynöke hallucinál!
TECH HÍREK – A redmondi techóriás lényegében lesöpörte magáról a felelősséget, és kissé hihetetlen, hogy hibásan adnak ki valamit, és hogy ez elfogadható… A Microsoft az utóbbi időben nagy erőfeszítéseket tett az MI területén. Legújabb eredménye ebben a tekintetben az agentikus MI funkciók bevezetése a Windows 11-be a 26220.7262 frissítésnek köszönhetően. Ezzel együtt figyelmeztetés is érkezik, hogy az új MI funkciók hajlamosak hallucinálni és új biztonsági kockázatokat jelenthetnek. A Microsoft szerint a biztonsági hibák között szerepel a keresztprompt-befecskendezés (cross-prompt injection) (XPIA), amelynek során a felhasználói felület elemeibe vagy dokumentumokba ágyazott rosszindulatú tartalom felülírhatja az ügynök utasításait, ami nem kívánt műveletekhez vezethet (adatlopás, rosszindulatú szoftverek telepítése). Például letölthetünk egy PDF-fájlt, amely rejtett szöveget tartalmaz, amely utasítja a Windows-ügynököt, hogy végezzen el rosszindulatú feladatokat, és az… Olvasd tová...
Hamarosan átirányítunk a teljes cikkhez → theGeek