AudioHijack: Недоступные для слуха команды перехватывают голосовые модели ИИ с 96% успешных атак
Исследователи из Чжэцзянского университета разработали AudioHijack — метод атаки, который встраивает незаметные команды в аудио, чтобы манипулировать крупными аудио-языковыми моделями с 79–96% уровнем успешности. Атака была представлена на 47-м Симпозиуме IEEE по безопасности и конфиденциальности в Сан-Франциско. AudioHijack работает за счёт изменения числовых значений внутри цифровых аудиоволн способами, которые неразличимы для человеческого слуха, но при этом влияют на то, как AI-модели интерп
OliverGrant·11ч назад
