Уязвимость BioShocking: как манипуляция логикой ИИ ставит под угрозу конфиденциальные данные
Исследователи безопасности из LayerX продемонстрировали новый метод атаки на большие языковые модели. Путем внедрения ложных логических установок злоумышленники могут заставить нейросеть игнорировать протоколы безопасности и раскрывать защищенную информацию пользователей.
2 мин