Исследовательская группа представила новый метод кражи моделей искусственного интеллекта (ИИ), который не требует доступа к устройству, где модель работает. Это возможно даже при отсутствии информации о программном обеспечении или архитектуре ИИ.
Авторы из Университета штата Северная Каролина подчеркивают, что кража моделей ИИ представляет собой серьезную угрозу. Создание таких моделей требует значительных вычислительных ресурсов, а их утечка делает их уязвимыми для атак. Это не только нарушает права на интеллектуальную собственность, но и может привести к раскрытию конфиденциальной информации, содержащейся в поведении модели.
В своем исследовании ученые использовали коммерчески доступный чип Google Edge TPU, предназначенный для работы с ИИ на конечных устройствах. Они применили метод мониторинга электромагнитных излучений, установив датчик на чипе TPU, который позволял отслеживать поведение модели ИИ в реальном времени.
Собранные данные позволили исследователям воспроизвести архитектуру модели и даже воссоздать ее с точностью 99,91%. Это подчеркивает уязвимость нынешних ИИ-систем на различных устройствах и ставит перед разработчиками задачу по разработке эффективных мер защиты.
Как сообщалось ранее – Пророчество Иоанна Богослова: Миру грозит конец света, что с Россией?