Перейти к содержанию

Недекларированная функциональность в системах Machine Learning


Рекомендуемые сообщения

Риски применения ИИ-систем человечество будет изучать и устранять десятилетиями. Одним из наименее изученных на сегодня является риск троянизации модели, когда полезная и на первый взгляд верно работающая система машинного обучения содержит скрытую функциональность или намеренно внесенные ошибки. Создать такого «троянского коня» можно несколькими способами, которые отличаются уровнем сложности и сферой применения. И это не прогнозы на будущее, а реальные кейсы.

Вредоносный код в модели

Некоторые форматы хранения ML-моделей могут содержать исполняемый код. Например, произвольный код может быть выполнен при загрузке файла в формате pickle — стандартном для Python формате сериализации (приведения к форме, подходящей для сохранения и передачи) данных, используемом, в частности, в библиотеке для глубокого обучения PyTorch. В другой популярной библиотеке для машинного обучения TensorFlow модели в форматах .keras и HDF5 могут содержать «лямбда-слой», тоже по сути выполняющий произвольные команды на Python. В этом коде легко спрятать вредоносную функциональность.

В документации TensorFlow можно найти предупреждение, что модель в TensorFlow при исполнении может читать и записывать файлы, получать и отправлять данные по сети и даже запускать дочерние процессы. В общем, является по сути полноценной программой.

Вредоносный код может срабатывать сразу же при загрузке ML-модели. В популярнейшем репозитории публичных моделей Hugging Face в феврале 2024 года было обнаружено около ста моделей с вредоносной функциональностью. Из них 20% создавали на зараженном устройстве оболочку для удаленного доступа (Reverse Shell), а 10% запускали дополнительное ПО.

 

View the full article

Ссылка на комментарий
Поделиться на другие сайты

Пожалуйста, войдите, чтобы комментировать

Вы сможете оставить комментарий после входа в



Войти
  • Похожий контент

    • Hendehog
      Автор Hendehog
      Здравствуйте.
      Вирус замаскированный под файл от госорганов.
      Просканировал KVRT, DR.Web, и сняты логи автологгером.
      Прошу подсказки - что именно делается вирус, куда внедряется, как ворует деньги с банковских счетов?
      Ну и понять, чист сейчас ПК или нет.
      CollectionLog-2025.02.07-10.57.zip KVRT2020_Data.zip
    • cringemachine
      Автор cringemachine
      Коллеги, добрый день.
      В документации к продукту Kaspersky Endpoint Security написано - "По истечении срока действия коммерческой лицензии приложение прекращает выполнять свои основные функции".
       
      Уважаемые эксперты, подскажите, пожалуйста, какие функции становятся недоступными после истечения срока действия лицензии? Только получение обновлений антивирусных баз с сервера обновлений и KSC или вдобавок ряд других функций? Каких?
    • khorboro
      Автор khorboro
      Доброго времени суток! При запуске системы открывается microsoft IE со страницей сайта казино. Проверил систему c dr.web cureit, нашелся trojan.starter, вылечен с помощью утилиты cureit. При перезагрузке компьютера проблема осталась. Проверил повторно cureit'ом и AVZ, проблем не нашлось. Логи прилагаю, проверьте, пожалуйста. Заранее спасибо!

      CollectionLog-2020.07.20-10.49.zip
    • rustam253
      Автор rustam253
      Всем привет.
      Купил SSD и салазки, чтоб установить его вместо дисковода на ноут.
      Жесткий вынимать не планировал - хочу в дальнейшем использовать его как хранилище данных.
      Прошу подсказать, как мне установить ОС на SSD? Есть ключ от предустановленной windows8.1. 
      Хотел бы установить и windows10 и linux для пробы.
      Нужно ли удалять windows8.1 с жесткого диска перед установкой или нет?
      Всем заранее благодарен.


    • misska
      Автор misska
      Добрых суток, знатоки!
       
      У меня в системе сидит шпион: знает мои пароли от соц сетей, видит мои вкладки браузера, шпионит за мной в ТГ - знает все мои сообщества в которых состою, чаты. 🤬
       
      По вирусам - чисто. Проверила на логи - чисто.
      Анализ сети антивирусом выдает инфу, что у меня порт 22 открыт - его следует закрыть, хотя при этом, все подключенные устройства к роутеру отображаются только мои! Закрыть не смогла, т.к. не нашла в настройках моего роутера где оное находится. 🤨 Где найти этот порт, чтобы его закрыть?
       
      В ТГ, в настройках безопасности, показывает только мои подключенные устройства! Но сталкер 100% также, как и я, просматривает мой профиль и активность. Как это может быть? 🤔
       
      Какие есть варианты действий? Чему уделить внимание? Винду не меняла, может с нее начать? Что делать, где искать, как выкинуть непрошенного гостя? 🐕 Комп у меня постоянно шуршит, что-то накручивает, шумный, короче.  👾😩🤬
       
      Сообщение от модератора Mark D. Pearlstone Тема перемещена из раздела "Компьютерная помощь"
       
×
×
  • Создать...