Автор
KL FC Bot
В «безопасность ИИ» входит не только защита от кражи данных, ограничение опасных действий ИИ-агентов или «вредных советов» ИИ-ассистентов. Относительно простой, но уже вполне масштабной угрозой стали попытки украсть вычислительные ресурсы и воспользоваться чужой нейросетью для своих целей. Это явление получило название LLMjacking. В будущем, когда, по многим прогнозам, стоимость ИИ-вычислений значительно вырастет, атакующих с такой мотивацией станет только больше. Поэтому при внедрении собственных ИИ-серверов и их вспомогательных систем (RAG, MCP и так далее) необходимо с самого начала внедрять строгие меры безопасности.
Статистика одного сервера-приманки
Скорость охоты за чужими ресурсами и аппетиты воришек хорошо демонстрирует эксперимент, подробно задокументированный в апреле 2026 года. Автор сделал публично доступным в Интернете свой микрокомпьютер Raspberry Pi, который имитировал мощный частный ИИ-сервер. В ответ на запросы он отчитывается о доступности серверов Ollama, LM Studio, AutoGPT, LangServe, text-gen-webui, которые часто используются для «обвязки» запущенных локально ИИ-моделей. Также сервер якобы был готов принимать API-запросы в формате OpenAI, ставшем индустриальным стандартом.
Все эти службы «работали», обращаясь к запущенной локально модели Qwen3-Coder 30B Heretic, одной из мощнейших open-source-моделей со снятыми ограничениями безопасности (safety alignment). Дополнительно сервер-приманка отчитывался о наличии разнообразных баз данных RAG и MCP-сервера с привлекательными возможностями вроде «get_credentials» (получить учетные данные).
На самом деле на Raspberry PI просто были сохранены 500 ответов настоящей модели Qwen3, из которых несложный скрипт выбирал наиболее подходящий с учетом присланного запроса. Таким образом система выдерживала поверхностную проверку и могла проанализировать интересы атакующих.
По данным автора, сервер, выставленный в Интернет, был просканирован популярным сервисом Shodan в течение 3 часов, после чего буквально через час посыпались уже запросы, похожие на разведку возможностей. Всего за следующий месяц сервер обслужил более 113 тысяч запросов с тысяч различных IP, причем 23% из них были узко направлены на обнаружение ИИ-возможностей жертвы и эксплуатацию локальных LLM и ИИ-агентов.
View the full article
Рекомендуемые сообщения
Пожалуйста, войдите, чтобы комментировать
Вы сможете оставить комментарий после входа в
Войти