Через Yahoo! Messenger расползается опасный червь
Автор
arh_lelik1
в Новости и события со всего мира
-
Похожий контент
-
Автор DIMeKaaBatneoFF
Что можно сказать по поводу уязвимостей ИИ ? ...
Исследователи создали новый, невиданный ранее вид вредоносного ПО, которое они назвали червем «Morris II», который использует популярные сервисы искусственного интеллекта для своего распространения, заражения новых систем и кражи данных.
Название отсылает к оригинальному компьютерному червю Морриса, который нанес ущерб Интернету в 1988 году. Червь демонстрирует потенциальную опасность угроз безопасности ИИ и создает новую актуальность проблемы защиты моделей ИИ .
Новый червь использует состязательную самовоспроизводящуюся подсказку. Исследователи из Корнеллского технологического института, Израильского технологического института и компании Intuit использовали для создания червя так называемую «состязательную самовоспроизводящуюся подсказку». Это приглашение, которое при подаче в модель большого языка (LLM) (они протестировали его на ChatGPT OpenAI, Gemini от Google и модели LLaVA с открытым исходным кодом, разработанной исследователями из Университета Висконсин-Мэдисон, Microsoft Research и Колумбийского университета) , обманом заставляет модель создать дополнительную подсказку. Он заставляет чат-бота генерировать собственные вредоносные запросы, на которые он затем отвечает, выполняя эти инструкции (аналогично атакам SQL-инъекций и переполнения буфера).
Червь имеет две основные возможности:
1.Эксфильтрация данных. Червь может извлекать конфиденциальные личные данные из электронной почты зараженных систем, включая имена, номера телефонов, данные кредитных карт и номера социального страхования.
2. Распространение спама. Червь может генерировать и рассылать спам и другие вредоносные электронные письма через скомпрометированные почтовые помощники на базе искусственного интеллекта, помогая ему распространяться и заражать другие системы.
Исследователи успешно продемонстрировали эти возможности в контролируемой среде, показав, как червь может проникать в генеративные экосистемы искусственного интеллекта и красть данные или распространять вредоносное ПО.
ИИ-червь «Morris II» не был замечен в свободной среде и исследователи не тестировали его на общедоступном почтовом помощнике. Они обнаружили, что могут использовать самовоспроизводящиеся подсказки как в текстовых подсказках, так и в виде встроенных подсказок в файлы изображений.
Зараженные базы данных ИИ.
Демонстрируя подход с использованием текстовых подсказок, исследователи написали электронное письмо, содержащее состязательную текстовую подсказку, «отравляя» базу данных помощника по электронной почте с использованием искусственного интеллекта, используя генерацию с расширенным поиском (RAG), которая позволяет LLM захватывать внешние данные. RAG получила электронное письмо и отправила его провайдеру LLM, который сгенерировал ответ, который взломал службу искусственного интеллекта, украл данные из электронных писем, а затем заразил новые хосты, когда LLM использовался для ответа на электронное письмо, отправленное другим клиентом.
При использовании изображения исследователи закодировали в изображение самовоспроизводящуюся подсказку, заставляя помощника по электронной почте пересылать сообщение на другие адреса электронной почты. Изображение служит одновременно контентом (спам, мошенничество, пропаганда, дезинформация или оскорбительные материалы) и активационной нагрузкой, которая распространяет червя. Однако исследователи говорят, что это представляет собой новый тип угрозы кибербезопасности, поскольку системы искусственного интеллекта становятся более продвинутыми и взаимосвязанными.
Созданное в лаборатории вредоносное ПО — это лишь последнее событие в выявлении служб чат-ботов на базе LLM, которое показывает их уязвимость к использованию для злонамеренных кибератак.
OpenAI признала наличие уязвимости и заявила, что работает над тем, чтобы сделать свои системы устойчивыми к такого рода атакам. Будущее кибербезопасности с использованием искусственного интеллекта Поскольку генеративный ИИ становится все более распространенным, злоумышленники могут использовать аналогичные методы для кражи данных, распространения дезинформации или нарушения работы систем в более крупных масштабах.
Иностранные государственные субъекты также могут использовать его для вмешательства в выборы или разжигания социальных разногласий. Мы явно вступаем в эпоху, когда инструменты кибербезопасности ИИ (обнаружение угроз ИИ и другой ИИ кибербезопасности) стали основной и жизненно важной частью защиты систем и данных от кибератак, но при этом они также представляют риск при использовании киберзлоумышленниками. Настало время использовать инструменты кибербезопасности ИИ и защитить инструменты ИИ, которые можно использовать для кибератак.
Сообщение от модератора thyrex Перенесено из раздела Е.К.
-
Автор Peter15
Евгений Валентинович! Неужели ваши антивирусные решения и программы других производителей не детектят указанные в статье https://dzen.ru/a/Y_Wf0lsr6iK3hHnh стиллеры? Или это они просто-напросто нагоняют страху? Пишут, что можно даже попасть в тюрьму, если украдут нужные сессии и напишут что-либо от чужого имени...
Да, и с наступающим!
-
Автор Alhena
Добрый день. Столкнулась с проблемой покупки с глобального сайта. При заполнении данных и переходе к стадии оплаты (до ввода карты), антивирус выдает окно: остановлена загрузка опасного обьекта
Обнаружено:
02.05.2024 11:24:13
Веб-адрес:
https://rubyredtoys.com/en/order
Причина:
объект заражен
Приложение:
HEUR:Trojan-PSW.Script.Generic
Сайт официальный, производителя Руби ред https://rubyredtoys.com/en/. Вряд ли на официальном сайте троян. Можно проверить информацию и посоветовать, что делать и стоит ли покупать там? Многие пользуются, о проблемах такого рода с покупками никто не писал(((
-
Автор user10049259403
Зашел на сайт, появилось окно с рекламой. Когда хотел закрыть окно, сайт перенаправил меня по рекламе. Через несколько минут от Kaspersky Free появилось три сообщения:
1)Событие: Обнаружена ранее открытая опасная ссылка
Пользователь: AGENT\helst
Тип пользователя: Инициатор
Имя приложения: chrome.exe
Путь к приложению: C:\Program Files\Google\Chrome\Application
Компонент: Интернет-защита
Описание результата: Не обработано
Тип: Угроза потери данных
Точность: Точно
Степень угрозы: Высокая
Тип объекта: Веб-страница
Имя объекта: xdmyh9ge?key=067088407afb97d6be211af098e15ac6
Путь к объекту: https://alibisprocessessyntax.com
Причина: Облачная защита
2)Событие: Обнаружена ранее открытая вредоносная ссылка
Пользователь: AGENT\helst
Тип пользователя: Инициатор
Имя приложения: chrome.exe
Путь к приложению: C:\Program Files\Google\Chrome\Application
Компонент: Интернет-защита
Описание результата: Не обработано
Тип: Возможна неправомерная загрузка ПО
Название: https://alibisprocessessyntax.com/api/users?token=L3hkbXloOWdlP2tleT0wNjcwODg0MDdhZmI5N2Q2YmUyMTFhZjA5OGUxNWFjNiZwc3Q9MTY5NTU0MjgxOSZyZWZlcj1odHRwcyUzQSUyRiUyRmt1a2FqLmlvJTJGJnJtdGM9dCZzaHU9MzYxYzU5ZDY5M2ViNzEzNWZjYzFkNWQwODBmYmM1NmVlMTRhZjYyOWMyNWRlZjg2NmNlZGZjMTRiNGYyY2U5OGM0NjNmNTdiOTIzOTYxOGQ2M2JhOGYzNDRiNTJiMGYwMjAwYmRlN2Y3ZDc1NWZiZDBkNjFhYjA1YzA0NGViZDBkM2VjZmZlNzE1ZTVkZDg3Mzk1YTM4YjZmNmQxMjdlYmUyNjQ4ZjRkMmRjODYzOTgwMGFmOWYyNDNjNTViZQ%3d%3d&uuid=&pii=&in=false
Степень угрозы: Высокая
Тип объекта: Веб-страница
Имя объекта: users?token=L3hkbXloOWdlP2tleT0wNjcwODg0MDdhZmI5N2Q2YmUyMTFhZjA5OGUxNWFjNiZwc3Q9MTY5NTU0MjgxOSZyZWZlcj1odHRwcyUzQSUyRiUyRmt1a2FqLmlvJTJGJnJtdGM9dCZzaHU9MzYxYzU5ZDY5M2ViNzEzNWZjYzFkNWQwODBmYmM1NmVlMTRhZjYyOWMyNWRlZjg2NmNlZGZjMTRiNGYyY2U5OGM0NjNmNTdiOTIzOTYxOGQ2M2JhOGYzNDRiNTJiMGYwMjAwYmRlN2Y3ZDc1NWZiZDBkNjFhYjA1YzA0NGViZDBkM2VjZmZlNzE1ZTVkZDg3Mzk1YTM4YjZmNmQxMjdlYmUyNjQ4ZjRkMmRjODYzOTgwMGFmOWYyNDNjNTViZQ%3d%3d&uuid=&pii=&in=false
Путь к объекту: https://alibisprocessessyntax.com/api
Причина: Облачная защита
3)Событие: Обнаружена ранее открытая вредоносная ссылка
Пользователь: AGENT\helst
Тип пользователя: Инициатор
Имя приложения: chrome.exe
Путь к приложению: C:\Program Files\Google\Chrome\Application
Компонент: Интернет-защита
Описание результата: Не обработано
Тип: Возможна неправомерная загрузка ПО
Название: https://alibisprocessessyntax.com/xdmyh9ge?key=067088407afb97d6be211af098e15ac6
Степень угрозы: Высокая
Тип объекта: Веб-страница
Имя объекта: xdmyh9ge?key=067088407afb97d6be211af098e15ac6
Путь к объекту: https://alibisprocessessyntax.com
Причина: Облачная защита
Опасно ли это и нужно ли что-то делать? Больше всего напрягает пункт не обработано.
Выполнил полную проверку Kaspersky Free и MalwareBytes: ничего обнаружено не было.
Версия windows 11: 22H2, сборка 22621.2283
версия Kaspersky: 21.14.5.462
-
Автор ska79
Сломался нож от измельчителя Заря 308-01. Хочу склеить суперклеем, насколько опасен контакт пищи с высохшим суперклеем для организма?
-
Рекомендуемые сообщения
Пожалуйста, войдите, чтобы комментировать
Вы сможете оставить комментарий после входа в
Войти