-
Похожий контент
-
От DIMeKaaBatneoFF
Что можно сказать по поводу уязвимостей ИИ ? ...
Исследователи создали новый, невиданный ранее вид вредоносного ПО, которое они назвали червем «Morris II», который использует популярные сервисы искусственного интеллекта для своего распространения, заражения новых систем и кражи данных.
Название отсылает к оригинальному компьютерному червю Морриса, который нанес ущерб Интернету в 1988 году. Червь демонстрирует потенциальную опасность угроз безопасности ИИ и создает новую актуальность проблемы защиты моделей ИИ .
Новый червь использует состязательную самовоспроизводящуюся подсказку. Исследователи из Корнеллского технологического института, Израильского технологического института и компании Intuit использовали для создания червя так называемую «состязательную самовоспроизводящуюся подсказку». Это приглашение, которое при подаче в модель большого языка (LLM) (они протестировали его на ChatGPT OpenAI, Gemini от Google и модели LLaVA с открытым исходным кодом, разработанной исследователями из Университета Висконсин-Мэдисон, Microsoft Research и Колумбийского университета) , обманом заставляет модель создать дополнительную подсказку. Он заставляет чат-бота генерировать собственные вредоносные запросы, на которые он затем отвечает, выполняя эти инструкции (аналогично атакам SQL-инъекций и переполнения буфера).
Червь имеет две основные возможности:
1.Эксфильтрация данных. Червь может извлекать конфиденциальные личные данные из электронной почты зараженных систем, включая имена, номера телефонов, данные кредитных карт и номера социального страхования.
2. Распространение спама. Червь может генерировать и рассылать спам и другие вредоносные электронные письма через скомпрометированные почтовые помощники на базе искусственного интеллекта, помогая ему распространяться и заражать другие системы.
Исследователи успешно продемонстрировали эти возможности в контролируемой среде, показав, как червь может проникать в генеративные экосистемы искусственного интеллекта и красть данные или распространять вредоносное ПО.
ИИ-червь «Morris II» не был замечен в свободной среде и исследователи не тестировали его на общедоступном почтовом помощнике. Они обнаружили, что могут использовать самовоспроизводящиеся подсказки как в текстовых подсказках, так и в виде встроенных подсказок в файлы изображений.
Зараженные базы данных ИИ.
Демонстрируя подход с использованием текстовых подсказок, исследователи написали электронное письмо, содержащее состязательную текстовую подсказку, «отравляя» базу данных помощника по электронной почте с использованием искусственного интеллекта, используя генерацию с расширенным поиском (RAG), которая позволяет LLM захватывать внешние данные. RAG получила электронное письмо и отправила его провайдеру LLM, который сгенерировал ответ, который взломал службу искусственного интеллекта, украл данные из электронных писем, а затем заразил новые хосты, когда LLM использовался для ответа на электронное письмо, отправленное другим клиентом.
При использовании изображения исследователи закодировали в изображение самовоспроизводящуюся подсказку, заставляя помощника по электронной почте пересылать сообщение на другие адреса электронной почты. Изображение служит одновременно контентом (спам, мошенничество, пропаганда, дезинформация или оскорбительные материалы) и активационной нагрузкой, которая распространяет червя. Однако исследователи говорят, что это представляет собой новый тип угрозы кибербезопасности, поскольку системы искусственного интеллекта становятся более продвинутыми и взаимосвязанными.
Созданное в лаборатории вредоносное ПО — это лишь последнее событие в выявлении служб чат-ботов на базе LLM, которое показывает их уязвимость к использованию для злонамеренных кибератак.
OpenAI признала наличие уязвимости и заявила, что работает над тем, чтобы сделать свои системы устойчивыми к такого рода атакам. Будущее кибербезопасности с использованием искусственного интеллекта Поскольку генеративный ИИ становится все более распространенным, злоумышленники могут использовать аналогичные методы для кражи данных, распространения дезинформации или нарушения работы систем в более крупных масштабах.
Иностранные государственные субъекты также могут использовать его для вмешательства в выборы или разжигания социальных разногласий. Мы явно вступаем в эпоху, когда инструменты кибербезопасности ИИ (обнаружение угроз ИИ и другой ИИ кибербезопасности) стали основной и жизненно важной частью защиты систем и данных от кибератак, но при этом они также представляют риск при использовании киберзлоумышленниками. Настало время использовать инструменты кибербезопасности ИИ и защитить инструменты ИИ, которые можно использовать для кибератак.
Сообщение от модератора thyrex Перенесено из раздела Е.К.
-
От dkhilobok
Kaspersky Cyber Immunity Developers Night 2023
Главная обучающая конференция о кибериммунной разработке, призванная помочь ИТ-сообществу усилить компетенции в создании безопасных систем.
Принять участие
21 июня «Лаборатория Касперского» проведет открытую конференцию для всех, кто интересуется созданием безопасных приложений на практике. Kaspersky Cyber Immunity Developers Night станет продолжением уже знакомой многим разработчикам KasperskyOS Night и в этом году сфокусируется на кибериммунной разработке в целом.
Методология кибериммунитета зародилась в «Лаборатории Касперского» в ходе работы над исходно безопасной операционной системой KasperskyOS. За 20 лет развития она сформировала вокруг себя экосистему решений и показала свою применимость практически к любым проектам. Поэтому очередная конференция уделит внимание используемым языкам программирования и готовым кибериммунным отраслевым решениям.
Темы конференции:
Существуют ли «безопасные» и «небезопасные» языки программирования Как реализовать многоэтапный контроль качества, отладку и экспериментальное управление в целях безопасности Каким образом применять GPU при разработке современных графических интерфейсов Как совместить кибериммунитет с другими методиками и отраслевыми стандартами Какой опыт разработки кибериммунных решений накоплен в сфере автопромышленности и IoT Ждем всех, кто заинтересован в безопасной разработке: программистов, Q&A-инженеров, аналитиков, студентов и преподавателей вузов.
Начало 21 июня в 15:00 (МСК)
Принять участие
-
От dkhilobok
Kaspersky Cyber Immunity Conference 2023
Конференция о реальности и будущем кибериммунитета — подхода к построению IT-систем, защищенных на уровне архитектуры.
Регистрируйся и присоединяйся
20 июня «Лаборатория Касперского» проведет первую конференцию о кибериммунитете — визионерском подходе к построению защищенных IT-систем. В прямом эфире из архитектурного оазиса — Санкт-Петербурга — эксперты в сфере технологий обсудят, как продуманная архитектура IT-решений позволяет формировать безопасность и устойчивость бизнеса.
Кибериммунный подход зародился 20 лет назад в ответ на потребность рынков в IT-продуктах со встроенной защитой от кибератак. Сегодня этот подход стал фундаментом для экосистемы исходно безопасных IT-решений — а также нового рынка кибериммунных систем, для которых большинство типов кибератак не представляет угрозы.
Участие в конференции примут технологические и отраслевые лидеры, регуляторы, эксперты в информационной безопасности — все, кто находится в авангарде формирующегося рынка кибериммунных технологий. Вместе они заложат крепость безопасного будущего, в котором кибериммунитет — это новая реальность.
Регистрируйся и присоединяйся
-
От kmscom
WSJ сообщила об изучении США мер против «Лаборатории Касперского»
The Wall Street Journal: Минторг США задумался о мерах против «Лаборатории Касперского»
Американские власти изучают возможности применения мер в рамках правил по онлайн-безопасности, пишет газета. Другой объект внимания для Вашингтона в этом же контексте — китайская соцсеть TikTok
Министерство торговли США обдумывает «меры принудительного характера» в отношении «Лаборатории Касперского» в рамках применения правил по онлайн-безопасности, пишет The Wall Street Journal со ссылкой на источники, знакомые с этим вопросом. Какие именно меры рассматриваются, издание не уточняет.
Представитель ведомства не стал комментировать информацию газеты, отметив, что министерство привержено «полному использованию своих полномочий для защиты конфиденциальных данных американцев» и работе с Конгрессом «для адаптации к меняющимся рискам». В «Лаборатории Касперского» не ответили на запрос издания.
Внимание на российскую компанию правительство США обратило в связи с тем, что обдумывает потенциальные меры против китайской ByteDance, которой принадлежит TikTok, пишет газета. Социальная сеть является темой для обсуждения в комитете по иностранным инвестициям в Конгрессе. Это межведомственный орган, который наблюдает за угрозами безопасности при трансграничных операциях. В Минторге выступают за принятие закона, который усилил бы возможности для борьбы с угрозами, исходящими от технологий, которые контролируются из-за рубежа.
В министерстве сообщили, что работают над пересмотром правил онлайн-безопасности («Правила в области информационных и коммуникационных технологий и услуг» — Information and Communications Technology and Services regulations, ICTS). Они направлены на защиту интернет-пользователей США от целого ряда угроз, включая шпионаж и дезинформацию, которые могут исходить из потенциально враждебных стран — таких как Россия и Китай, пишет издание.
Продукты «Лаборатории Касперского», в частности антивирусный софт, используются сотнями миллионов клиентов по всему миру, в том числе в США, отмечается в статье. Любые меры в отношении компании, вероятно, должны быть узконаправленными и строго ориентированными на запрет ее программного обеспечения в определенных сферах, таких как управление критической инфраструктурой, сказал один из собеседников издания.
Год назад, после начала военной операции на Украине, Вашингтон обдумывал введение санкций против «Лаборатории Касперского», указывает газета, однако этот вопрос вызвал споры внутри администрации Байдена.
В 2017 году Министерство внутренней безопасности США временно запретило использовать американским государственным учреждениям антивирусное ПО «Лаборатории Касперского». Ведомство заявляло, что ее продукция представляет угрозу безопасности США, поскольку может быть использована российскими спецслужбами. В марте 2022 года американская Федеральная комиссия по связи включила «Лабораторию Касперского» в список угроз нацбезопасности. Сама компания заявляла, что не имеет политических связей ни с одним государством мира, а также не помогала и не будет помогать какому-либо правительству.
Кирилл Соколов
Подробнее на РБК:
https://www.rbc.ru/technology_and_media/08/04/2023/643089019a794765eca597fb
-
От KL FC Bot
Октябрь официально объявлен месяцем знаний о кибербезопасности в США (National Cybersecurity Awareness Month). Несмотря на слово «национальный» в названии, эта инициатива уже стала международной, поскольку к ней присоединилась и Европа, а также и некоторые другие страны. Подразделение «Лаборатории Касперского» в Северной Америке гордится званием лидера этой инициативы.
У нас есть миссия — спасти мир, и защита от онлайн-угроз — важная часть этой миссии.
Давайте признаем: на самом деле мы защищены совсем не так хорошо, как нам кажется или хочется. Согласно данным индекса кибербезопасности Kaspersky Cybersecurity Index, до 40% людей до сих пор не защищают свои устройства от всевозможных онлайн-угроз. Нам нужно работать над этим всем вместе и быть готовыми к любым видам кибератак, число которых растет с каждым днем и даже не думает снижаться. Поэтому в рамках месяца кибербезопасности мы публикуем пять простых советов, которые помогут пользователям Интернета защитить себя и избежать многих угроз в Сети.
Читать далее >>
-
Рекомендуемые сообщения
Присоединяйтесь к обсуждению
Вы можете написать сейчас и зарегистрироваться позже. Если у вас есть аккаунт, авторизуйтесь, чтобы опубликовать от имени своего аккаунта.