-
Похожий контент
-
Автор KL FC Bot
Израильские исследователи из Offensive AI Lab (что можно примерно перевести как «Лаборатория наступательного ИИ») опубликовали работу, описывающую метод восстановления текста из перехваченных сообщений от чат-ботов с ИИ. Рассказываем о том, как работает эта атака и насколько она опасна в реальности.
Какую информацию можно извлечь из перехваченных сообщений чат-ботов на основе ИИ
Разумеется, чат-боты отправляют сообщения в зашифрованном виде. Однако в реализации как самих больших языковых моделей (LLM), так и основанных на них чат-ботов есть ряд особенностей, из-за которых эффективность шифрования серьезно снижается. В совокупности эти особенности позволяют провести так называемую атаку по сторонним каналам, когда содержимое сообщения удается восстановить по тем или иным сопутствующим данным.
Чтобы понять, что же происходит в ходе этой атаки, придется слегка погрузиться в детали механики LLM и чат-ботов. Первое, что надо знать: большие языковые модели оперируют не отдельными символами и не словами как таковыми, а так называемыми токенами — своего рода смысловыми единицами текста. На сайте OpenAI есть страница под названием «Токенизатор», которая позволяет понять, как это работает.
Этот пример демонстрирует, как работает токенизация сообщений моделями GPT-3.5 и GPT-4. Источник
Вторую особенность, важную для данной атаки, вы наверняка замечали, когда общались с чат-ботами: они присылают ответ не крупными кусками, а постепенно — примерно так же, как если бы его печатал человек. Но, в отличие от человека, LLM пишут не отдельными символами, а токенами. Соответственно, чат-бот отправляет сгенерированные токены в режиме реального времени, один за другим. Вернее, так делает большинство чат-ботов — исключение составляет Google Gemini, из-за чего он не подвержен данной атаке.
Третья особенность: на момент публикации исследования большинство существующих чат-ботов, перед тем как зашифровать сообщение, не использовали сжатие, кодирование или дополнение (это метод повышения криптостойкости, в котором к полезному сообщению добавляются мусорные данные, чтобы снизить предсказуемость).
Использование этих особенностей делает возможным атаку по сторонним каналам. Хотя перехваченные сообщения от чат-бота невозможно расшифровать, из них можно извлечь полезные данные — а именно длину каждого из отправленных чат-ботом токенов. В итоге у атакующего получается последовательность, напоминающая игру в «Поле чудес» на максималках, не для одного слова, а для целой фразы: что именно зашифровано, неизвестно, но известна длина отдельных слов токенов.
Посмотреть статью полностью
-
Автор KL FC Bot
Исследователи обнаружили в Telegram фишинговый маркетплейс под названием ONNX, открывающий киберпреступникам доступ к инструментарию для угона аккаунтов Microsoft 365, в том числе и к методам обхода двухфакторной аутентификации. Благодаря этому злоумышленники могут поставить на поток фишинговые атаки на почтовые учетные записи Microsoft 365 и Office 365. Сотрудникам ИБ-отделов компаний стоит учитывать эту угрозу и уделять особенно пристальное внимание антифишинговой защите. Рассказываем о данной угрозе подробнее.
Вредоносное вложение с QR-кодом и обход двухфакторной аутентификации
Исследователи описали пример атаки с использованием инструментов фишингового маркетплейса ONNX, которая проводилась на сотрудников нескольких финансовых учреждений. Для начала жертвы получали электронные письма, якобы отправленные отделом кадров, а в качестве наживки использовалась тема зарплаты получателя.
Письма содержали вложенные PDF-файлы, внутри которых содержится QR-код, который надо отсканировать, чтобы получить доступ к «защищенному документу» с заветной информацией о зарплате. Идея тут в том, чтобы заставить жертву открыть ссылку не на рабочем компьютере, на котором, скорее всего, работает антифишинговая защита, а на смартфоне, где такая защита вполне может и не быть.
По ссылке открывается фишинговый сайт, который притворяется страницей входа в аккаунт Microsoft 365. Здесь жертву просят ввести сначала логин и пароль, а потом и одноразовый код двухфакторной аутентификации.
View the full article
-
Автор MiStr
Конкурс по разработке Telegram-бота Kaspersky Club
Год назад, в апреле 2024 года, мы активно взялись за развитие Telegram-канала Kaspersky Club – запустили программу «Развитие сообществ клуба в мессенджерах», которая стала частью рейтинговой системы мотивации участников клуба.
Принятые меры принесли свои результаты. Telegram-канал подрос и количественно, и качественно. На регулярной основе в канале публикуется уникальный контент, а также проводятся конкурсы и викторины.
Пришло время расширить возможности и функционал канала клуба в Telegram – создать Telegram-бот, конкурс на разработку которого мы и запускаем.
Порядок участия в конкурсе
Участнику конкурса необходимо на программной платформе Node.js разработать Telegram-бот в соответствии со структурой и техническим заданием.
Сроки проведения конкурса
Разработка Telegram-бота должна быть завершена не позднее 30 мая 2025 года.
Призовой фонд конкурса
Первое место – поездка на празднование 19-летия клуба.
Второе место – 10 000 клабов.
Третьей место – 5 000 клабов.
Поощрительный приз за разработку Telegram-бота, не занявшего призовое место, – 2 500 клабов.
Приз за первое место предусматривает оплату со стороны «Лаборатории Касперского» трансфера из Москвы до места празднования 19-летия клуба и обратно, проживание, питание и развлекательную программу. Трансфер до Москвы и обратно участник оплачивает самостоятельно.
Подведение итогов конкурса
Победителя конкурса определяет администрация клуба не позднее 6 июня 2025 года.
После завершения конкурса
Победитель конкурса после тестирования Telegram-бота обязан внести все предложения и замечания, поступившие от администрации клуба. Доработка Telegram-бота по итогам тестирования должна быть завершена не позднее 30 июня 2025 года. Приз не выдается, если участник не исправил все замечания и предложения, поступившие от администрации клуба.
После завершения разработки и тестирования Telegram-бота победитель обязан передать все права на него администрации клуба.
Иная информация
Администрация, официально уведомив, может в любой момент внести изменения в правила конкурса, перезапустить или вовсе прекратить его проведение, а также отказать участнику в получении приза в случае выявления фактов его недобросовестного участия в нем и (или) нарушения правил конкурса. Любые вопросы, связанные с конкурсом, в том числе по начислению клабов, принимаются в течение 30 дней с момента подведения его итогов.
Участие в конкурсе означает безоговорочное согласие с настоящими правилами.
Удачи!
-
Автор KL FC Bot
Помните времена, когда интернет-обман ассоциировался с нелепым спамом от «нигерийских принцев», которые обещали золотые горы? Эта эпоха безвозвратно ушла, сегодня в моде фишинг в мессенджерах. Благодаря своей популярности, открытости API и поддержке криптоплатежей, Telegram стал одной из основных платформ для злоумышленников. Какие новые уловки используют мошенники в мессенджере и как вовремя их распознать, чтобы не стать очередной жертвой?
Telegram-боты на службе злоумышленников
Существует огромное количество схем с использованием ботов в Telegram. Например, иногда одни злоумышленники предлагают другим злоумышленникам использовать свои боты для создания новых. Если ничего не поняли — не пугайтесь, мы подробно рассказывали как работает phishing-as-a-service («фишинг как услуга») в блоге Securelist.
Кибернегодяи используют Telegram-боты вместо веб-сайтов. Так гораздо проще заманить потенциальную жертву, нежели создавать полноценный фишинговый сайт, поддерживать его существование и пытаться убедить человека кликнуть по ссылке, чтобы он попался на крючок. С ботами все понятнее — пользователю не нужно покидать пространство Telegram, которое по умолчанию ошибочно считается безопасной средой.
Как это выглядит на практике? К примеру, злоумышленники придумали новое мошенничество с инвестициями в криптовалюту: «Раздаем новый токен всем подряд, нужно только зайти в бот и пройти KYC-верификацию». Конечно, KYC-верификация в понимании мошенников — это не фото паспорта и не обязательный видеозвонок, чтобы подтвердить свою личность, а необходимость пополнить депозит в реальной криптовалюте. Конечно, эта реальная криптовалюта навсегда уходит на счет злоумышленников, а пользователь получает… Ничего! О похожей схеме мы, кстати, подробно писали в материале Угон аккаунтов и криптокошельков в Telegram, читайте.
Бот в Telegram предлагает пройти фейковую KYC-верификацию
View the full article
-
Автор MiStr
В апреле 2025 года мы запустили конкурс по разработке Telegram-бота Kaspersky Club. Участникам конкурса необходимо было на программной платформе Node.js разработать Telegram-бот в соответствии с установленной структурой и техническим заданием.
На суд жюри поступили три Telegram-бота следующих авторов:
@7Glasses (в публичном доступе размещён не был) @santax: t.me/vovka_users_helper_bot @den: t.me/betaclubkbot
Чей Telegram-бот в итоге признан лучшим? Сегодня пришло время подвести итоги конкурса. В результате изучения функционала Telegram-ботов, оценки качества их реализации администрация клуба приняла решение распределить участников по призовым местам в следующем порядке:
Первое место – @santax, который получает приглашение на празднование 19-летия клуба.
Второе место – @den, и его приз 10 000 клабов.
Третьей место – принято решение не присуждать.
Поощрительный приз за разработку Telegram-бота, не занявшего призовое место, – 2 500 клабов. И его получает @7Glasses.
Благодарим каждого участника за разработку Telegram-бота!
-
Рекомендуемые сообщения
Пожалуйста, войдите, чтобы комментировать
Вы сможете оставить комментарий после входа в
Войти