Перейти к содержанию

Рекомендуемые сообщения

Опубликовано

Стремительное развитие ИИ-систем и попытки их повсеместного внедрения вызывают и оптимизм, и опасения.  Искусственный интеллект способен помочь человеку в самых разных областях деятельности, и индустрия кибербезопасности знает об этом не понаслышке. Например, мы в «Лаборатории Касперского» применяем машинное обучение уже почти 20 лет и точно знаем, что без ИИ-систем в принципе невозможно защититься от гигантского количества существующих киберугроз. За это время мы идентифицировали и широкий спектр проблем, которые могут порождаться использованием ИИ — от обучения на некорректных данных и злонамеренных атак на ИИ-системы до применения ИИ в неэтичных целях.

Различные площадки и международные организации уже разработали общие принципы этичного ИИ (например,  вот рекомендации ЮНЕСКО), однако более конкретные руководства для индустрии кибербезопасности пока не стали общепринятыми.

Чтобы применять искусственный интеллект в кибербезопасности без негативных последствий, мы предлагаем индустрии принять Этические принципы ИИ (AI ethical principles), первую версию которых мы представляем на проходящем в эти дни в Киото саммите ООН Internet Governance Forum. Разумеется, принципы требуют обсуждения в индустриальном сообществе и уточнения, однако мы их придерживаемся уже сейчас.  Что же это за принципы? Вот краткая версия.

Прозрачность и объяснимость

Пользователь имеет право знать, что обеспечивающая его безопасность компания использует ИИ-системы. Знать, в каких целях и каким образом эти системы принимают решения. Поэтому мы обязуемся разрабатывать системы ИИ, работа которых интерпретируема и объяснима в максимально возможном объеме, а также внедрять необходимые предосторожности и защитные меры, чтобы ИИ-системы генерировали корректные результаты. При необходимости с кодом, техническими и бизнес-процессами «Лаборатории Касперского» можно ознакомиться посетив один из наших центров прозрачности.

 

Посмотреть статью полностью

Опубликовано

> Более подробно с нашими принципами этичного использования ИИ в безопасности можно ознакомиться вот здесь.

 

ЛК может пойти навстречу к читателям РУССКОЯЗЫЧНОГО блога и перевести текст pdf на русский.

  • Улыбнуло 2

Пожалуйста, войдите, чтобы комментировать

Вы сможете оставить комментарий после входа в



Войти
  • Похожий контент

    • Wrtg
      Автор Wrtg
      Дня 2 назад скачал Kaspersky free дабы провериться, и программа показала, что есть проблема, связанная то ли с пользователями, то ли с правами доступа. Я, конечно, решил, что надо исправить эту проблему, и нажал на соответствующую кнопку в антивирусе. При запуске многих приложений, которые раньше запускались без проблем. теперь всплывает окно:, если точнее, то окно всплывает после нескольких минут после попытки запуска. Я пробовал выдать себе права администратора, думал это поможет, раз нет нужных разрешений для доступа к файлу, но в итоге сделал еще хуже: теперь даже в безопасном режиме всплывает данное окно. Также стоит отметить, что раньше всплывало уведомление, о неудачной попытке подключения службы gpsvc, а теперь этого нет. Хотя, когда gpsvc не подключался, то и проблем не было. Также я не могу теперь отключить виндовс дефендр (защиту в реальном времени и т.д.). Помимо этого я не могу переустановить систему, ведь для начала её надо скачать на флешку (из настроек я тоже не могу переустановить), а все скачанные файлы(в случае с переустановкой: MediaCreationTool), не могут запуститься после работы антивируса.
    • Acteon_927
      Автор Acteon_927
      Можно ли использовать резервное хранилище Kaspersky Password Manager для восстановления днных в новом хранилище KPM, если утерян мастер-пароль к нему? Сколько резервных хранилищ может быть и где их можно хранить? Можно ли использовать проводник для создания резервных копий?
       
    • KL FC Bot
      Автор KL FC Bot
      Одно из важных понятий в информационной безопасности — это принцип минимальных привилегий. В этом посте мы разберемся, что это такое, как работает, чем следование этому принципу помогает бизнесу и как реализовать применение принципа минимальных привилегий на практике.
      Как работает принцип минимальных привилегий
      На русском языке принцип минимальных привилегий также известен как «принцип наименьших привилегий» или, реже, «принцип наименьших прав». А на английском — чаще всего как Principle of least privilege (PoLP) или же Principle of minimal privilege (PoMP), а иногда как Principle of least authority (PoLA).
      Основная идея принципа минимальных привилегий состоит в том, что доступ к ресурсам в системе должен быть организован таким образом, чтобы любая сущность внутри этой системы имела доступ только к тем ресурсам, которые минимально необходимы для успешного выполнения рабочей цели этой сущности, — и ни к каким другим.
      На практике речь может идти о разных системах и разных сущностях внутри системы. Но с точки зрения применения принципа минимальных привилегий для обеспечения безопасности бизнеса это можно переформулировать так: любой пользователь информационной инфраструктуры организации должен иметь право доступа к тем и только к тем данным, которые необходимы для выполнения его рабочих задач.
      Если какому-то пользователю для решения его задач необходим доступ к той информации, к которой у него нет доступа, то его права можно повысить. Постоянно, если это предполагает его роль, или временно, если это необходимо для разового выполнения отдельного проекта или задачи (в последнем случае это называется «брекетинг привилегий»).
      И наоборот, когда по тем или иным причинам пользователю более не требуется доступ к какой-то информации, то, согласно принципу минимальных привилегий, его права следует понизить.
      В частности, из принципа минимальных привилегий следует, что рядовым пользователям не стоит выдавать права администратора или суперпользователя. Такие привилегии не нужны для выполнения непосредственных обязанностей обычных сотрудников, но в то же время существенно повышают риски.
       
      Посмотреть статью полностью
    • shidogbc
      Автор shidogbc
      Добрый вечер, позавчера столкнулся с проблемой, что использование gpu в играх очень сильно увеличилось. Если раньше в Valorant оно было около 5%, то резко стало 50-60%. При заходе в Counter Strike 2 игра вообще не запускалась (отображался экран загрузки и зависал на нем), а использование gpu было 100% в момент входа. Увеличение использования GPU  произошло во всех играх (Apex Legends, в League of legends работал лаунчер, но сама игра не работала).
      Хотелось бы узнать, с чем это может быть связано.
      Изначально подумал, что поймал вирус или майнер (который работает при заходе в игры). На компе был обнаружен chromium:page.malware.url и процесс лечения можно посмотреть в этой теме -> 
      До начала лечения вируса почитал о возможных проблемах, кто-то писал, что недавно драйвера амд начали конфликтовать с кастомными разрешениями экрана. Решил удалить папку в стиме, в которой хранится информация о персональных настройках, чтобы убрать кастомные разрешения. После этого Counter Strike 2 начала запускаться, но использование GPU всё равно осталось высоким (не думаю, что у меня какая-либо проблема с драйверами так как изначально, в момент повышения использования gpu, у меня стояли прошлогодние драйвера; подумал, что проблема с ними - обновил до актуальных, но ничего не изменилось; чуть позже поставил драйвер августа 2024 года).
      Итак, подходя к сегодняшнему состоянию, после удаления вируса, описанного в вышеуказанной теме, использование GPU в играх снизилось, но оно всё равно в разы выше, чем было ранее (3 дня назад всё было в порядке, сейчас 40-50% в зависимости от игры). За этот период как таковых обновлений игр не было.
    • Mrak
      Автор Mrak
      Всем привет! 
      У меня дома тёплые полы использовались с помощью дистанционного управления через приложение. Там ставлю режимы работы, температуру, при отъезде - одной кнопкой выключаю или ставлю другую температуру. В общем удобно.
      После 2х суток статуса "не в сети" всех тёплых полов, я обнаружил такую новость: https://welrok.com/support/instruktsiya-kak-dobavit-terneo-v-welrok
      Поставил приложение Welrok и у меня всё работает почти как раньше (глючит один терморегулятор в плане режимов и ночной яркости (не выключает подсветку ночью), но надеюсь, что это решаемо).
       
      Но возник вопрос безопасности. Скажите пожалуйста:
      1. Насколько безопасно пользоваться приложением от Welrok? Судя по всему, это Российская организация. Но вдруг это под видом организации в России какие-нибудь хакеры/мошенники?
      2. Насколько безопасно управлять полами по сети? Какой самый негативный вариант? Квартиру спалить не смогут, вызывав замыкание? Т.е. есть ли встроенная защита от умышленного причинения вреда? Или максимум чем могут вредить - выключить полы или жарить на 40 градусов?
×
×
  • Создать...