От
KL FC Bot
Главная выставка достижений мирового электронного хозяйства по традиции проходит в Лас-Вегасе в начале каждого года. На Consumer Electronics Show уделяют внимание и кибербезопасности, но она, мягко скажем, не является первым и главным вопросом повестки дня. Гигантский монитор или стиральная машина с ИИ? В ассортименте! Функции, защищающие от взлома умного дома? Придется поискать!
Мы выбрали несколько самых интересных и трендовых анонсов с CES, чтобы описать новые кибер-риски и защитные решения, которые появятся у нас с вами по мере массового появления новинок в продаже.
NVIDIA Project DIGITS: личный суперкомпьютер для ИИ
Сам основатель компании NVIDIA Дженсен Хуанг представил аудитории CES сверхмощный компьютер размером с Mac mini. Основанный на «суперчипе» GB10 Grace Blackwell и снабженный минимум 128 ГБ памяти, этот аппарат способен запускать большие языковые модели с 200 млрд параметров. Можно соединить два таких компьютера и запускать уже совсем большие модели на 400 млрд параметров. Правда, цена $3000 ограничит аудиторию решения.
Про кибербезопасность. Запуская большие языковые модели локально, вы предотвращаете утечку конфиденциальной информации в облачные сервисы OpenAI, Google и им подобные. Но до недавнего времени это решение было не слишком практичным. Доступны были либо сильно упрощенные модели, едва работающие на игровых компьютерах, либо решения, развернутые на мощных серверах в частном облаке. DIGITS упрощает запуск мощных локальных LLM для маленьких компаний и обеспеченных энтузиастов.
Cуперчип GB10 Grace Blackwell, 128 ГБ ОЗУ и 4 ТБ SSD — неплохая платформа для локальной нейросети от NVIDIA. Источник
View the full article
От KL FC Bot
От sputnikk
От gennadij-zaripov
От costa2323
От zimok
Рекомендуемые сообщения
Пожалуйста, войдите, чтобы комментировать
Вы сможете оставить комментарий после входа в
Войти