Штучний інтелект та машинне навчання, технології нового покоління та безпечний розвиток
Виробник чіпів Shore Up Sweet Server Ends
Грег Сіріко •
5 серпня 2025 року
Гігант штучних чіпів Giant Nvidia опублікував патчі для своєї платформи з відкритим кодом, що дозволяє користувачам запускати моделі в масштабах після того, як дослідники виявили, що хакери можуть отримати повний контроль над базовим сервером – що дозволяє їм викрасти моделі, маніпулювати його відповідями та викрасти дані.
Див. Також: Агенти AI вимагають масштабованих рамок безпеки ідентичності
Дослідники безпеки в Wiz, хмарний запуску, придбаний Google, заявив, що вони виявили три недоліки, які можна було б об'єднати разом для отримання віддаленого виконання коду на сервері Inference Triton Nvidia Triton.
Саме самі вади не обов'язково становлять багато, сказав Віз. Відслідковується як CVE-2015-23320, CVE-2015-23319 та CVE-2012-23334, ланцюг вразливості “демонструє, як низка, здавалося б, незначних недоліків, щоб створити значну експлуатацію”,-писали дослідники. Вади є серед приблизно 20 вразливих місць, які нвідія зафіксувала в понеділок.
Прозріння дослідників полягало в тому, щоб зосередити увагу на Python Backend Triton. Навіть моделі AI, налаштовані для запуску на іншому бекенді, можуть використовувати Python для деяких етапів процесу висновку AI, сказав Віз. Основна логіка Python Backend реалізована мовою C ++, а метод міжпроцеських комунікацій для перекладу між двома мовами використовує діючу область пам'яті. Зловмисник може надіслати великий віддалений запит і запустити повідомлення про помилку, яке розкриває унікальне ім'я – ключ – цієї області пам'яті.
Існуючий API Triton, який надає користувачам доступ до іншої, наявної спільної області пам'яті, не вистачає перевірки, тобто зловмисники могли забезпечити викрадений ключ та отримати доступ до частини сервера, що мала бути поза межами для користувачів. Звідти атака-це питання пошкодження існуючих структур даних або надсилання шкідливих повідомлень про міжпроцеси.
“Оскільки компанії широко розгортають AI та ML, забезпечення основної інфраструктури є першорядним. Це відкриття підкреслює важливість захисту глибини, де безпека розглядається на кожному рівні програми”,-написав Віз.