NVIDIA анонсує Open Secure AI Alliance для розвитку відкритих технологій захисту AI

NVIDIA оголосила про створення Open Secure AI Alliance, нової ініціативи, що зосереджена на розробці та обміні відкритими технологіями для захисту AI-агентів, програмного забезпечення та інфраструктури, на якій вони працюють.

Багатий склад учасників Open Secure AI Alliance

Аліанс об’єднує більше 40 організацій, що представляють хмарні обчислення, кібербезпеку, корпоративне програмне забезпечення, дослідження AI та екосистему з відкритим вихідним кодом. Серед засновників: Linux Foundation, Red Hat, IBM, Microsoft, Hugging Face, Cloudflare, Cisco, CrowdStrike, HPE, Salesforce, SAP, Adobe, Dell Technologies, Elastic, Palo Alto Networks, Siemens, Snowflake та інші.

Спільні моделі для зменшення залежності від закритих платформ

Open Secure AI Alliance прагне не до розробки єдиного продукту безпеки, а до створення спільного набору відкритих моделей, фреймворків, систем ідентичності, інструментів сканування, даних та практик безпечної розробки. NVIDIA стверджує, що ці ресурси дозволять організаціям перевіряти, адаптувати та розгортати системи безпеки AI на своїй інфраструктурі, зменшуючи залежність від закритих платформ.

Удосконалення виявлення вразливостей через відкриті технології

Ця ініціатива базується на поточних зусиллях проекту Akrites від Linux Foundation та Open Source Security Foundation, з основною метою підвищення виявлення, ліквідації та відповідального розкриття вразливостей через відкриті технології.

Новий фреймворк NOOA для досліджень

У рамках анонсу NVIDIA також представила відкритий фреймворк для досліджень NVIDIA Labs Object-Oriented Agent (NOOA). Цей проект розроблений для поліпшення інтеграції між моделями AI та агентськими системами, що робить поведінку агентів легшою для тестування, відстеження, аудиту та управління.

Внески від інших учасників

Інші засновники також вносять існуючі відкриті технології. HPE бере участь через SPIFFE і SPIRE, які пропонують стандарти та інструменти для криптографічної перевірки ідентичності навантажень та сервісів.

Hugging Face вносить Safetensors, формат зберігання моделей, який запобігає виконанню довільного коду та пропонує прозорий, ефективний метод розповсюдження моделей AI.

IBM та Red Hat надають Lightwell, проект, що зміцнює ланцюг постачання програмного забезпечення з відкритим вихідним кодом завдяки цифровим підписаним патчам безпеки. Microsoft пропонує MDASH, фреймворк сканування, що координує спеціалізовані AI-агенти для виявлення, аналізу та перевірки вразливостей програмного забезпечення.

Відкритий захисний стек для AI-агентів

Усі ці компоненти формують так званий відкритий захисний стек для AI-агентів, який охоплює ідентичність навантаження, ізоляцію, безпечні формати моделей, сканування вразливостей та безпечні робочі процеси розробки програмного забезпечення.

Потенціал Open Secure AI Alliance на майбутнє

Однак Open Secure AI Alliance – це нова ініціатива, а не завершена програмна платформа. Її довгострокове значення залежатиме від подальшого внеску від компаній-учасників та більш широкої взаємодії з незалежними розробниками, дослідниками безпеки та фондами з відкритим вихідним кодом.

Додаткові деталі доступні в анонсі NVIDIA.