HPE и NVIDIA расширяют платформу HPE Private Cloud AI для организаций, которые хотят запускать модели и ИИ-агентов в собственной инфраструктуре, сохраняя контроль над данными и политиками безопасности.
Платформа вводит локальную регистрацию агентов, позволяющую организации утверждать модели, инструменты и функции, доступные каждому агенту. Также добавлены возможности приоритизации задач, контролируемого доступа к моделям и распределённого инференса в системах, включающих до 256 графических ускорителей.
HPE Alletra Storage MP X10000 может автоматически применять метаданные и политики к неструктурированным данным. В ходе отдельных внутренних тестов HPE сообщила о сокращении времени до генерации первого токена до 20 раз и увеличении пропускной способности обработки токенов до 20%.
Решение включает возможности конфиденциальных вычислений, шифрования, проверки компонентов инфраструктуры и защиты моделей и данных во время обработки.
BTS PRO может помочь организациям определить, где следует внедрять проект искусственного интеллекта: в публичном облаке, локальной инфраструктуре или гибридной среде. Анализ включает требования к производительности, конфиденциальности, хранению данных, сети, энергопотреблению и возможностям дальнейшего масштабирования.