NVIDIA Разворачивает AI-агентов для Оптимизации Операций DGX SuperPOD

NVIDIA представила своего AI-агента операций фабрики, структуру, предназначенную для оптимизации управления своей инфраструктурой DGX SuperPOD. Используя AI-агентов, специализированных для конкретной области, система стремится сократить ручную нагрузку на инженеров по обеспечению надежности сайтов (SRE) и упростить анализ коренных причин на уровнях вычисления, сети, аппаратного обеспечения и планирования.

Операционная Структура на Основе AI

AI-агент операций фабрики интегрирует несколько специализированных агентов, которые взаимодействуют через Протокол Контекста Модели (MCP), открытый стандарт, представленный Anthropic в 2024-11. Этот протокол обеспечивает бесшовное взаимодействие между приложениями AI и внешними инструментами, позволяя NVIDIA максимизировать время безотказной работы и производительность в своих AI-фабричных средах. Система построена на основе чертежа NemoClaw от NVIDIA, который координирует агентов и инструменты, специфичные для области, через пользовательский интерфейс чата.

Ключевые компоненты структуры включают в себя:

• Агент Восстановления Работы: Определяет сбои в обучающих заданиях и проводит многоуровневый анализ коренных причин.
• Агент Аппаратного Обеспечения: Диагностирует проблемы с аппаратным обеспечением, такие как ошибки PCIe, сбои GPU и тепловые аномалии.
• Агент Наблюдаемости: Динамически генерирует панели управления, используя логи Prometheus и Grafana Loki.
• Агент Kubernetes: Предоставляет представления только для чтения о ресурсах кластера и состояниях планирования.
• Агент Управления Кластером: Интерфейсирует с API NVIDIA Base Command Manager для диагностики кластера и устранения неисправностей.

Модульный дизайн позволяет организациям интегрировать дополнительные агенты и инфраструктуру без изменения существующих компонентов. Система поддерживает локальную развертку и суверенитет данных, с выводами агентов, основанными на локально предоставляемых открытых моделях NVIDIA Nemotron.

Техническая Архитектура

AI-агент операций фабрики работает как приложение контрольной плоскости Kubernetes. Helm разворачивает пользовательский интерфейс, шлюз OpenClaw, серверы инструментов MCP, конечную точку вывода и среду выполнения NVIDIA OpenShell как службы Kubernetes. Среда выполнения OpenShell обеспечивает безопасное, подлежащие аудиту выполнение, создавая песочницы Kubernetes для каждой сессии для команд оболочки, избегая прямого доступа к учетным данным Kubernetes.

Меры безопасности включают контроль доступа на основе ролей (RBAC) и инструменты инспекции на стороне сервера, обеспечивая работу агентов в пределах заранее определенных разрешений. Например, агенты могут читать данные пода и конфигурационной карты, но ограничены в создании или обновлении подов.

Операционные Преимущества и Уроки

На практике агенты NVIDIA продемонстрировали способность обнаруживать сбои, коррелировать коренные причины между несколькими уровнями и предоставлять действенные рекомендации через интерфейс естественного языка. Ключевые уроки из развертывания NVIDIA включают:

• Сохранение четких границ агентов, чтобы избежать наложения обязанностей.
• Установление доверия через операции только для чтения перед введением автоматизации.
• Улучшение анализа коренных причин путем корреляции сигналов между уровнями нагрузки, аппаратного обеспечения и сети.
• Повышение точности маршрутизации инструментов за счет точных определений MCP.
• Обеспечение прозрачности путем представления доказательств и оснований для анализа SRE.

Будущие Применения

Хотя в настоящее время он развернут в средах DGX SuperPOD NVIDIA, структура AI-агента операций фабрики предназначена для масштабируемости и адаптивности. Организации, управляющие крупномасштабными AI-фабриками, могут внедрить систему для унификации операционных рабочих процессов, повышения наблюдаемости и сокращения ручного вмешательства в управление инфраструктурой.