ニュース
AMDとFiddlerが信頼性のあるエンタープライズAIエージェントについて協力
AMDとFiddlerは、エンタープライズAIエージェントの信頼性、ガバナンス、およびスケーラビリティを向上させるために、コンピュートパワーと可視化ツールを組み合わせています。
翻訳記事です。 元の記事を読む.
AMDとFiddlerは、エンタープライズAIエージェントの信頼性、ガバナンス、およびスケーラビリティを改善することを目的とした協力を発表しました。AMDの高性能コンピューティング能力とFiddlerの可視化およびポリシーツールを組み合わせることで、パートナーシップは生産環境における自律AIシステムの展開の複雑さの増大に対処することを目指しています。
AMDの高性能コンピュート基盤
AMDは、Instinct™ GPUとROCm™オープンソフトウェアプラットフォームを通じて、AIワークロードのための計算基盤を提供しています。これらのツールにより、企業はAIモデルを大規模にトレーニング、調整、そして展開することができます。AMDのオープンプラットフォームは、特定の要求に対してインフラストラクチャのパフォーマンスとスケーラビリティを評価できるよう、さまざまな展開シナリオをサポートしています。この基盤は、複数のモデルコール、ドキュメント取得、およびツールとの相互作用を含むエージェンティックワークフローのリソース要求を満たすように設計されています。
Fiddler の可視化およびガバナンスタools
Fiddlerは、エージェンティックシステムのためのエンドツーエンドの可視化を提供するAI制御プレーンを使用して、AMDの計算能力を補完します。これには、アプリケーションレベルの結果の監視、個別のスパンのトレース、そしてハラスメントや有害コンテンツ、機密データの露出といったリスクの評価が含まれます。Fiddlerのツールにより、チームはエージェントのワークフロー内の特定のステップでの問題を特定し対処することができます。たとえば、不正確なドキュメント取得や非効率的なツール使用などです。プラットフォームは、Guardrails機能を通じてガバナンスポリシーを強制し、企業基準への準拠性を確保するためにプロンプトと応答をフィルタリングします。
自律AIにおける課題への対処
企業が内部ポリシーの解釈やワークフローの自動化など、複雑なタスクを実行するAIエージェントをますます導入するにつれて、堅牢な監視とガバナンスの必要性が重要になります。従来の監視システムは、よりシンプルなAIモデル用に設計されているため、エージェンティックワークフローの微妙な失敗をキャッチできないことがよくあります。たとえば、エージェントがソースポリシーと矛盾する応答を提供することがあるが、この問題はインフラストラクチャのメトリックだけでは検出できません。Fiddlerの可視化ツールは、アプリケーションの結果を、それらを生み出したモデルのコールやツールの相互作用と結びつけることで、このギャップを埋めます。
企業への実用的なメリット
AMDとFiddlerの協力は、エンタープライズAIの展開においていくつかの実用的な利点を提供します:
- 改善されたユーザー体験:継続的な品質監視は、エラーと手動修正の必要を減少させるのに役立ちます。
- 迅速なトラブルシューティング:詳細なトレースと診断により、チームは問題をより効率的に特定して解決できます。
- コスト最適化:トークンの使用状況とエージェント活動の可視化は、高価または非効率的なワークフローを特定し対処するのに役立ちます。
- 責任の強化:Fiddlerの統一エージェントレジストリおよび監査トレイルは、コンプライアンスと内部レビューを支援します。
- 柔軟性:AMDのオープンソフトウェア基盤とFiddlerのクラウド非依存的なアプローチは、企業が進化するインフラストラクチャとアプリケーションの要件に適応するのを可能にします。
信頼性の高いAIシステムの構築
AMDの計算プラットフォームをFiddlerの評価およびガバナンツールと統合することで、企業はAIシステムが予測可能なコストで信頼できる結果を提供することを確保する連続的なフィードバックループを達成できます。このパートナーシップは、高性能なインフラストラクチャと確固たる監視を組み合わせて自律AIを責任を持って拡張する重要性を強調しています。