「ガバナンスとセキュリティがAIエージェント活用の鍵」 IBMが新機能を発表：AIエージェントのリスク管理に次の一手
IBMは2025年6月18日、AIエージェントのガバナンスとセキュリティを統合管理できるソフトウェアを発表した。企業がAIのリスクを可視化し、より安全かつ責任あるAI運用を実現できるようにするための機能を提供する。
IBMは2025年6月18日（米国時間）、AI（人工知能）のガバナンスとセキュリティを統合管理できるソフトウェアを発表した。ソフトウェアの利用を通じて、企業はAIエージェントや生成AIシステムのリスクを一元的に把握し、安全かつ責任あるAI活用を大規模に推進できるようになる。
ガバナンスとセキュリティを強化する新たな機能群とは？
今回IBMが発表したソフトウェアは、同社のAIガバナンスツール「watsonx.governance」とAIセキュリティ製品「Guardium AI Security」を統合するためのものだ。このソフトウェアには、企業が使用するAIエージェントが、EU（欧州連合）の「AI法」（Artificial Intelligence Act）や「ISO/IEC 42001:2023」など、AI技術の管理に関する12の主要規格や法律に準拠しているかどうかを検証する機能が搭載されている。
Guardium AI Securityには、クラウドサービスやコードリポジトリ、組み込みシステムでの新規のAI活用を自動検知したり、脅威を特定した場合、即座に対処したりする機能が備わった。
さらに、AIエージェントの脆弱（ぜいじゃく）性や誤設定を検出、修正する「自動レッドチーミング」機能や、プロンプトをはじめとしたAIへの指示やAIからの出力を監視、制御する機能も追加された。コードインジェクション（プログラムに悪意があるコードを挿入、実行し、データの窃取やシステムの改ざんを目指す攻撃手法）やデータ漏えいリスクを防ぐ目的だ。
watsonx.governanceには、AIエージェントの開発から運用までを一貫して管理する新機能が加わった。エンドユーザーは、AIエージェントの回答の妥当性やコンテキストの関連性を評価したり、AIエージェントの性能低下の原因を特定したりできる。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
IBM、企業のAIエージェント構築、展開をサポートするハイブリッドテクノロジー群を発表
IBMは、企業がAI活用の課題に対処し、自社独自のデータを用いてAIエージェントを構築、展開できるようにする新しいハイブリッドテクノロジー群を発表した。
AI活用は不正、能力不足、怠惰？ AIエージェント導入に対する従業員の懸念を解消する方法をSalesforceが解説
Salesforceは、AIエージェント導入に対する従業員の懸念を解消する方法を同社のブログで解説した。上長はデジタル労働力の台頭と、それが労働力に与える影響を認識することが重要だとしている。
AIエージェントで広がるアタックサーフェス 高度な防御が必要に
企業がカスタム生成AI（人工知能）アプリへの投資を拡大する中、AIエージェントがデジタルトランスフォーメーション（DX）戦略の重要な要素として浮上している。AIエージェントは有望な進歩をもたらす一方、目に見えない攻撃対象領域（アタックサーフェス）を急増させるため、最先端のセキュリティ／リスク管理戦略の策定が必要だ。