100種の生成AI製品を疑似攻撃して分かった「ビジネスリーダーが知っておくべき3つの教訓」とは：Microsoftがレッドチーム演習で得た成果を発表

　Microsoftは2025年1月13日（米国時間）、同社のブログで、生成AI（人工知能）製品に対する「レッドチーム演習」の成果をまとめたホワイトペーパー「Lessons From Red Teaming 100 Generative AI Products」を公開した。

Microsoftのブログ

　レッドチーム演習とは、攻撃者の視点でテストを実施することでセキュリティを評価する手法のことだ。システムに対して実施すれば、システムの脆弱（ぜいじゃく）性やリスクを特定できる。Microsoftは2018年に、AIの安全性とセキュリティリスクに対応するために、レッドチーム演習を実施するチーム（AIレッドチーム）を設立。同レッドチームはこれまでに100種を超える生成AI製品のレッドチーム演習を実施しており、同ホワイトペーパーはその成果をまとめたものだ。

　ホワイトペーパーには、演習で得られた教訓が紹介されている。同ブログではその中でも「ビジネスリーダーが知っておくべき重要なポイント」について解説されている。解説されているのは以下の3点だ。

• 生成AIシステムがもたらすのは“新しいリスク”だけではない
• AIの改善とセキュリティに人間が欠かせない理由
• AIシステムを安全に保つためには「多層防御」が鍵になる

生成AIシステムは既存のセキュリティリスクも増幅する