AIに関わる人が知っておくべき“逆説”の法則、5選：AI・機械学習の用語辞典

連載目次

　「えっ、人間なら簡単なのに、AIはそれが苦手なの？」――そんなふうに思ったことはありませんか？

　実はこうした“違和感”には、AIの本質や限界、人間との根本的な違いが表れていることがあります。こうした現象を捉える視点として、多くの法則がまとめられてきました。

　本稿では、「パラドックス（逆説）」という切り口で、AIにまつわる代表的な法則を5つ厳選し、図解付きでやさしく紹介します（図1）。

図1　AIに関する、5個の“逆説”の法則

　AIや機械学習の初学者はもちろん、AIを活用するエンジニアやビジネスパーソンにとっても、視野を広げ、誤解を避けるうえで役立つ内容です。ぜひこの機会にまとめて押さえておきましょう。

連載：

『AI・機械学習の用語辞典』

　本連載では、AIや機械学習に関連する専門用語をできるだけかみ砕いて分かりやすく解説しています。コンパクトながらも、必要十分な知識が得られる内容を目指しています。興味がある方は、次回以降の新着記事を見逃さないように、ぜひ以下のメール通知の登録をお願いします。

1. AI効果

　AI効果（AI effect）とは、「最新のAI（人工知能）」として話題になった技術が、一般社会に受け入れられ日常的に使われるようになるにつれて、“AI”とは呼ばれなくなる現象のことです（図2）。つまり、「AIが実用として定着し成功すればするほど、かえって「“AI”ではないもの」として扱われる」という逆説（パラドックス）が存在するのです。

　例えば、OCR（画像から文字を読み取る技術）、音声認識、自動翻訳といった技術は、かつては“AI”と呼ばれていました。しかし現在では、それぞれ「文字認識」「音声アシスタント」「翻訳サービス」として定着し、あえて“AI”と呼ばれることは少なくなってきています。

図2　AI効果のイメージ

　筆者の考えとしては、今後も「多くのAI技術が生活に溶け込み、“AI”という名前が意識されなくなる流れ」（＝AI効果）は続くと思います。例えば最新の「チャットAI」や「コーディング支援AI」なども、将来的には「チャットボット」や「コーディングツール」として定着し、“AI”という特別な呼び方はされなくなるかもしれません。

　なお、現在のようなAIブームがいつまで続くのかは分かりませんし、このブームの中で「人間と同等かそれ以上の知能や感情を持つ汎用（はんよう）人工知能、いわゆるAGI（Artificial General Intelligence）」にまで到達できるのかも不透明です。もしAGIに達するのであれば、恐らくそのAGIこそが“AI”という名前にふさわしい存在として最後に残り、「AI効果」という逆説にもようやく終止符が打たれることになるでしょう。

2. モラベックのパラドックス

　モラベックのパラドックス（Moravec's paradox）とは、大人が行うような高度な知性に基づく推論よりも、1歳児が行うような本能に基づく運動スキルや知覚を身に付ける方が、AIやコンピュータにとってははるかに難しい、という逆説のことです。例えば、AIは将棋ではプロに勝てるほど強くなれるのに、1歳児のようにおもちゃを正しくつまんで動かすことは今なお困難です。一方で、人間にとってはその逆で、将棋でプロに勝つ方がはるかに難しいですよね（図3）。

図3　モラベックのパラドックスのイメージ

　このパラドックスが提唱される以前、AI研究では「チェスのような高度な知的ゲームをクリアできれば、人間のような知性（AGI）もすぐ実現できる」と期待されていました。しかし実際には、日常的な身体動作や知覚の方がはるかに難しいことが分かり、この逆説はあらためて注目を集めるようになりました。

　近年では、画像認識やロボティクスの発展により、「モラベックのパラドックスは克服されつつある」との見方もあります。しかし筆者としては、あくまで一部を克服したに過ぎず、このパラドックスは現在でもAIの限界を考える上で有効な視点であると考えています。

3. ポランニーのパラドックス

　ポランニーのパラドックス（Polanyi's paradox）とは、人間は経験（＝暗黙知）として知識を身に付けるが、それを言葉（＝形式知）にして他人に伝えるのは難しい、という逆説のことです。これは、哲学者マイケル・ポランニー（Michael Polanyi）氏の言葉「私たちは知っていることを、全て言葉にできるわけではない（We can know more than we can tell）」に由来します。実際に、人間の知的活動をルールや手順としてAIに教えることは困難ですよね（図4）。

図4　ポランニーのパラドックスのイメージ

　この逆説はルールベースのAIの話であり、近年のAIでは暗黙知に近い“振る舞い”を模倣できるようになってきています。具体的には、ディープラーニングをはじめとした機械学習技術の進展により、大量のデータからAI自身がパターンを学習することが可能です。

　しかし、そうして得られた“振る舞い”は、あくまで統計的なパターン認識に基づくものであり、人間の暗黙知が持つ深い文脈理解や創造性とは本質的に異なると考えられます。AIは状況や意図を“理解”しているわけではなく、「もっともらしい反応」を確率的に導き出しているに過ぎないとみるのが自然でしょう。この逆説は、「AIは本当に理解しているのか？」という根本的かつ哲学的な問いを私たちに突き付け続けています。

　なお、ポランニーのパラドックスは、先に紹介したモラベックのパラドックスとも通じる部分があります。どちらも、人間の知的活動がいかに“説明しきれない経験”や“無意識の技能”に支えられているかを示しており、AI開発における根源的な難しさを照らし出す視点として、今なお大きな意味を持っていると言えるでしょう。

4. グッドハートの法則

　グッドハートの法則（Goodhart's law）とは、「ある指標が目標になると、その時点でその指標は“良い指標”ではなくなる」（When a measure becomes a target, it ceases to be a good measure.）という逆説的な法則のことです。例えば、「国民の健康状態を改善する」という本来の【目標】に対して、「平均寿命」という1つの【指標】だけを重視した結果、QOL（生活の質）を軽視した延命措置や医療アクセスの不平等など、本来の目的から外れた施策が進んでしまうといったケースが考えられます（図5）。

図5　グッドハートの法則のイメージ

　もともとは経済政策の文脈で知られてきた法則ですが、教育評価や業績管理など、さまざまな分野において、特に目標を数値化する場面で応用されています。このような“【指標】と【目標】のすり替え”は、AIや機械学習の分野においても同じように注意が必要です。特定の性能指標（例：正解率）だけを追い求めるあまり、本来のビジネス上の目標が置き去りにされてしまうことも少なくないからです。

　本来の目的を見失わないように注意する必要があります。「指標はあくまで手段である」という視点を持ち続けることが、AIや機械学習を含むあらゆる分野で欠かせない姿勢と言えるでしょう。

5. シンプソンのパラドックス

　シンプソンのパラドックス（Simpson's paradox）とは、主にデータを幾つかのグループ（層）に分割した層別分割表において、グループ間に見られる傾向や関係（前提）が「全体でも成り立つだろう」と直感的に推測される一方で、実際のデータ全体ではその傾向や関係（結果）が前提とは真逆であったり、一致しなかったりする、という逆説的な現象のことです。

　例えば高校Aグループと高校Bグループのテスト結果を見比べて、どちらがより優秀な成績を出せるかを考えてみましょう（図6）。

図6　シンプソンのパラドックスのイメージ

　男子のテスト結果（平均点）は高校Aが90点で高校Bが85点、女子のテスト結果（平均点）は高校Aが70点で高校Bが60点です。つまり両方とも高校Aの方が成績が良いので（前提）、「全体でも高校Aの方が成績が良いだろう」と推測するのが自然でしょう。

　しかし、男子と女子を合わせた全体のテスト結果（平均点）は高校Aが79点、高校Bが80点です。つまり、先ほどの推測とは異なり、高校Bの方が成績が良いという結果になっています。このように「前提に基づく直感的な予測」と「実際の結果」が食い違う“逆説的な現象”が、シンプソンのパラドックスです。

　筆者としては、AIやデータ分析の現場において、こうした“逆説的な現象”の可能性を常に意識しておく必要があると考えています。さもないと、誤った結論を導き出してしまうリスクがあるからです。例えば、ユーザーの属性別や行動パターン別の傾向や関係（前提）だけを見て、ユーザー全体の傾向や関係（結果）を推測してしまうと、場合によっては全く逆の判断をしてしまうことがあり得ますよね。

　この逆説自体は、上記のような統計的な現象に限った法則なのですが、そこには「どの視点で見るかによって結論が変わり得る」という重要な教訓が含まれていると思います。こうした教訓を踏まえると、AIやデータ分析などで集計や分析を行う際には、先ほどの「グループ単位での前提」と「全体の結果」など、各視点を安易に混同しないよう意識しておくことが重要だと言えるでしょう。

　以上、AIの本質や限界を映し出す“逆説”の法則を5つご紹介しました。本稿が、AIへの理解を深める一助となり、技術の活用や議論においてより本質的な視点を持つきっかけとなれば幸いです。

「AI・機械学習の用語辞典」