AIと対話しながらモデルを構築する手法を慶應義塾大学と東京自働機械製作所が共同開発：AIモデルのブラックボックス化を防ぐ

　慶應義塾大学理工学部の桂誠一郎研究室と東京自働機械製作所は2020年9月28日、「バイラテラルAI」の基盤技術の開発に成功したと発表した。バイラテラルAIは、設計者が用意した要素群を使ってモデルを最適化する手法。

　AI（人工知能）技術には、生成されたモデルがブラックボックス化するという問題がある。バイラテラルAIは演算結果を随時確認しながら対話するようにモデルを生成できるため、出来上がったモデルの意味を明確な数式で表現できるという。

「バイラテラルAI」による対話的設計（出典：慶應義塾大学）

人間とAIが相互補完する

　モデルの構築は次のような手順で実施する。まず、モデルを表現するために使用する要素群や評価関数などの「設計意図」（モデル学習の条件）を設計者が入力する。バイラテラルAIは入力された設計意図に基づいた演算結果を出力する。この演算結果を設計者が解釈し、必要に応じて新たに設計意図を入力する。