「専門業務向けLLM」の構築支援サービス　日立製作所が提供開始：生成AIへの投資負荷を軽減

　日立製作所は2024年8月29日、専門的な業務に適したLLM（大規模言語モデル）の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築、運用を担う「生成AI（人工知能）業務適用サービス」を同年10月1日に提供開始すると発表した。同社は「生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備、運用といった顧客負荷を減らす」としている。

「業務特化型LLM構築・運用サービス」「生成AI業務適用サービス」の概要図（提供：日立製作所）

「専門業務向けLLM」をどう作り、どう使うのか？

　業務特化型LLM構築・運用サービスは、顧客の業務に適した規模、精度のLLMを構築するサービス。業務知識として企業が持つ固有のデータを汎用（はんよう）LLMに学習させることで、顧客の業務に適したLLMを構築し、継続的に改善する。日立製作所のLLMエンジニアが学習に必要な知識データや適切な汎用LLMを選定し、過学習による正答率の低下を防ぎながら専門知識を学習させ、適切な規模と回答精度のLLMを構築するという。

　生成AI業務適用サービスは、構築したLLMやそれを組み込んだ実行環境を、構築、運用するサービス。学習済みデータの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択でき、オンプレミス環境での運用にも対応している。LLMを使った生成AIアプリケーションの開発や「汎用LLMと業務特化型LLMをどう使い分けるか」といった相談にも対応する。