生成AIを仕事や行政で使う場面が増えるなか、「このAIの答えは本当に安全？」を一度きりではなく、続けて点検する仕組みづくりが動き出しました。さくらインターネット、Preferred Networks（PFN）、情報通信研究機構（NICT）の3者は2026年10月14日、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを始めると発表しました。3者は2025年9月に、国産生成AIのエコシステムづくりをめざす基本合意を結んでいます。
ここがポイント
- 「能動的評価基盤」は、NICT が開発している大規模言語モデル（LLM）の評価システム。差別的・攻撃的な表現、犯罪や迷惑行為を助ける回答、誤情報、日本の文化・法令に合わない回答、ハルシネーションなどを多面的にチェックします。
- 評価結果を安全性・信頼性の面からわかりやすく示し、問題点を直すための学習データも自動で作るのが特徴です。
- すでに2つの部品の試作版が動き始めています。「WISDOM-CE」はAIの回答を大量のWebページと照らし合わせて矛盾を見つけ、ハルシネーションや偏りの可能性を検知。「WISDOM-AR」は危険度の高い質問（プロンプト）を大量に自動で作り、回答に差別的な表現や犯罪を助けるリスクがないかを、理由とともに判定します。
- さくらインターネットは「来年度中」の運用開始をめざし、まずは自社の推論サービス「さくらのAI Engine」で提供する国内外のLLMへの適用を検討します。
- PFN は NICT と連携して、日本語の性能と安全性をさらに高めた国産LLMを開発し、国産LLM「PLaMo 3.0 Prime」の後継モデルにつなげます。
何が新しいのか
いまのAIの安全性評価は、あらかじめ用意した質問集にどう答えるかを確かめる方法が中心です。ただ、この方法には弱点があります。開発者がその質問集で学習させれば点数を上げられてしまうこと、そして決まった質問集では、次々に生まれる新しいリスクを捉えきれないことです。
能動的評価基盤は、質問そのものをAIが自動で作り、更新し続けることで、この弱点を補おうとしています。わざと危ない質問を投げて弱点を探す考え方は、レッドチーミングに近いものです。NICT は、20年近く集めてきた膨大な日本語のWebデータ、検索ベースの質問応答システム「WISDOM X」、PFN との共同研究で開発した2,000億パラメーターのLLMなどを組み合わせた「AI複合体」として、この基盤を育てていくとしています。
DXマスターの視点
企業や自治体が生成AIを選ぶとき、「性能が高いか」だけでなく、「日本の法令や商習慣に照らして安心して使えるか」は大事な判断材料です。海外製のAIをそのまま使うと、日本特有の文化や制度に合わない答えが返ることもあります。国内の研究機関・クラウド事業者・AI開発企業が組んで、日本の基準でAIを点検し続ける仕組みができれば、AIを選ぶときの「ものさし」として役立ちそうです。
一方で、評価の仕組みもAIで動く以上、その評価が妥当かどうかを確かめ続けることが欠かせません。3者も「継続的な評価で結果の妥当性を保つ方法論」を検討するとしています。生成AIを導入する側も、「一度評価したら終わり」にせず、使いながら点検・改善する姿勢を持ちたいところです。DXマスター（DX MASTER）では、運用開始に向けた動きを引き続き追っていきます。
