生成AIの「安全性」は何を測るのかNICTの共同研究から考える

資料で確認できること

評価指標と不適切表現の制御を研究

NICTとSB Intuitionsは2026年2月26日、高性能LLMの安全性技術の共同研究を2月18日に開始したと発表しました。人の価値観などに沿うようモデルを調整する技術と評価指標、入力・出力の不適切な表現を検出して制御するガードレール技術を研究対象としています。

• 資料 01SB Intuitions株式会社・国立研究開発法人情報通信研究機構（NICT）：SB Intuitionsと情報通信研究機構、高性能LLMの安全性技術に関する共同研究を開始

当事者の説明

日本語での性能と安全性の両立を目指す

両者は、NICTの言語資源や安全性の技術と、SB Intuitionsのモデル開発の知見を組み合わせ、より安全性の高いLLMの開発を目指すと説明しています。

• 資料 01SB Intuitions株式会社・国立研究開発法人情報通信研究機構（NICT）：SB Intuitionsと情報通信研究機構、高性能LLMの安全性技術に関する共同研究を開始

未確認の点

研究開始の発表は、性能の保証ではない

参照した資料は共同研究の開始と内容を示す発表です。完成した技術の試験成績や、すべての誤りを防げるという結果は確認できません。本稿では、その後の成果や個別製品の現在の性能を評価していません。

確認の範囲

発表時点の研究計画を扱う

2026年10月8日に確認した2月26日付の共同発表をもとに、JBJ編集部が執筆しました。研究者本人の寄稿ではなく、評価実験を独自に行った記事でもありません。

• 資料 01SB Intuitions株式会社・国立研究開発法人情報通信研究機構（NICT）：SB Intuitionsと情報通信研究機構、高性能LLMの安全性技術に関する共同研究を開始

JBJの見解

防ぎたい問題と、測り方をセットで読む

JBJは、AIの安全性を一つの印象で評価するより、何を防ぎたいかを具体的にして読む方法を提案します。誤った情報、不適切な表現、必要な回答まで止めてしまうことなど、利用場面で確かめたい点は複数あります。どの点を、どんな入力例や基準で評価したかまで見えると、発表を比較しやすくなります。

ガードレールという名称だけで、生成された文章の事実確認まで済んだと受け取ることは避けたいところです。本稿の考察として、表現の制御と、記載された日時・数字・出典を照合する作業は、それぞれ確かめる必要があると考えます。研究で目指すこと、試験で確かめたこと、利用者が確認することを分けると、期待と判断の根拠を整理できます。

JBJの見解

AIの回答を公開する前に元資料へ戻る

編集や広報でAIを使う場合は、文章の自然さだけで公開を決めず、元資料の存在、記述の対応、情報の日付を確かめましょう。とくに人や組織への評価を含む文章では、AIが補った推測を公表済みの事実と混ぜないことが大切です。確認できない点を残し、人が公開の判断を行える運用を考えたいところです。