お知らせ 情報理論に基づくLLMの推論介入手法に関する論文が国際会議AACL 2026で採択 追加学習を行わずLLMの生成を目的に応じて制御

株式会社リコーは、当社の情報理論に基づくLLMの推論介入手法に関する論文が、自然言語処理分野の国際会議「The 5th Asia-Pacific Chapter of the Association for Computational Linguistics & the 15th International Joint Conference on Natural Language Processing（AACL 2026）」に採択されたことをお知らせします。本論文は、2026年11月6日から10日まで、中国で開催される同会議において発表される予定です。

本技術は、大規模言語モデル（LLM）に対して追加学習することなく、推論時にモデル内部の処理に軽量な介入を加えることで、文章の自然さを維持しながら、生成する文章を目的に応じた方向へ制御する技術です。情報理論に基づき、モデル内部の特徴分布と目標とする応答分布との違いを定量化することで、回答を望ましい方向へ導くための制御方法を理論的に設計できることを示しました。これにより、追加学習にかかるコストを抑えながら、AIの安全性向上や文章生成傾向の制御への活用が期待できます。

今後は、リコーが自社開発するセーフガードモデルと本技術を組み合わせ、生成過程を制御する「内側の防御」と、入出力を監視する「外側の防御」による多層的な安全対策の実現を目指します。これにより、お客様が生成AIをより安心して活用できる環境づくりにつなげていきます。

生成AIの活用が広がる一方で、企業や公共機関では、応答品質だけでなく、安全性や信頼性を確保することが重要な課題となっています。特に、防衛、公共、金融、製造などの分野では、不適切な回答の抑制や、安全対策を回避しようとする「Jailbreak（ジェイルブレイク）^*」への対応が求められています。

従来、LLMの生成を目的に応じた方向へ調整するには、プロンプトの工夫や追加学習などの手法が用いられてきましたが、追加学習にはコストや運用負荷が伴います。近年では、モデル自体を変更することなく、推論時にモデル内部に直接介入して生成を制御する「Activation Steering」と呼ばれる手法が注目されています。一方で、文章の自然さを維持しながら、生成を効果的に制御することが課題となっています。

リコーはこの課題に対し、LLM内部の特徴分布を情報理論に基づいて解析し、理論的に介入パラメーター値を最適化することで、目的とする応答傾向へ効果的に誘導する新たな手法を考案しました。さらに、本手法では、危険な入力を個別に検知・遮断するのではなく、LLM内部の知識表現そのものを継続的に安全な方向へ誘導するため、安全対策の回避を試みる巧妙な入力に対しても不適切な応答が生成されにくくなり、Jailbreakへの耐性向上が期待できます。

LLM内部の特徴を分析し、適切な介入を行うことで、文章の自然さを維持しながら、知識や回答傾向を目的に応じた方向へ制御します。

推論時に小さな制御ベクトルを適用することで、LLM自体に追加学習を行うことなく生成を制御できます。これにより、追加学習に伴うコストや運用負荷を抑えた導入が可能です。

本論文における実験を通じて、文章としての自然さを維持しながら、LLMの生成内容を目的に応じた方向へ制御できることを確認しました。

本技術は、リコーが自社開発するセーフガードモデルとの組み合わせも想定しています。生成過程を制御する本技術と、入出力を監視するセーフガードモデルを組み合わせることで、多層的な安全対策への活用を目指します。

リコーは今後、本技術とセーフガードモデルを組み合わせた実証実験を進めるとともに、オンプレミス環境向けLLMソリューションや企業向け生成AIシステムへの適用を検討していきます。

今後も、これまで培ってきたAI分野における研究開発基盤を活かし、生成AIの安全性・信頼性を高める技術の研究開発を進めていきます。これにより、お客様の業種や業務に応じたAIサービスのさらなる安全性・信頼性の向上を図り、“はたらく”に寄り添った価値創出に貢献してまいります。