言語処理における難関国際会議EMNLP2026にNTT研究所から4件の論文が採択

2026年10月24日～10月29日に、ハンガリーのブダペストにて開催される、言語処理における難関国際会議EMNLP2026 （The 2026 Conference on Empirical Methods in Natural Language Processing）（https://2026.emnlp.org/）に、NTTの研究所より提出された2本の論文がFindingとして、1本がIndustryTrackとして採択されました。またほかにも大学との共著で1件採択されています。EMNLPは実証的・データ駆動型アプローチによる研究が多く発表されることを特徴としており、近年は生成AI、LLMのプロンプト技術、ハルシネーション抑制など、最先端のAI研究が多数発表されています。

なお、所属としてそれぞれ略称で記載されている研究所名は以下の通りです。（所属は投稿時点）
社会研：社会情報研究所
人間研：人間情報研究所
CD研：コンピュータ＆データサイエンス研究所
NS研：ネットワークサービスシステム研究所

■Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
（ダミーバックドアを用いた防御：生成LLMにおける共有内部メカニズムを利用した未知バックドアの除去）

岩花 一輝（研究員）（社会研）、松林 勝（研究主任）（社会研）、小山 卓麻（研究主任）（社会研）、芝原 俊樹（主任研究員）（社会研）、大湊 健一郎（主任研究員）（社会研）、伊東 燦（東北大学）

第三者から入手したLLMには、特定のトリガが入力された場合にのみ悪意のある出力を生成するバックドアが仕込まれている可能性があります。防御側は攻撃者が用いるトリガの内容や形態を事前に把握できないため、効果的な対策が難しいという課題がありました。本研究では、異なる2つのバックドアがLLMの内部状態を共有するという事実に着目し、防御者が制御可能なバックドア（ダミーバックドア）を埋め込み、除去することで、LLM本来の応答性能を維持しながら、未知のバックドアの影響も除去することに成功しました。本成果により、第三者から提供されるLLMによる危険応答・暴走を抑制し、安全なAIサービス実現への貢献が期待できます。

■Conservative Inference-Time Tuning with an Improvement Guarantee
（精度改善保証つきの保守的な推論時チューニング）

千々和 大輝（准特別研究員）（CD研）、長谷川 拓（主任研究員）（人間研）

大規模言語モデル（LLM）は、特定の分野やタスクへの特化学習により専門的な能力を獲得できますが、新たな基盤モデルが登場するたびにその再学習が必要となり、計算コストやデータ管理コストが課題となっています。そこで本研究では、再学習を行わずに、推論時の処理のみで新たな基盤モデルに特化学習効果を付与できる、精度保証つきの技術を確立しました。既存技術では精度保証がないため大きく精度劣化する場合がありましたが、本技術ではそのような精度劣化を抑えられることが理論的に保証されています。この原理をさらに発展させることで、基盤モデルの進化に合わせて特化モデルを再学習なしで更新できる、効率的かつ信頼性の高いAI技術の実現が期待できます。

■What Else Needs Fixing? Exploring Cost-Effective Test-Time Compute for Revision Propagation in Artifacts Generated Through Conversation
（他にどこを修正する？会話の中で生まれた生成物の修正伝播における費用対効果の高いTest-Time Computeの探索）

菊田 大輔（研究員）（NS研）

人とLLMの共同作業では、対話を通じて生成物の作成と修正を繰り返します。このとき、人は修正したい箇所のみを指示することが多いため、LLMには、人に代わって修正が他の箇所に与える影響を推定し、生成物全体に修正を伝播させる能力が求められます。本研究では、対話を通じて生成された構造化データを対象に、このようなLLMの修正伝播の能力を評価するベンチマークを提案しました。さらに、複数回の回答により精度を高めるTest-Time Compute手法について、様々な条件で精度とコストを比較し、コストを抑えながら修正伝播の抜け漏れを減らすために効果的な手法と回答数の選び方を示しました。