2025年4月22日
お知らせ
深層学習分野の難関国際会議ICLRにNTTから4件採択
2025年4月24日～4月28日にシンガポールにて開催される、深層学習分野の国際会議ICLR（International Conference on Learning Representations）2025に、NTTの研究所より提出された4件の論文が採択されました。ICLR2025の論文採択率は32.08%（投稿数 約11,500件）と、難関国際会議として知られており、これまでAI技術の基礎的な成果やコンセプトが発表されるなど、現在のAIの発展に大きく貢献している国際会議です。
なお、所属としてそれぞれ略称で書かれている研究所名は、以下の通りです。
人間研：人間情報研究所
社会研：社会情報研究所
CD研：コンピュータ＆データサイエンス研究所
CS研：コミュニケーション科学基礎研究所
Test-time Adaptation for Regression by Subspace Alignment （部分空間の整合による回帰モデルのテスト時適応）
- 足立 一樹 研究員（CD研）、山口 真弥 准特別研究員（CD研）、熊谷 充敏 特別研究員（CD研／社会研）、濱上 知樹 教授（横浜国立大学）
- 本研究では、学習済みの深層学習モデルを教師なしデータのみを用いて運用環境に適応させるテスト時適応手法を回帰モデルにおいて初めて提案しました。回帰はセンサデータや時系列の予測等、幅広い実応用がありますが、従来のテスト時適応手法はほとんどが分類を対象としており、回帰に直接適用するのも困難でした。本研究では、深層学習モデルの特徴ベクトルの部分空間に着目し、従来の分類向けのテスト時適応手法とは異なるアプローチを取ることで回帰モデルのテスト時適応を初めて実現しました。
Analysis of Linear Mode Connectivity via Permutation-Based Weight Matching: With Insights into Other Permutation Search Methods （パーミュテーション対称性に基づく重みマッチングによる線形モード接続性の解析）
- 伊東 燦 研究員（社会研）、山田 真徳 主任研究員（社会研）、熊谷 充敏 特別研究員（CD 研/社会研）
- 本研究では、AIモデル同士の融合を目指したモデルマージ技術において、モデルパラメータの特異値分解技術により、動作原理を明らかにしました。モデルマージの研究では、複数の手法の提案や動作原理の解明が進められており、本研究では、パラメータ空間の対称性を特徴とする「重みマッチングによるモデルマージ」を対象として、動作原理を明らかにすることに成功しました。さらに、どのような学習を事前に行うと、モデルマージ後の性能が向上するのかを解明しました。モデルマージ技術は、個人情報など機微な情報を含む学習データを事前にお互いで共有することなくAIモデルを統合できるため、安心・安全なAI社会の実現へ寄与する技術として期待されます。
Positive-Unlabeled Diffusion Models for Preventing Sensitive Data Generation （不適切な画像生成を抑制するための例示に基づく拡散モデル学習技術）
- 高橋 大志 研究主任（CS研/CD研)、岩田 具治 上席特別研究員（CS研)、熊谷 充敏 特別研究員（CD研/社会研)、山中 友貴 研究主任（社会研）、山下 智也 研究員 (社会研)
- 拡散モデルは高品質な画像を生成できる技術として注目されていますが、利用者が望まない不適切な画像 (個人情報を含む画像や有害なコンテンツ、著作権で保護された画像など) を生成する問題があります。その一因として、大量の学習データにそのような画像が含まれていることが挙げられます。しかし、学習データに含まれる全ての不適切な画像を取り除くのは現実的ではありません。本研究では、学習データに加えて「少量の不適切な画像」を用いて、拡散モデルがこれらの画像を生成しないように学習する手法を提案しました。本成果により、生成AIによる個人情報の漏洩や、倫理的・法的に問題のある画像生成の抑制が可能となり、安全なコンテンツ生成への貢献が期待できます。
Wavelet-based Positional Representation for Long Context （ウェーブレット位置符号化 ）
- 岡 佑依 研究員（人間研）、長谷川 拓 研究主任（人間研）、西田 京介 上席特別研究員（人間研）、斎藤 邦子 主席研究員（人間研）
- 回転行列に基づく位置符号化RoPEがウェーブレット変換の一種であることを証明し、ウェーブレット変換の特性を活かした理論的基盤とウェーブレット変換に基づいた新しい位置符号化を提案しました。本技術は、性能を下げることなくモデルが扱える長さを超えた長文を生成することが可能です。
NTTのR&Dは、環境にやさしい持続的な成長、多様性に寛容な個と全体の最適化を狙う未来のコミュニケーション基盤であるIOWN（Innovative Optical and Wireless Network）構想を掲げ、その実現に向けた研究開発を進めてまいります。また、それとともに、今後も研究テーマの多様性・継続性を大切に、NTTグループの各事業会社をはじめ、さまざまな分野の産業界の方々と一緒に、さまざまな社会的課題を解決し、人々が意識することなく技術の恩恵を受けることができるスマートな世界の実現をめざし、世界を変革する技術の研究開発を続けていきます。
トピックスに記載している情報は、発表日時点のものです。
現時点では、発表日時点での情報と異なる場合がありますので、あらかじめご了承いただくとともに、ご注意をお願いいたします。
NTT STORY
NTTとともに未来を考えるWEBメディアです。
