2022年11月28日~12月9日(米国太平洋時間)にオンライン・オンサイトハイブリッド形式にて開催される、AI・機械学習分野の国際会議NeurIPS(Neural Information
Processing Systems)2022にて、NTTの研究所およびNTT Research, Inc.より提出された7件の論文が採択されました。NeurIPS
2022の論文採択率は25.6%(10411件の応募から2672件採択)と、難関国際会議として知られています。また、関連ワークショップに4件が採択されました。
(以下、NTT人間情報研究所は人間研、NTTコンピュータ&データサイエンス研究所はCD研、NTTコミュニケーション科学基礎研究所はCS研と略します)
- ■Symplectic Spectrum Gaussian Processes: Learning Hamiltonians
from Noisy and Sparse Data
- 田中 佑典 研究主任(CS研)、岩田 具治 特別研究員(CS研)、上田 修功フェロー(CS研)
ハミルトン力学の理論を組み込んだガウス過程モデルと学習アルゴリズムを提案しました。ノイジーかつスパースなデータから、エネルギーの保存・散逸則に従う物理現象を高精度に予測できることを示しました。
- ■Sharing Knowledge for Meta-learning with Feature Descriptions
- 岩田 具治 特別研究員(CS研)、熊谷 充敏 特別研究員(CD研)
様々な課題から、言語情報を活用して効果的にモデルを学習する方法を学習するメタ学習法を提案しました。これにより、新しい課題において少数の学習データでも高い予測性能を達成することを可能にしました。
- ■Few-shot Learning for Feature Selection with Hilbert-Schmidt Independence Criterion
- 熊谷 充敏 特別研究員(CD研)、岩田 具治 特別研究員(CS研)、井田 安俊 特別研究員(CD研)、藤原 靖宏 特別研究員(CS研)
教師あり特徴選択のための少量データ学習法を提案しました。少量データからの特徴選択は重要な研究課題の1つです。本手法では、関連するデータセットの情報を活用することで、少量データでの特徴選択性能を向上させます。
- ■Generalization Analysis on Learning with a Concurrent Verifier
-
西野 正彬 特別研究員(CS研)、中村 健吾 研究員(CS研)、安田 宜仁主幹研究員(CS研)
機械学習モデルを用いた予測結果が与えられた仕様を満たすことを保証できる、検証器つき機械学習モデルを提案するとともに、検証器を用いることでモデルの汎化性能がどのように変化するかを理論的に解析しました。
- ■Meta-ticket: Finding optimal subnetworks for few-shot learning within randomly initialized neural networks
-
千々和 大輝 研究員(CD研)、山口 真弥 研究員(CD研)、熊谷 充敏 特別研究員(CD研)、井田 安俊 特別研究員(CD研)
深層学習において、少量の訓練データにニューラルネットワーク(NN)が過学習してしまう課題が知られています。本研究では枝刈り最適化によるメタ学習技術を考案し、過学習を抑制可能なNN構造を自動的に発見することに成功しました。また従来のメタ学習技術に比べてドメイン汎化性能が高くなることを確認しました。
- ■Fast Bayesian Estimation of Point Process Intensity as Function of Covariates
-
金 秀明 主任研究員(人間研)、浅見 太一主任研究員(人間研)、戸田 浩之(人間研*)
*現在、横浜市立大学教授
イベントの発生時刻/位置を確率的に予測するための技術「ガウスコックス過程」において、イベントの発生確率と共変量(原因)の非線形な関係性をデータから学習できる新たな技術を提案しました。共変量とイベントの関係性(例:天候と車両事故の関係)に基づき、未来のイベント発生を精度よく予測することができます。
また、NTT Research, Inc.よりNeurIPSに1件、関連ワークショップに4件採択されました。
- ■Overparameterization from Computational Constraints
-
Sanjam Garg, Somesh Jha, Saeed Mahloujifar, Mohammad Mahmoody, Mingyuan Wang
(NeurIPS 2022)
- ■What shapes the loss landscape of self-supervised learning?
-
Liu Ziyin, Ekdeep Singh Lubana, Masahito Ueda, Hidenori Tanaka
(NeurIPS 2022 Workshop: Self-Supervised Learning - Theory and Practice)
- ■Geometric Considerations for Normalization Layers in Equivariant Neural Networks
-
Max Aalto, Ekdeep S Lubana, Hidenori Tanaka
(NeurIPS 2022 Workshop: AI for Accelerated Materials Design)
- ■Mechanistic Lens on Mode Connectivity
-
Ekdeep Singh Lubana, Eric J Bigelow, Robert Dick, David Krueger, Hidenori Tanaka
(NeurIPS 2022 Workshop: Distribution Shifts Connecting Methods and Applications)
- ■Training physical networks like neural networks: deep physical neural networks
-
Logan G Wright, Tatsuhiro Onodera, Martin M Stein, Tianyu Wang, Darren T Schachter, Zoey Hu, Peter L McMahon
(NeurIPS 2022 Workshop: Machine Learning and the Physical Sciences)
NTTのR&Dは、環境にやさしい持続的な成長、多様性に寛容な個と全体の最適化を狙う未来のコミュニケーション基盤であるIOWN(Innovative Optical and Wireless Network)構想を掲げ、その実現に向けた研究開発を進めてまいります。また、それとともに、今後も研究テーマの多様性・継続性を大切に、NTTグループの各事業会社をはじめ、さまざまな分野の産業界の方々と一緒に、さまざまな社会的課題を解決し、人々が意識することなく技術の恩恵を受けることができるスマートな世界の実現をめざし、世界を変革する技術の研究開発を続けていきます。