2023年12月10~16日(米国太平洋時間)に開催される、AI・機械学習分野の国際会議NeurIPS(Neural Information Processing Systems)2023にて、NTTの研究所およびNTT Research, Inc.より提出された6件の論文が採択されました。NeurIPS 2023の論文採択率は26.1%(論文投稿数:12,343件)と、難関国際会議として知られています。
NTTの研究所より提出された採択論文は以下の4件となります。
(以下、NTTネットワークサービスシステム研究所はNS研、NTT人間情報研究所は人間研、NTTコンピュータ&データサイエンス研究所はCD研、NTT社会情報研究所は社会研、NTTコミュニケーション科学基礎研究所はCS研と略します)
- ■Deep Learning with Kernels through RKHM and the Perron-Frobenius Operator
- 橋本 悠香 特別研究員(NS研・CS研)、池田 正弘 研究員(理研)、Hachem Kadri准教授(Marseille大)
- カーネル深層学習にC*環と作用素論の概念を導入し、データの構成要素間の相互作用を考慮した解析の枠組みを提案しました。理論解析により、汎化誤差の出力データ次元への依存性が既存の結果に比べて小さくなることや、良性過学習との関連性を示しました。
- ■Regularizing Neural Networks with Meta-Learning Generative Models
- 山口 真弥 研究員(CD 研)、千々和 大輝 研究員(CD 研)、金井 関利 研究主任(CD 研)、熊谷 充敏 特別研究員(CD 研/社会研)、鹿島久嗣 教授(京大))
- ナイーブに学習した生成モデルを用いる場合、生成的データ拡張は逆に訓練モデルの性能を低下させる弱点が知られていました。本研究では、生成的データ拡張における学習方法とサンプリング方法を一貫性損失とメタ学習によって改良し、性能低下の弱点を克服するとともに高い分類精度が実現できることを示しました。
- ■Survival Permanental Processes for Survival Analysis with Time-Varying Covariates
- 金 秀明 准特別研究員(人間研)
- 本研究では、時間変動する共変量の系列データに基づき、イベント発生期間と共変量の非線形な関係性を分析するベイズ的生存分析手法を提案しました。大規模な共変量の系列データにおいて、高精度かつ従来手法に比べて計算時間が飛躍的に短縮されることを示しました。
- ■Beyond Exponential Graph: Communication-Efficient Topologies for Decentralized Learning via Finite-time Convergence
- 竹澤 祐貴、佐藤 竜馬、包 含(京大/沖縄科技大)、丹羽 健太 特別研究員(CS研)、山田 誠 准教授(沖縄科技大)
- 任意のノード数と最大次数に対して、有限回の通信で全ノードが同じ値に収束させることができる(k+1)進数グラフ (Base-(k+1) Graph)を提案します。(k+1)進数グラフは、Decentralized SGD (DSGD)等の分散型のパラメータ学習アルゴリズムに対して、少ない通信コストで高速な収束を実現することを理論的、実験的に示しました。
また、NTT Research, Inc.より提出された採択論文は以下の2件となります。
- ■Compositional Abilities Emerge Multiplicatively: Exploring Diffusion Models on a Synthetic Task
M. Okawa*, E.S. Lubana*, R.P. Dick, Hidenori Tanaka (NTT Research PHI Lab)
- ■CORNN: Convex optimization of recurrent neural networks for rapid inference of neural dynamics
F. Dinc*, A. Shai*, M. Schnitzer, Hidenori Tanaka (NTT Research PHI Lab)
NTTのR&Dは、環境にやさしい持続的な成長、多様性に寛容な個と全体の最適化を狙う未来のコミュニケーション基盤であるIOWN(Innovative Optical and Wireless Network)構想を掲げ、その実現に向けた研究開発を進めてまいります。また、それとともに、今後も研究テーマの多様性・継続性を大切に、NTTグループの各事業会社をはじめ、さまざまな分野の産業界の方々と一緒に、さまざまな社会的課題を解決し、人々が意識することなく技術の恩恵を受けることができるスマートな世界の実現をめざし、世界を変革する技術の研究開発を続けていきます。