満を持してデビュー！大規模言語モデル(LLM)「tsuzumi」記者会見速報

2023年11月 1日

テクノロジー

NTTは、独自に開発した日本語版大規模言語モデル（LLM^※1）「tsuzumi^※2」を、業務効率化やDX推進をめざす企業を対象に、2024年3月から提供開始することを発表しました。今回は2023年11月1日に行われた記者会見の内容をお伝えします。
　すでに、本モデルはメディカル分野やコンタクトセンタ分野において取組みが始まっており、業務効率化やEX／CXの向上に貢献しています。
　記者会見で代表取締役社長島田明は「サステナビリティを追求していくにあたり、電力消費をいかに落としていくかといった、世の中の社会的な課題を解決していくことが重要。『tsuzumi』は、まさにその社会的課題を解決していく位置づけである」と強調しました。
　また、執行役員研究企画部門長木下真吾は「LLMの大規模化により、学習には膨大なエネルギーが必要。『tsuzumi』は超軽量の特長を活かし、LLM運用時に必要となる学習や推論コストの低減を追求していきたい」と述べました。

^※1大規模言語モデル（LLM）：大量のテキストデータを使って学習された言語モデルで、言語の理解や文章の生成に優れた能力をもつもの。

^※2tsuzumi：「tsuzumi」は商標出願中です。日本語の処理性能を重視し、産業の発展を牽引する言語モデル技術への期待を、雅楽の合奏の開始の切っ掛けを担う鼓に寄せました。

1) 「tsuzumi」とは
2) 「tsuzumi」の特長
3) 「tsuzumi」の実例・業界特化領域
4) サステナビリティ貢献・社会貢献について
5) 「NTT R&D FORUM 2023 ― IOWN ACCELERATION」のご案内

1) 「tsuzumi」とは

NTTは40年以上にわたって、人間が日常的に使う自然言語をコンピュータに分析・処理させる技術の研究開発に取り組んできました。NTT研究所の高精度な言語処理技術を活かして、日本の自然言語処理研究をリードしています。

近年、ChatGPTを始めとするLLMに注目が集まっています。その応用範囲は急速に広がっており、医療・金融・保険・コールセンターなどさまざまな領域で、入力支援・音声認識・会話内容のテキスト化・自動応答などに活用されています。

画像：1) 「tsuzumi」とは

LLMの活用により特定の業務プロセスの効率化が期待できる一方で、現在のLLMは学習させるのに大量の電力を必要とし、GPT-3規模のLLMでは1回の学習で原発1基1時間分の電力量が必要^※4とも言われています。また稼働させるのにも大規模なGPUクラスタを必要とし、業界に特化するためのチューニングや推論にかかるコストも膨大であることから、サステナビリティおよびLLMの学習環境を準備するためのコスト削減が課題となっています。

^※4パラメタ数が175BのGPT-3規模の学習に約1300MWhであり⁽¹⁾、原発1基1時間分の電力量（約1000MWh）と同規模
(1) https://gizmodo.com/chatgpt-ai-openai-carbon-emissions-stanford-report-1850288635 当該ページを別ウィンドウで開きます

画像：1) 「tsuzumi」とは

NTTはこうした課題を解決するためにLLMの研究開発を進め、軽量でありながら世界トップレベルの日本語処理性能を持つ大規模言語モデル「tsuzumi」を2024年3月に提供開始することを発表しました。商用開始に向けて、メディカル分野の京都大学医学部附属病院様や、コンタクトセンタ分野の東京海上日動火災保険株式会社様とトライアルを開始しています。

画像：1) 「tsuzumi」とは

2) 「tsuzumi」の特長

「tsuzumi」の特長の一つとして、「モデルの軽量化」が挙げられます。NTTが開発した「tsuzumi」は、パラメタサイズが6億（0.6B）の超軽量版と70億（7B）の軽量版の2種類あり、Open AI社「GPT-3」の1750億（175B）と比べて、それぞれ300分の1サイズ、25分の1サイズと軽量化を図っています。軽量版は1GPU、超軽量版はCPUで高速に推論できるサイズにすることで、学習・推論・チューニングに必要となるコストを低減することが可能です。

画像：2) 「tsuzumi」の特長

「言語処理能力の高さ」も「tsuzumi」が持つ特長の一つです。NTT研究所には40年以上に及ぶ自然言語処理研究の蓄積があり、AI分野の研究力は世界トップレベルです。AI分野論文数ランキング（2022）^※5では世界12位、国内1位となりました。他にも、自然言語処理分野のトップカンファレンスの論文採択数国内企業1位、言語処理学会における優秀賞受賞件数1位（直近10年間）と、長年実績をあげ続けています。

^※5Top 100Global Companies Leading in AI Research in 2022
URL：https://thundermark.medium.com/ai-research-rankings-2022-sputnik-moment-for-china-64b693386a4 当該ページを別ウィンドウで開きます

LLMを利用する際、新しい知識を追加で学習させようとした場合には膨大な数のパラメタすべてを再学習させると、計算にかかる学習コストが大きくなってしまいます。そこで、「tsuzumi」は利用ユーザーやシーンに応じたアダプタを導入。たとえば特定の業界に特有の言語表現や知識に対応するチューニングを、少ない追加学習で実現できます。

画像：2) 「tsuzumi」の特長

また、言語＋視覚のモーダル拡張により、プレゼンテーションスライドに含まれる図やグラフを正しく理解できるマルチモーダルについても対応予定です。例えば請求書やマニュアルなどの画像付き文書を検索・スクリーニングする業務や、ホームページに掲載されている商品説明や料金プラン説明をAIで評価する場合など、ヒトの認知が必要な業務に活用することが可能です。

さらに言語＋視覚＋聴覚のモーダル拡張により、言語による質問に加え、質問者の様子を踏まえた回答を生成可能になります。例えば子どもが元気のない声で話しかけると、「元気のない状況」をそのまま理解し、これに応じて温かみのある優しい声をかけるなどの動作を実現できるようになります。カウンセリングやコールセンターなど、利用者のさまざまな状況に応じた自動応答への活用が期待できます。また、ユーザーの位置情報やエリアの状況を利用して、カーナビやスマホナビなどのコンシェルジュ業務への適用も可能です。

3) 「tsuzumi」の実例・業界特化領域

メディカル領域

電子カルテの構造化を通じてカルテ情報の活用を可能にしました。さらに構造化された電子カルテデータにより、投薬による効果や副作用などの医療データの分析が容易となり、医薬品開発の期間短縮や費用削減に貢献し、効果的な医薬品開発にもつながると考えられています。

画像：3) 「tsuzumi」の実例・業界特化領域

顧客サポート領域

損害保険事故対応において年間80万時間のアフターコールワークを50%以上削減することをめざしています。

画像：3) 「tsuzumi」の実例・業界特化領域

2024年3月からの商用サービス提供については、法人向けにNTTグループ各社が販売。システムインテグレーションを含めたソリューションの形態で提供も検討しており、ニーズに合わせてカスタマイズを行い提供していく予定です。
　商用サービス提供後もチューニング機能の充実やマルチモーダルの実装についても順次展開し、サイバーセキュリティ分野への応用、自律的に連携し議論するAIコンステレーション等の開発を進めていきます。

画像：3) 「tsuzumi」の実例・業界特化領域

4) サステナビリティ貢献・社会貢献について

「tsuzumi」の根底にあるのは社会課題の解決です。省電力・エコ化を意識し、サステナビリティに貢献していきます。
　NTTは新たな価値創造、お客さま体験の高度化に向けた取り組みをより一層加速してまいります。
　今後の「tsuzumi」のサービス展開をご期待ください。

5) 「NTT R&D FORUM 2023 ― IOWN ACCELERATION」のご案内

画像：5) 「NTT R&D FORUM 2023 ― IOWN ACCELERATION」のご案内

2023年11月14日（火）～11月17日（金）の期間で開催する「NTT R&D FORUM 2023 ― IOWN ACCELERATION」にて「tsuzumi」を展示します。
　また、今年3月にサービスを開始したIOWN（Innovative Optical and Wireless Network）の具体的なサービス・システム、ユースケース、要素技術やNTTグループR&Dの最新成果について、講演や展示を通じて分かりやすくご紹介してまいります。
　どなたも無料でご参加いただけます。（事前登録必要）
　https://www.rd.ntt/forum/2023/ 当該ページを別ウィンドウで開きます