広域空間での動きセンシングによるハンドボールVR体験の実証実験について

1．実証実験の背景と目的

近年、インターネットの普及やスマートフォン、タブレット、VR機器等の様々なデバイスの登場により、時間や場所を選ぶことなくライブやオンデマンドでスポーツ観戦を楽しめるようになってきており、観戦スタイルの多様化が進んでいます。今後は、選手のプレーの様子を間近で観戦できるような、更にリアルとバーチャルを組み合わせた新しいスポーツ観戦が期待されます。
　一方、熊本県内においては、2019年に開催予定の国際スポーツ大会（ラグビーワールドカップ2019、2019女子ハンドボール世界選手権大会）を控え、大会情報の発信や機運醸成、大会を通じたスポーツ振興のほか、大会を契機とした国内外への熊本の魅力発信、観光客などの交流人口の増加など、地域振興への期待が高まっています。
　そのような中、VRやARによる新たなスポーツ観戦やトレーニング等での利用を狙い、実空間中でダイナミックに変化する物体の情報を取得して再構成する技術の研究開発を進めているNTT、地域活性化に取り組んできた実績をもつNTT西日本と熊本県との間で、各社の強みを活かして実証実験を実施することとなりました。

2．実施概要

本実証実験は、熊本県内のオムロン ハンドボール部「ピンディーズ」（以下、オムロン）の協力を得て、NTT（メディアインテリジェンス研究所）が研究開発している「ダイナミックフィールド3次元動きセンシング技術」により、ハンドボールコートに設置した8台のカメラから試合中の全選手の動き情報を解析し、3次元仮想空間を再構成することで、コート内選手になりきった位置で、躍動感ある選手の動きを3次元360度映像で体験できます。

図1.VR体験イメージ

「ダイナミックフィールド3次元動きセンシング技術」の概要

広い実空間を複数台のカメラで撮影し、空間中にある複数人物のダイナミックな3次元的な動き情報を高精度に取得します。NTT独自の深層学習を活用した骨格推定と3次元動き解析により、広い空間内で複数人物の交差がある等の複雑なシーンであっても、各人の3次元的な動作を精度高く解析できます。
　従来の映画の製作等で利用されるモーションキャプチャーでは対象が特定の環境と人物に限定されていましたが、本技術により、広い空間の中で複数人が動き回る場面でも、各人物の3次元動きを取得することが可能となります。

ポイント<1>　骨格推定

人物のシルエットも同時に推論する独自の深層学習により、遮蔽により人体の一部が撮影されていない場合であっても映像から人物の骨格（関節位置）を精度高く推定します。

ポイント<2>　3次元動き解析

各カメラ映像から得られる2次元の関節の動き情報から、各カメラのレンズ歪を補正しつつ統合して、3次元的に正確な動き情報を解析します。

図2. ダイナミックフィールド3次元動きセンシング技術の概要

図3.3次元動き取得と仮想空間再構成の例

実施期間

2019年5月中旬～2019年12月（予定）

熊本県内における女子ハンドボールイベント実施日のみ

実施対象

イオンモール熊本（1Fイベントスクエア）、熊本県内の体育施設等

3．実証実験の協力体制

（1）NTT

• 実証実験に必要な機材等の手配および実験用データ取得
• 取得データからの3次元動きの取得と高精細な仮想空間の再構成および評価等

（2）NTT西日本

• 実証実験に必要な環境整備および本視聴スタイルのサービス性評価

（3）熊本県

• 実証実験用データ取得支援および評価会場の手配

<実証実験協力>オムロン

• 実証実験用の映像モデル協力

4．今後の展開について

本実験の検証で得られる知見を活かし、動きの取得の精度向上や自動化を進め、ICTを用いた次世代のスポーツ観戦やエンターテインメント鑑賞等に関する取り組みをより一層加速するとともに、2019年に熊本県で開催予定の国際スポーツ大会での新たな取り組みや観光振興など、おもてなしの取り組みを強化してまいります。

【参考】

熊本県およびNTT西日本では、2019年の国際スポーツ大会の機運醸成に向けて、ICTを活用したスポーツ観戦イベントの盛り上げ施策として、「なりきりAR！（くまモン バージョン）」や「ARフォトスポット」もあわせて実施いたします。

1．「なりきりAR！（くまモン バージョン）」の概要

ARデバイスならびにAIを活用して、より低コストかつより高速に人間の動きを3Dデータ化し、あらゆる視点からの3Dアバターをリアルタイムに生成する技術を用いて、2台のカメラの前で体験者が動くと、ディスプレイ上のくまモンが同じ動きをする「なりきりAR！（くまモン バージョン）」を実施します。
　体験者の動きから3次元の姿勢推定を行い、その結果を3Dのくまモンに反映することで体験者と同じ動きをリアルタイムに映像化いたします。

【「なりきりAR！（くまモン バージョン）」利用イメージ】

2．「ARフォトスポット（フォトサークル）」の概要

AR技術を用いて、国際スポーツを応援するくまモン（バーチャル）と一緒に並んで写真撮影ができ、スマートフォン等にダウンロード^※2できる「ARフォトスポット（フォトサークル）」を実施します。

【ARフォトスポット（フォトサークル）利用イメージ】

^※2：写真のダウンロードにかかる通信料はお客さま負担となります。