体操採点支援技術と知財戦略

抄 録

　富士通は、国際体操連盟・日本体操協会との連携により、体操競技における正確かつ公平な 採点の実現を目指して、採点支援技術の開発に取り組んでいる。採点支援技術は、LiDAR （Light Detection and Ranging）方式の3Dレーザセンサーによって取得された3次元点群から、Deep Learningと幾何モデルフィッティングにより選手の3D骨格座標を求める3Dセンシング技術と、

3D骨格座標の時系列情報から実施技の特定と減点判定を行う技認識技術で構成される。本解説 では、体操競技における採点手法と正確な採点実施の難しさを説明し、課題と対策をまとめた後、

採点支援システムの概要を示す。次に、高精度な3D骨格座標認識を可能とし各種スポーツに適 用可能な3Dセンシング技術と、体操採点ノウハウを取り込んだ技認識技術へのAI 技術の取り こみを説明し、最後に、実用化への取り組みと知財戦略の一部を紹介する。

桝井 昇一・丹下 聖子・手塚 耕一・矢吹 彰彦・佐々木 和雄

体操採点支援技術と知財戦略

1. はじめに

　国際体操連盟（FIG: Fédération Internationale de Gymnastique）は、2019年8月23日に、マナグア

（ニカラグア）における執行委員会会合にて、富士 通が開発した採点支援システムをあん馬、つり輪、

男女跳馬の 4種目で正式に採用することを承認し、

2019年10月にシュツットガルトで開催される世 界選手権から使用を開始した^（1）。また、この世界選 手権に先立つ 10月2日には、国際体操連盟と富士 通との共同で採点支援システムの正式採用に関する プレス発表も実施された。これまでにニューヨー ク・タイムズ、ワシントン・ポスト、ウォールスト リート・ジャーナルをはじめとする国内外650以上 のメディアが、採点支援システムに関するニュース を取り上げ、スポーツにおける新たな歴史の幕開け に対して大きな期待が寄せられた。

　スポーツにおけるICTの活用の中でも、人やモノ の認識技術としては、テニスやサッカー等における ボールの接地・通過点の判定システム（ホークア イ・システム）や、サッカーやバスケットボールに おけるアスリートの2次元の動きを解析するトラッ キングシステム等が知られている。体操の採点支援 システムでは、マーカーやセンサーを装着せずに、

3Dレーザセンサーを使ってアスリートの 3次元の

動きを認識するIoT （Internet of Things）/AI技術に、

体操採点ノウハウを結集させたデジタル分野の先進 事例であり、スポーツにおける国際機関との共創に よる取り組みとして過去に例を見ないものとして位 置付けできる。

　国際体操連盟は 1881年ヨーロッパ体操連盟とし て 設 立 さ れ、 国 際 オ リ ン ピ ッ ク 委 員 会（IOC:

International Olympic Committee）より13年も古 い歴史をもっている。加盟国は148ヶ国あり、傘下 に①男子体操競技、②女子体操競技、③新体操、④ トランポリン、⑤エアロビック、 ⑥アクロバット 体操、⑦一般体操、⑧パルクールの8競技を統括し ており、全競技人口として約6,000万人（日本は約 3万人）を有している。男女体操競技は、スプリン グ構造によりはずむ床などの器具の進化や、メダル 獲得のための高得点化への拍車により技が高速化・

複雑化し、審判員が判定に迷うケースが増加してお り、採点結果の正確性・公平性の担保が国際体操連 盟での長年の課題となっているものの、いまだ解決 できていない。

　一方日本政府は、スポーツ庁を中心として国際ス ポーツイベントを契機にスポーツ市場を拡大（2012 年時点の 5.5兆円を 2025年に 15.2兆円まで引き上 げる。米国は既に52兆円の市場を持っている）し、

高齢化社会にむけた健康増進策や街づくりなどのレ

は、終末技を含めて 4つの技のグループに分類さ れ、各グループに属する技の実施に 0.5の加点が与 えられるため、技認識の正確さはDスコアに大きな 影響を与える。

　Eスコアは、10点を満点として、美しさ、実施、

技術、構成上の欠点による減点を合計したものとな る。減点の対象となるのは、着地における完璧な姿 勢からの逸脱、演技における膝・腕・体等のまがり や脚の開き、静止技における完璧な姿勢からの逸脱 などであり、逸脱の量やまがり角度により、減点の 量が決まっている。減点は演技の難度とは関係な く、0.1単位で算出される。

　現在、Dスコア、Eスコアの採点は、それぞれ、

D審判、E審判によって独立に行われている。D審 判は、選手の実施した技を、速記記号に相当するシ ンボルマーク（技記号）を用いて Dスコアシートに 記録し、演技終了後にシートに記載された結果に加 点項目を加えて Dスコアを決定する。E審判も同様 な目視・手作業によってEスコアを算出している。

●体操採点における課題と対策

　国際審判資格を持った審判員は高い技能を備えて いるが、採点の基準を記載した採点規則が、人が審 判することを前提とするために後述するあいまいさ を元来持っていることや、採点規則に減点要素とし て記載されている関節の理想からのまがり角度を人 が目視で正確に認識することが不可能であることか ら、採点は経験に頼らざるをえず、正確性・公平性 の担保には本質的な困難さが存在する。図1では採 点規則の腕・脚・体のまがりに対する実施減点の表 記のあいまいさ（「まっすぐ」「わずかにまがる」「明 らかにまがる」など）を示しており、この課題に対 して、後述する 3Dセンシング技術により出力され る 18関節の 3D座標位置によって決まる関節のま がり角度を定義し、採点規則をデジタル化すること によって、審判ごとの個性を排除する仕組みを示し ている。現在、富士通は国際体操連盟と協議しなが らICTで採点基準を解釈するための判定基準の明確 化を進めている。

　また、高得点化に向けた体操選手の競技力向上も 目覚ましく、これまでの最高であった I難度−男子 鉄棒におけるミヤチ（バーを越えながらの後方伸身 宙返り2回ひねり）と女子ゆかにおけるムーアズ（後 ガシー創出と国際スポーツ機関への日本人輩出によ

るスポーツ外交力の向上を目指している。ここで期 待されているのが、従来は「経験と勘」に頼ってい た判定・強化を「客観的なデータ」に基づいて実施 することであり、換言すればスポーツ向けにIoT/AI 技術を適用することとなる。我々は当該技術として 着目されている 3Dセンシング技術の体操競技への 適用を図り、スポーツICT市場展開におけるグロー バルトッププレーヤーとしての地位確立を目指して いる。

　本解説では、最初に体操競技における採点手法と その難しさを明らかにして、その課題と対策をまと め、富士通が開発を進める採点支援システムの概要 とその価値の展開を説明する。次に、採点支援に必 要な高い精度での3D骨格座標認識を可能とする3D センシング技術と、取得された 3D骨格座標の時系 列情報から実施技の特定と減点判断を行う技認識技 術の解説を行う。続いて、国際体操連盟との共創に よる実用化への取り組みを紹介し、その後3Dセン シング技術・技認識技術に関する知財の出願・活用 戦略を紹介する。

2. 体操採点における課題と対策

●体操採点の概要

　体操競技は、陸上競技や水泳競技のように時間や 距離を競う競技ではなく、演技（アスリートの動き）

の複雑さを採点してその高さを競う採点競技であ る。男子6種目（ゆか、あん馬、つり輪、跳馬、平 行棒、 鉄棒）、 女子4種目（ゆか、 跳馬、 平均台、

段違い平行棒）のそれぞれの演技に対して、技の難 度を示すD （Difficulty）スコア、演技の出来映えを 反映するE （Execution）スコア、および、演技領域 からの逸脱（線審が判定）や時間超過（計時審判が 判定）などによる減点の合計によって採点される^（2）

（3）（4）（5）。

　男子を例にとると、Dスコアは、採点規則に記載 された技の難度価値点（例えば、A難度であれば 0.1、B難度は 0.2というように、難度のランクが 1 レベル上がれば得点も 0.1ずつ増加する）に従って 演技された 10技の価値点の合計に加え、高難度の 技の連続実施による組合せ加点と、実施された技の グループの価値点の合計により求められる。各技

種目担当スーパーバイザー全員の業務を監督し、採 点に介入することが可能な上級審判員を除いても、

審判員の総数は 112名となっており、採点の正確 性・公平性担保のために審判員をこれ以上増やすこ とは有効ではない。UCLA （University of California, Los Angeles）の女子体操チームを 29年間率い、7 回の全国優勝を飾った最も著名な体操コーチの一人 であるValorie Kondos Field氏は、採点支援システ ムをロボットに例え、「体操の芸術性は、ロボット で測定可能な原理から客観的に評価できるので、ロ ボットの方がうまくやれるでしょう」と発言してい る^（6）。

　採点支援システム実現に向けて必要な技術要素 は、アスリートの動きの可視化である。ボクシング やバレーボール、テコンドーなどの競技で、IoT機 器（ウエアラブル・センサ）を活用した動きの可視 化が始まっており。例えば、テコンドーでは、防具 に付けられたセンサーを使用して実際の試合におけ る蹴りの有効性が判定されている。これらウエアラ ブル・センサーを活用した情報の可視化は、今後も 様々な場面での試行・導入が進むと予測されるが、

体操採点支援で要求される±1cmレベルの 3D骨格 座標精度を達成することはできない。

　アスリートの 3D骨格座標を 1cmレベルの高精度 にデジタル化する従来手法としては、モーション キャプチャーが主流であった。この技術は、関節近 傍の体表面に反射マーカーを取り付け、10台以上 方伸身2回宙返り 2回ひねり）−は、2019年の世

界選手権で、J難度−女子ゆかのバイルズII （後方 かかえ込み 2回宙返り 3回ひねり）−に塗り替えら れた。加えて、複雑で速い動きを持った高難度の新 技は増え続けており、全技数は 2017年版採点規則 で、男子6種目で 819、女子4種目で 549となって いる^{（2）（3）}。こうした状況の下、ロンドン2012オリ ンピックの体操男子団体総合のあん馬演技で、日本 チームの Dスコアが、監督からの問い合わせ（イン クエリ）により＋0.7改められた結果、最終順位が 4位から 2位に上がったことは、採点に関わる重大 な出来事として体操関係者に記憶されており、技の 高度化による競争が厳しさを増す中で、選手や観客 に対して納得できる採点結果を遅滞なく提示するた め、ICT化による採点支援システム実現への要求が 高まっている。

　国際体操連盟では高まる採点の品質向上への要求 に応えるため、オリンピックや世界選手権におい て、図2に示す体制で採点を行っている。種目毎に 種目担当スーパーバイザー（採点規則を策定する技 術委員会に所属する）が置かれ、配下に Dスコアを 決定する 2名の D審判、Eスコアを決定する 5名の E審判、Eスコアに問題を生じた際に対応する R審 判、線審、計時審判が割り当てられている。D審判 間でDスコアに矛盾が生じ、両者が調整しても採点 結果が決まらない場合（ブロッキング・スコア）に は、種目担当スーパーバイザーが最終決定を行う。

図1　採点規則におけるあいまいさのデジタル化対応

3. 採点支援システムの概要

　3Dセンシング・技認識技術による体操採点支援 とその価値の展開に関する模式図を図3に示す。反 射マーカーを使用せずにアスリートの3次元の動き を数値化するため、3Dレーザセンサーを使用して 人体表面の凹凸情報を表す深度画像を取得する。こ の深度画像から学習型骨格認識とフィッティングに より主要関節の 3D座標を高精度で求める。図1に 示したように、関節の 3D座標から肘や膝、背骨等 のまがり角度を正確に求めることができ、さらに、

これらの角度の時系列変化を入力とし、技のデータ の赤外線ビデオカメラで撮影した後、人手による補

正作業を含めた後処理を経て、3D骨格座標を求め る。ただし、反射マーカーはアスリートの精密な動 きを妨げるために実際の競技で適用できず、研究開 発用途に限られる。富士通研究所は、自動車向けに 開発してきた 3Dレーザセンサーと、リハビリ向け に開発してきた骨格認識ソフトウエアを組み合わせ て、反射マーカーの必要なく 3D骨格座標をリアル タイムに計測する 3Dセンシング技術の開発に成功 し、体操採点支援システム構築に向けて精度・速度 を向上してきた。本技術について以降で詳しく解説 する^{（4）（5）}。

図2　審判員の構成と採点結果のイメージ D D

E E E E E

L L T R R

AS

種目担当スーパーバイザー 種目審判員

男子ゆか

技術委員会 上級審判員

他種目男女 AS

D審判

E審判 R審判 線審（L）

計時審判（T）

Dスコア Eスコア Eスコア問題対応

演技時間超過等 領域逸脱

種目審判員 種目担当スーパーバイザー S

D D E E E E E

R R D審判

Ｅ審判 R審判 線審（L）

計時審判（T）

Dスコア Eスコア  Eスコア 問題対応 種目毎に人数がかわる S Pre S

種目 種目担当 スーパバイザ

審判団

D審判 E審判 R審判 線審 計時審判

男子

ゆか AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 L1 L2 T あん馬 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2

つり輪 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 跳馬 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 L1

平行棒 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 T

鉄棒 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2

女子

ゆか AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 L1 L2 T 段違い平行棒 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 T

平均台 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 T1 T2

跳馬 AS1 D1 D2 E1 E2 E3 E4 E5 R1 R2 L1

ゆかでの演技時間 ライン踏み越しゆかでの

ライン踏み越し跳馬での

平行棒ウォーミング アップ時間

ゆか・平均台 での演技時間

平均台での段違い・

落下時間

ングアプリと放送・エンタメコンテンツが存在す る。従来の体操の指導・練習はビデオ映像を使用し てきたが、好不調時の差を数値化して比較できな かった。3Dセンシング技術によりアスリートの動 きを客観的な関節角度として提示できるため、デー タに基づく科学的なトレーニングに活用し、スラン プからの早期脱出、怪我をしない動きの習得、新技 開発のスピードアップにつなげることが可能とな る。また、観客や視聴者の視点からは、現状の視聴 プログラムはアスリートの技の難易度や判定基準が わかりにくく、解説を聞いて何とか理解できる状態 と言える。3Dセンシング技術により演技構成や難 度をリアルタイムに提供することで、アスリートの 驚異的な身体能力を目に見える形で伝え、視聴プロ グラムの魅力をより向上することができる。さら に、スポーツへの活用にとどまらず、リハビリなど の運動機能回復や製造現場における作業分析など、

様々な分野への応用が期待できる。

　 ベース（技の辞書）を参照することで技認識を行っ

ている。

　3Dセンシング・技認識技術によって得られた 3D 骨格座標と技認識結果から採点支援アプリを駆動す る。図4に示すように、採点支援アプリには、体操 選手の演技におけるフレームごとの関節角度を詳細 に確認できるマルチアングルビュー（図4（a））と、

実施された技ごとに技認識結果により得られる技名 と技のグループ番号、難度価値点を示す自動採点 ビュー（図4（b））が存在する。

　マルチアングルビューでは、後述するフィッティ ングの出力である3D骨格座標を、正面・側面・平面 などの視点から表示し、インクエリやブロッキン グ・スコアが生じた際に、D審判や種目担当スー パーバイザーが、選手の演技において問題となるフ レームでの特定の関節角度を詳細に確認し、採点結 果の正確性・公平性を担保するために使用できる。

　採点支援アプリからの展開に関しては、トレーニ

図3　3Dセンシング・技認識技術による体操採点支援とその展開

図4　採点支援アプリのUI

（a） マルチアングルビュー （b） 自動採点ビュー

モデルデータの格納

（国際体操連盟・日本体操協会との共同研究）

技のデータベース

ソフトウェア

学習型骨格認識・フィッテング アスリート深度画像

3Dレーザセンサー

高速 高速

採点支援アプリ

トレーニングアプリ

放映・エンタメコンテンツ 3Dセンシング

技認識

われるMEMS（Micro Electro Mechanical Systems）

ミラー型が有効となる。

　スポーツ用途では、 高分解能化のため従来の LiDARよりも走査点数を 10倍以上に増やす必要が あり、MEMSミラーのスキャン速度をさらに高速化 しなければならない。このため走査角度拡大レンズ を使用して MEMSミラーを小型化する必要がある が、投受光が同軸であると、受光系に使用される MEMSミラーも小型化されるので、散乱の影響を受 けた対象からの反射光すべてを捕捉できず、光検出 器での光量低下を起こす。そこで、受光量確保のた め投受光を分離した光学系を採用した。

　富士通研究所が開発したMEMSミラー・投受光分 離型3Dレーザセンサーの構成を図5に示す^（9）。対 象物の距離測定には、レーザ・パルス投射から反射 光検出までの時間を測定するToF（Time-of-Flight）

方式を採用している。レーザ・パルスが投射されて から対象物に反射し、受光ユニットで検出されるま での時間差を

ΔT

c

ΔTc

　また、様々なスポーツ競技に対応するために、

3Dレーザセンサーの配置位置には自由度を持たせ る必要があり、結果として幅広い距離と領域にわ たって高解像度を実現する 3Dレーザセンサー技術 が必要となる。つまり、図6（a）に示すように、人 が近距離に存在する場合には、高い解像度で深度情 4. 3Dセンシング・技認識技術

●3Dレーザセンサー技術

　アスリートの素早い動きを正確に捉えるため、高 いフレームレートで、遠距離に位置するアスリート を高い解像度でスキャンできる深度画像取得方式が 必要である。表1は、各種の深度画像取得方式を比 較している。深度画像カメラとは、投射光からの反 射を解析して得られる深度情報を集積化イメージセ ンサー^（7）により取得するカメラであり、ゲーム用 途向けに市販されている^（8）。深度画像カメラでは、

高速・高分解能の深度情報が得られるが、5m以上 の遠距離に対応することはできないため、スポーツ への応用には制約がある。

　スポーツ全般に応用可能な 15m離れた場所から の深度画像を得るために、LiDAR（Light Detection and Ranging）技術を採用したレーザセンサーが広 く注目されている。LiDARは、パルス照射された レーザ光の反射を利用して、対象物との距離やその 外形などの性質を分析することができる。LiDAR は、採用される投光側のスキャン方式と受光側の光 学系の構成によって、速度や分解能が変わる。ス キャンにポリゴン・ミラーなどを用いる回転モータ 型では、1ラインの走査後次の走査まで回転待ちが 発生するため、高速化が困難である。この問題を克 服するために、走査範囲内でのみ機械的な変位が行

表1　3Dセンシング・技認識技術による体操採点支援とその展開

格座標や関節角度を出力しなければならず、認識精 度はゲーム用途などに比べて抜本的な向上が要求さ れる。また、演技中の選手の姿勢は他のスポーツで 見られないものであることから、既存の骨格認識シ ステムでは誤認識の多発が予想されるため、本要件 を満たす高速・高精度骨格認識技術として、図8に 示す学習型骨格認識とフィッティングを組み合わせ たハイブリッド方式を開発した。

　学習型骨格認識の学習フェーズでは、深度画像を 入力として関節座標の推定値を出力する予測モデル を、 あらかじめ設計された CNN系Deep Learning ネットワーク上に作成する。このため、取得した体 操演技の 3D骨格座標から CGによって深度画像を 作成し、学習用のトレーニングセットを用意する。

認識フェーズでは、体操器具やアスリート自身によ るオクルージョンを克服するように設置された複数 台の 3Dレーザセンサーから提供される多視点の深 報を取得できるが、遠距離の場合に同じ画角では解

像度が低くなってしまう。

　このため、図6（b）に示すように、遠距離に人が 存在する場合は、MEMSミラーの制御により画角を 絞り、人の解像度を近距離と同等のレベルまで向上 させる画角制御技術が必須となる。図7では近距離 の深度画像を基準として、遠距離において画角制御 をON/OFFした場合の比較を行っている。画角制御 を行うことにより、アスリートの動きを近距離と同 じレベルの高い解像度でセンシングできることを示 している。

●学習型骨格認識・フィッティング技術

　3Dレーザセンサーが取得した深度画像から人体 を構成する各関節の 3D座標を抽出するのが骨格認 識技術である。採点支援システムでは、演技終了後 ただちに審判員の判定を支援可能な高精度の 3D骨

図5　3Dレーザセンサー 図6　画角調整技術の概要

図7　画角調整の効果

近距離の場合  遠距離の場合 

画角制御ON

→高解像度でセンシング可能 画角制御OFF

→近距離と同じ画角で  解像度が低い

要がある。富士通は、国際体操連盟・日本体操協会 と連携して、競技データのみならず、競技に参加す る選手の体型データの取得を進め、採点支援の精度 向上を進めている。

●技認識技術

　自動採点向け技認識技術の概要を図10に示す。

新しい技が追加されたときに最小限のデータ追加で 対応することが要求されるため、基本運動をまず特 定し、それに基づいて基本技を認識、最後に採点の 対象となる技を判定するという構成になっている。

基本運動は、演技を構成する技を、各技に共通する 動きを意識してまとめたもので、その数は、男子6 種目819技に対して475、女子4種目549技に対し て 318となっている。技認識では、フィッティン グ結果である 3D骨格座標の時系列データから基本 運動の切れ目を認識し、分割された時系列データに 度画像から、予測モデルを用いて、3D骨格座標の

推定を行う。

　続くフィッティングでは、学習型骨格認識出力や 前フレームにおけるフィッティング結果などを初期 値とし、各センサーからの深度画像を統合した 3D 点群に対して、人体モデルを当てはめる。ここでは、

統合点群座標と人体モデルの表面座標の一致度を表 す評価関数（尤度）を定義し、最も尤度が高くなる 関節角度を最適化により求めることで、最終的な 3D骨格座標を決定する。図9では、あん馬演技に おける点群への人体モデルのフィッティングの様子 を示している。ここでは、わかりやすくするため、

人体モデルの初期関節位置を故意に点群から離して フィッティングした例を示している。

　学習型骨格認識では、予測モデルに基づいて関節 位置を推定するため、準備した学習データの品質に よって精度が左右される場合がある。図8のように 後段にフィッティングを実施することにより、統合 点群に合わせて関節位置を実測値に合わせこむこと ができ、採点支援に要求された精度を達成できる。

一方、フィッティングのみでは最初のフレームで初 期値が存在しないことや、前フレームからのトラッ キングがはずれた場合の対処ができないため、事前 の学習型骨格認識は必須である。

　フィッティングにおける最終精度は、人体モデル の精度に依存する。人体モデルは図9に示すように 円柱・楕円柱などで構成されており、円柱の長さ・

半径等をアスリートの体型に合わせて最適化する必

図8　骨格認識におけるAI活用─学習型骨格認識とフィッティング

フィッティング

3D関節座標

（フィッティング結果）

フィッティング後一次骨格認識 位置探索

学習型骨格認識

複数センサーによる深度画像認識

3Dレーザセンサー 3D関節座標

（一次骨格認識結果）

多視点深度画像

評価関数に基づき 骨格の最適位置を探索 機械学習

深度画像と3D関節座標 Deep Learning

図9　あん馬演技におけるフィッティング例

フィッティング初期値

（故意によるずらしあり） フィッティング最終結果 

5. 実用化への取り組み

　富士通は、2016年5月に日本体操協会と3Dセン シング技術を使用した採点支援技術の共同研究に合 意し、同年10月には、日本体操協会から提供を受 けた審判ノウハウ、選手データ等により採点支援の プロトタイプシステムを構築し、国際体操連盟総会 における概念実証に成功し、正式採用に向けた開発 を開始した。2017年10月に開催されたモントリ オール世界選手権では、国際体操連盟と共同で大会 データを取得し、つり輪演技における 3Dセンシン グ技術適用の有効性を実証することで、国際体操連 対して基本運動を特定する。この基本運動に対し

て、手・足先の位置、肩・腰のひねり角度などの特 徴量を抽出した結果を合わせて、基本技を認識し、

この基本技の時系列変化を、技の辞書と照合して、

最終的な体操の技を判定する。技判定結果をDスコ アとして集計する手法は、人手と同じく採点規則に 記された手法と変わらない。

　図10の左下では、あん馬における技認識の例を 示している。最初の基本運動として「正交差倒立」、

続いて「下ろして開脚支持」が認識された結果、最 初に演技された技が「セア倒立」であることを判定 している。

図10　自動採点向け技認識技術の概要

図11　ドーハ世界選手権における技術検証 あん馬

つり輪 技術検証の様子

3Dレーザセンサー

頭に述べた国際体操連盟における採点支援システム の正式採用につながり、同年10月のシュツットガ ルト世界選手権における実運用へと結実した。実運 用にあたっては、インクエリやブロッキング・スコ アが発生した際に、図4に示す画面から詳細に関節 角度を確認することができ、採点の正確性・公平性 の担保に大いに役立った。

6. 知財戦略

　図3に示した 3Dセンシング・技認識技術および サービスに関連して、富士通は、国内外に約120 件の特許を出願している（2020.1.9現在）。体操採 点システム開発プロジェクト立ち上げ以前から富士 通研究所が自動車向けまたリハビリ向けに開発して きた技術が本体操採点支援システムのベースとなっ ていることは上述の通りだが、約120件の特許出 願もまた長年にわたり特許出願を行ってきた結果で あることは言うまでもない。

　図3のとおり、3Dセンシング・技認識技術は、採 点支援だけでなく、トレーニング、放送・エンタメ など幅広いサービスに活用しうる基本技術である。

よって、様々なサービスでのビジネス展開を視野 に、国際出願も含め、必要な国内外への出願を戦略 的に進めている。また、採点支援・トレーニング・

放送・エンタメ向けのサービスについては、ユーザ の利便性をさらに高めるアプリ画面UI上の工夫も 盛り込まれている。よって、画面UIについては、

特許出願はもちろん、画面意匠出願も併用し、トー 盟と富士通との採点支援システム構築に向けた業務

提携を発表した。

　2018年11月のドーハ世界選手権では、国際体 操連盟の技術委員会幹部と、マルチアングルビュー を使用したつり輪・あん馬での採点支援システムの 技術（精度、UI、システム統合）検証を実施した。

図11は、ドーハ世界選手権における技術検証の様 子を示している。つり輪において 3Dセンシング技 術を利用することで正確性・公平性が改善される例 を図12に示す。この図は、ドーハで実施された 4 選手の中水平静止技とみなされる演技において、つ り輪水平線と腕のなす角度の時間平均値θavを示 している。採点規則によれば、肩がつり輪の位置ま で下りれば難度価値点の高い中水平静止、肩がつり 輪の位置よりも高ければ難度価値点の低い上水平静 止と判定されるべきであるが、体の位置がつり輪と 水平になっていると、肩のつり輪との水平位置の関 係が検知されにくくなっている。こうした検知困難 な技を認識する上で、3Dセンシング技術を利用し たマルチアングルビューによる採点支援が有効とな ることが証明された。

　この後、2019年4月の東京ワールドカップでは、

マルチアングルビューの対応種目に平均台を加え、

さらにつり輪自動採点ビューを国際体操連盟技術委 員会幹部と検証し、高い評価を受けた。同年6月の ハンガリーでのジュニア世界選手権ではマルチアン グルビューと自動採点の対象種目を、男女跳馬を含 めた5種目に広げてシステム検証を行い、順調な技 術の進化を提示できた。こうした検証の成果が、冒

図12　つり輪静止技判定における3Dセンシングの有効

（4） 桝井昇一、手塚耕一、矢吹彰彦、佐々木和雄、“3D セ ンシング・技認識による体操採点支援”, 電子情報通信 学会誌、vol. 103, no. 1, pp. 5-14, Jan. 2020．

（5） 金澤裕治、桝井昇一、矢吹彰彦、佐々木和雄：”体操自 動採点に向けた 3D センシングと技認識の AI 技術”．人 口知能 vol.34, no.4, pp. 531-538, July. 2019

（6） https://www.wsj.com/articles/the-robots-are-coming- to-judge-gymnastics-11566471601

（7） A. Payne, A. Daniel, A, Mehta, B. Thompson, C. Bamji, D. Snow, H. Oshima, L. Prather, M. Fenton, L. Kordus, P. O’Connoer, R. McCauley, S. Nayak, S. Acharya, S.

Mehta, T. Elkhatib, T. Meyer, T. O’Dwyer, T. Perry.

V.-H. Chan, V. Wong, V. Mogallapu, W. Qian, and Z.

Xu, “A 512x424 CMOS 3D Time-of-Flight Image Sensor with Multi-Frequency Photo-Demodulation up to 130MHz and 2GS/s ADC,” IEEE International Solid-State Circuits Conference, no. 7.6, pp. 134-135, San Francisco, U.S.A., Feb., 2015.

（8） J. Han, L. Shao, D. Xu, and J. Shotten, “Enhanced Computer Vision with Microsoft Kinect Sensor: A Review,” IEEE Trans. on Cybernetics, vol. 43, no. 5, pp. 1318-1334, Oct., 2013.

（9） K. Iida, T. Morikawa, T. Hano, S. Shimizu and K.

Tezuka, “Development of 3D Range Sensor with Super- wide Angle Detection to Observe Vehicle Surrounding,”

19th ITS World Congress, no. AP-00079, Vienna, Austria, Oct. 2012.

タルでの知的財産の保護を行っている。

　日々の研究開発活動の成果としての知的財産を、

富士通研究所および富士通は、テクノロジーの先進 性を示す証明書として、さらにはテクノロジーを魅 せるツール “テクノロジーショーケース” として活 用している。具体例としては、高速かつ複雑な体操 競技の採点をICTの力で可能とした技術力を特許や 意匠という形に示すことで、①体操採点支援システ ム開発における共創相手である国際体操連盟および 日本体操協会に対してアピールし、共創相手からの 信頼をさらに確かなものとするとともに、②世の中 に対して広くアピールし、オープンイノベーション の呼び水として、技術の活用先の拡大や、新たな共 創・事業化に寄与することを期待している。

7. むすび

　今後の高まりが予測されるスポーツICT市場に対 し、富士通がグローバルトッププレーヤーとしての 地位確立を目指して開発している体操採点支援シス テムを紹介した。本システムは体操採点ノウハウと IoT/AI技術を結集したデジタル分野の最新の研究 開発事例にあたり、マルチアングルビューと自動採 点ビューを活用して、正確性・公平性への要求が高 い体操採点を支援することを実証した。前者は、

3Dレーザセンサーが取得した深度画像に、学習型 骨格認識とフィッティングの組み合わせにより高精 度で 3D骨格座標を抽出した結果を表示し、体操採 点の詳細な解析に使用される。後者は、3D骨格座 標の時系列変化を技のデータベースと照合して、演 技の技認識を行った後、採点結果を表示する。学習 型骨格認識、自動採点の両者ともDeep Learning技 術を活用しながら開発を進めた。

　知財を含む体操採点支援システムの関連技術を、

様々なスポーツ競技、スポーツ以外の他の業界に展 開することで、富士通と富士通研究所は、より良い 社会の構築に貢献することを目指していく。

参考文献

（1） https://www.gymnastics.sport/site/news/displaynews.

php?idNews=2587

（2） 日本体操協会、採点規則 男子 2017 年版

（3） 日 本 体 操 協 会、2017-2020　 採 点 規 則 体 操 競 技 女 子 2017 年

p ^rofile

桝井 昇一（ますい しょういち）

昭57 名大・工・電気卒。昭59 同大学院修士課程了。平2 スタ ンフォード大客員研究員。平11 富士通（株）入社。平18 東工大 博士（工学）。平19 東北大電気通信研究所教授、平24（株）富 士通研入社、現在は3D センシング・運動認識に関わる研究に 従事。平16 文部科学大臣表彰研究功績者。現在、同社G プロジェ クト、シニアエキスパート。

丹下 聖子（たんげ せいこ）

平18 北大・工・応用化学卒。平20 北大大学院工学研究科有機 プロセス工学修士課程了。同年富士通（株）入社。以来、知的財 産関連業務に従事。現在、同社法務・知財・内部統制推進本部、

知的財産センター所属。

手塚 耕一（てづか こういち）

昭57 東大・工・精密機械卒。昭59 同大学院修士課程了。同年（株）

富士通研入社。以来、光ストレージ、光センシングシステムの 光学系、機構系の研究開発に従事。現在、同社G プロジェクト、

シニアエキスパート。

矢吹 彰彦（やぶき あきひこ）

昭58 同志社大・工・機械卒、昭60 阪大大学院機械工学研究科 修士課程了。同年（株）富士通研入社。以来、産業用組立ロボッ トの制御に関する研究などを経て現在、3D センシングデータを用 いた運動解析の研究に従事。G プロジェクト、シニアエキスパート。

佐々木 和雄（ささき かずお）

平6 神戸大大学院工学研究科システム工学修士課程了。同年（株）

富士通研入社。以来、ユビキタス端末、ネットワーク、エッジコ ンピューティングの研究に従事。近年、アスリートのスキル分析 の研究に従事。現在、Gプロジェクト プロジェクトディレクター。