<aside> 📌 メインメニュー
</aside>
VTube Studioは、 Google MediaPipeを 使用 した実験的なハンドトラッキングをサポートしています。
ウェブカメラのハンドトラッキングを、ウェブカメラのフェイストラッキングやスマートフォンのフェイストラッキングと組み合わせることができます。
ハンド・トラッキング・パラメータは、Live2Dのパラメータ(個々の指のパラメータを含む)を直接制御したり、ジェスチャーを検出してホットキーをトリガーし、ジェスチャーやアニメーションなどをアクティブにするために使用できます。
これは実験的な機能であり、トラッキングは完璧にはほど遠いことを心に留めておいてください。
将来的には改善される可能性が高いですが、少なくとも、これで遊んでいるだけで楽しいのは間違いありません。
VTubeスタジオのウェブカメラ設定で、「手のみトラッキング」「顔のみトラッキング」「顔と手のトラッキング」のいずれかを選択します。
フェイストラッキングにiPhoneを使用する場合は、ここで「手のみトラッキング」を選択してください。次にウェブカメラをオンにします。あなたの手がトラッキングされるはずです。トラッカーがあなたの手を検出するのに1秒かかります。
指の速い動きは問題ありませんが、手の速い動きはすぐにトラッキングを失うので、その点には注意が必要です。
https://lh7-us.googleusercontent.com/VFnJmZzoonl1_Pvv257mrz4PyEqQfp4R7Yk-iamQfzk63Ykw-cMjA_mGEmfdgPRC84lGAupdcVYjAWqPBCgx-cwfUqMoooHs2KvunBa_f3jZRT1m4LCZQSOYDgSIbCC4FZ-pJNUVFMXn7W2WYZTLY8I
トラッキングプレビューの下にある円は、指の角度を示しています(完全に青い指はまっすぐ、完全に白い指は完全に曲がっていることを意味します)その下のバーは、それぞれの手の「手の開き具合」を示しています。真ん中の2つの点は手の距離を示しています。これら全てと手の位置(中心からの相対位置)と手の角度は、トラッキングパラメータ(入力)として使用することができます。
その下に、検出された手のジェスチャーが表示されています。右手と左手はそれぞれ1つのジェスチャーを読み込むことができます(左と右を表示)
さらに、両手を必要とする特殊なポーズもあります。それらは真ん中に表示されます。
ホットキーのタブに「ジェスチャー」というボタンがあります。
このボタンをクリックすると、ハンドトラッキングのプレビューを含む以下のウィンドウが表示されます:
https://lh7-us.googleusercontent.com/1PyVZZpfWkP4xKrr0PolKgFBqE21L94yyGBMN5WY8Z2An0yk-5eOEKl6NLGo3Wq-yGs2D2XTa7V_JLm37PyAAyIsLCXMv8_0THvtz9INoq5PTbC9FP-vT7pXuPwhEY6MHpWRBDwxeaPl2C52pPPJqoc
ここで、ホットキーを有効にするジェスチャの組み合わせを作成できます。
左手用と右手用のジェスチャー、または「両手ジェスチャー」(「三角形を作る」または「人差し指を合わせるポーズ」)を選択できます。片手だけのジェスチャーを選択することもできます。
ホットキーを有効にするには、両方のハンドジェスチャーを検出する必要があるかどうかを選択し(AND/ORを使用)、ミラーリングジェスチャーも許可するかどうかを設定できます。
最後に、ホットキーを有効にするためにジェスチャーが検出されるまでの時間を設定できます。
ホットキーが表情ファイルをアクティブにする場合、ジェスチャーが検出されている間だけ表情ファイルがアクティブになるように設定することもできます。
ハンドトラッキングパラメータをVTube Studioモデルのトラッキング入力として使用し、Live2Dのパラメータをコントロールすることができます。この場合も、信頼性に欠ける場合があるので、使用には注意が必要です。
自動セットアップでは、モデルに以下のパラメータIDを持つLive2Dパラメータが含まれている場合、それらのパラメータのマッピングも作成されます。
以下のパラメータが使用可能:
HandLeftFound
:左手が現在トラッキング(発見)されていれば1、そうでなければ0。HandRightFound
: 右手が現在トラッキング(発見)されていれば1、そうでなければ0。BothHandsFound
:両手が現在トラッキング(発見)されている場合は1、そうでない場合は0。HandDistance
:手と手の間の距離(両方見つかった場合)。HandLeftPositionX
:中心(左手)までのX距離。外側は10、中央は0、内側(右方向)は-10。HandLeftPositionY
: 中心(左手)までのY距離。上が10、中央が0、下が-10。HandLeftPositionZ
: 中心(左手)までのZ距離。カメラに近い方が10、遠い方が-10。HandRightPositionX
:中心(右手)までのX距離。外側は10、中央は0、内側(左方向)は-10。HandRightPositionY
: 中心(右手)までのY距離。上が10、中央が0、下が-10。HandRightPositionZ
: 中心(右手)までのZ距離。カメラに近い方が10、遠い方が-10。HandLeftAngleX
:左手の左/右回転。+/- 180の間。HandLeftAngleZ
:左手の左右の傾き。+/- 180の間。HandRightAngleX
:右手の左/右回転。+/- 180の間。HandRightAngleZ
:右手の左右の傾き。+/- 180の間。HandLeftOpen
左手パーHandRightOpen
右手パーHandLeftFinger_1_Thumb
左手親指HandLeftFinger_2_Index
左手人さし指HandLeftFinger_3_Middle
左手中指HandLeftFinger_4_Ring
左手薬指HandLeftFinger_5_Pinky
左手小指HandRightFinger_1_Thumb
右手親指HandRightFinger_2_Index
右手人さし指HandRightFinger_3_Middle
右手中指HandRightFinger_4_Ring
右手薬指HandRightFinger_5_Pinky
右手小指