VRCFaceTracking
https://github.com/benaclejames/VRCFaceTracking
https://gyazo.com/b57d6ce009103312315134adb8ed152a
(FoxyFaceでWebカメラから表情データを取得し、VRCFaceTrackingでVRChatに反映している様子)
VRChatでフェイストラッキングをおこなうために使うソフトウェア。OSSとして開発されている。略称はVRCFT。
Quest ProやPico 4 Ultra Enterprise、Webカメラなど、フェイストラッキングが可能なハードウェアは多数あるものの、VRChatは(今のところ)標準でハードウェアからフェイストラッキングデータを受け取って反映する仕組みがない。
VRCFaceTrackingはフェイストラッキングデバイスの違いを吸収してVRChatへの橋渡しを担う。デバイスから送られてくる表情データを同じ規格に変換してOSC経由でVRChatに送ることで、アバターの表情を制御する。
See: https://docs.vrcft.io/
modules
ソフト内で、フェイストラッキングデバイスに応じてmodulesと呼ばれるアドオンをインストールしてデバイスからトラッキングデータを受け取れるようにする。modulesは主要なデバイス対応のものは一通りあるが、自作することも可能。
アバターの対応
使用するアバターがフェイストラッキングに対応している必要がある。具体的には、フェイストラッキングでの表情制御に使われるBlendShape(ShapeKey)の名称は規格で決まっていて、それにそったBlendShapeを追加する必要がある。(EyeLookInRightというBlendShapeは右目が上を向いている表情にする、など)
See:
https://docs.vrcft.io/docs/tutorial-avatars/tutorial-avatars-extras/unified-blendshapes
See also:
無料かつUnityだけで自分のアバターを顔トラ対応化させる方法【VRChat】
フェイシャルトラッキング非対応なアバターで非破壊で顔トラ対応をした話