07 EmoCast: 顔への表情変化情報投影による話し相手の印象向上システム
浅野恭志(神戸大),大西鮎美(神戸大),寺田努(神戸大),塚本昌彦(神戸大)
議論枠発表(7.5分発表 7.5分議論)
https://scrapbox.io/files/65658a4e0d3c8a001be3ee2c.png
論文:
要旨:
本研究では、静止対象物にグレースケールの動き情報を投影して対象物が動いているように錯覚させる技術を応用し、顔のパーツが動く会話中などでも運動パターンを投影できるウェアラブル表情拡張システムEmoCastを提案する。提案システムでは、カメラで取得した顔映像をスマートフォンに送信して顔の3Dモデルを作成し、この3Dモデルにあらかじめ作成した運動パターンをマッピングして、プロジェクタで本人の顔に投影する。これにより、無表情からの表情の生成、表情の増強、表情の打消しといった機能が実現できる。
採録時コメント:
頭部に装着したウェアラブルデバイスにより表情の画像認識し、プロジェクションを行うことで表情の改変を行う技術について提案、検討したものである。有用性の評価手法に不明瞭な点があるものの、提案の新規性は認められる。その「荒削り」さにより、「根本的な課題解決になっているのか」、「装備や技術の進歩によって将来的には表現力が高まり不自然さが軽減されるのか」等、活発な議論が想定される。以上の結果から、議論枠採録と判断された。
https://youtu.be/acrxHbfbH5U
参加者メモ・コメント:
装着しての発表すばらしいですね𥱋瀨洋平.iconteramotodaiki.iconyuki_igarashi.iconrkyymmt.icon
ちなみに彼は学部4年生なんですが,わりと配属されて数ヶ月でこれ作ってくれましたteradatsutomu.icon
デモもありますのでよろしくですteradatsutomu.icon
なお私は反応薄いとよく言われます𥱋瀨洋平.icon
matsumur.icon 影が顔に出ている。この影を使うことはできないのかな。
今日はリアルタイムになっている!学生ボランティアの皆さん対応ありがとうございます!!nishiyama.icon
スクリーン2、前方の参加者以外は文字が小さくて読み取れないので少しブラウザ表示を拡大してもいいかもしれません
いくつかパターンがあって,表情を作ったときにそれを増幅するようなオートなものとか,会話の終了時に笑顔をつけるとか.そこは目的次第ですねteradatsutomu.icon
ブームが長いのが気になります。短焦点レンズ使って投影距離短くできそう(レンズ歪は補正できる)。HMD下端や帽子の鍔部分から投影できればなお良し。
今は,顔前面必要かな?という点で全面投影していて,もし顔の一部パーツでOKであれば,小型化していけます.そのへん今後の評価次第ですteradatsutomu.icon
「ニヤッ」
確かにニヤッとしているように見えるnishiyama.icon
今システムは動いてるんですかね(見えない)Tatsuya NAGASAWA.icon
質問でもありましたが,カメレオンマスクやMouthOverのようなマスクにディスプレイつけて表情を表示する系の論文とライバルになるなと感じました.shogo sekiguchi.icon
デバイスが与える「愛嬌」の影響が気になりますw>評価実験
支援されていることの認識が非支援者本人(ここでは聞き手も話し手も?)にあることが幸せかどうか、という昨日後藤先生からの論点はこれに関しても言えるなと思いましたnishiyama.icon
ここまでやるならいっそアイコンとかを重畳しても良い気がするけど、そこと比較するというよりはリアルに表情変えられる方を重視したのか𥱋瀨洋平.icon
今回の投影は、無表情→表情アリの様に表情AR寄りですけど、表情DR(Diminished Reality)寄りするならどういう重畳があるんですかね。(笑っちゃいけないときに笑ったのを隠したりしてほしいHiromiNakamura.icon
むしろ相手の表情を投影してはどうでしょう?
漫符の投影とかどうだろう(怒ってるんだぞ!/ぴえん etc)
無表情投影装置(表情キャンセラ)、ポーカーフェイス用。
ここまで大掛かりになると暦本研のカメレオンマスクの方がすっきりして見えるかも𥱋瀨洋平.icon
カメレオンマスクと煽情的な鏡(の表情変形部)で出来そうですねHiromiNakamura.icon
これ無表情な人(≒日本人)だから強調されるけど、元から表情豊かな人だったらどうなるんだろうteramotodaiki.icon
「さらに行ける」のか(ほんまか?)
(第7話)デバイスが動いてると思い込んで会話してて、実は動いてなかったことに気づく
HapinessCounterの逆張りですよね。無理せず表情をつくらないといけない人にはとても良いとおもいますが、笑顔を無理して作った方が幸せに感じるという研究もあるので、このシステムを日常的に使ったらどう感じるかを知りたいとおもいました。miuramo.icon
何ができそう?
小顔化
チックなどの顔面の動きの補正
竹川さんたちのデジタルカメンだと全部バーチャル(VR的)ですが、このEmoCastはAR的ですね yumu.icon ヘルメットの先端(つばの下?)とかにカメラつけて,顔認識できないものなんですかね...?Yusuke Ashizawa.icon
写真撮影の時とか(デバイスが小さければ)使えるかもですね。インスタのエフェクト的なのより自然な感じでTatsuya NAGASAWA.icon
とりあえず今日ずっとつけててほしいShioMiyafuji.icon
+1.icon+1.icon+1.icon+1.icon+1.icon+1.icon`+1.icon
立ち位置固定でここに立ってね、で使うものにするのではなく、自分に装着する形で実装したのは面白いと思いました!yuki_igarashi.icon
石川研とコラボして装置をつけずに顔の表情にエフェクトつけるのやってみてほしい𥱋瀨洋平.icon
通常の人間にはできない表情を表現できたりするのかなyumu.icon
アニメ的な表現を付与するとかはできそうyumu.icon
WISS会場で無表情な人募集?!yuki_igarashi.icon
まず映像などで投影あり、投影なしの印象比較をしてみると良いかも。それだとアバターやアイコンなどの頂上などとも比較できる𥱋瀨洋平.icon
野球のヘルメットの頬のガードみたいな感じで短焦点プロジェクタをつけられると、少し装着の敷居が下がる?yumu.icon
https://scrapbox.io/files/6567d4b543b4a100229d8925.webp
↑ツバの裏側に鏡つければ広範囲に投影できそうShioMiyafuji.icon
UISTのおたま
議論枠なので積極的なご議論・論点のご提供を!matsumur.icon
質疑応答:
matsumur.iconこのあたりにピックアップしてくるつもり
今の実装だとどれくらいの投影、撮影距離が必要か、そしてそれはどれくらい短くできる見込みがあるか
どういう表情を出すかの制御が気になる。事前になのかなTatsuya NAGASAWA.icon
ちゃんと顔特徴をとって投影しないとうまくいかないのかな?だいたいでいいのかな?
実装できるかは気にしない場合、ヘルメットとブーム以外のセットアップを考えることはできる?narumi.icon
表情を作るのが苦手な20代男性は1名ということ?どうやって選んだ?narumi.icon
ある意味実験では実際の人間が装着する意味はないように思えるけど、装着者はどんなふうに過ごしていた?
ヘルメットの違和感は?narumi.icon
装着者の前にカメラがあると,顔に投影しても,装着者の顔を認識しにくいと思ったのですが,そのようなことはなかったのでしょうか?
今回の実装は、顔の目の前にプロジェクターを設置して投影という形でしたが、最終的にはどういう形で実装できると良いと思いますか?yumu.icon(口頭で質問)
Emocastならではのエフェクトはないのか?(そのやまさん口頭)
無表情があるから、表情に意味がある。表情がインフレすることはないか(ごとうさん口頭)
投影パターンの光量によっても自然に見えるかが違うと思うのですが、そこはどのように決定しましたか。
これを使っているとむしろ無表情になるのか、それとも表情が豊かになるのか?matsumur.icon
感情を抑え込む「EmoCanceller」の可能性はないんでしょうか?園山タカスケ.icon
紹介できませんでしたが、いっぱい質問・議論ありがとうございます!!matsumur.icon