Reflection 2023
2023年を乱雑に振り返ってみる。海外生活に漸く慣れてきたものの仕事は思ったようにうまくいかず苦しい時期もあった。同時に喜びもあり、総じてジェットコースターのような一年だった。仕事や研究としては悔恨が残っているので来年は飛躍したい
Research
ICLR 2023 notable-top-5% (Oral)で採択された。自分は第五著者で大きな貢献は出来なかったものの、所謂Top Conference採択論文に自分の名前が載るのは嬉しい。とは言え会社の都合でTech blog執筆や新聞記事用インタビューを対応している際に自分にその資格があるのかという不安が常に纏わりついていた
WACV 2023で既に採択されていたが、年始にOral/Posterどちらの形式でも発表してきた。初めて国際会議に参加してみて、在り来たりな感想ではあるが様々な研究者と議論するのはとても楽しかった。まだ英語に慣れておらずグイグイ質問することは出来なかったが、また別の国際会議で繋がりを積極的に作れるようにしたい。
Table Representation Learning
表データに対するAutoMLにチーム全体で取り組んでおり、表データに対する研究として赴任後最初に取り組んだテーマになる。具体的には複数の表データを学習データとして、表全体/カラム/セルそれぞれのembeddingを学習し、それらを様々なdownstream tasks (column type prediction, data imputation)等に生かせないかというものである。基本的なアーキテクチャは表データの構造に着目したPositional encodingを持つTransformerであり、この論文に発想は近い。始めた当時は誰も取り組んでいないように見え計算資源さえあれば成果が出せると意気込んでいたものの、想定した成果は出ず、皆取り組んでいるけど成果が出てないだけと気づいた。LLMの発展もあり複数表データからの表現学習に関する論文は最近になって漸く散見されるが、今のところ目立った結果は出ていないように見える。表データは文字列から構成されるので勿論LLMが役立つ部分もあると思うが、構造化されたことによって全く異なるデータになっている上に、表データ自体が自然言語や画像に比べて圧倒的に数が少ないのが課題であるように思う。 自然言語や画像の成功が必ずしも他ドメインに敷衍できるものではないことに気づいたのは良かったのかもしれないが、如何せん今年は成果が出せなかったので来年は現実的なテーマを設定したい
Books
今年は80冊読んでおり、Kindleセールで何となく買った本を除けば歴史・美術・思想/哲学が主なジャンルになる。美術や思想/哲学も結局は歴史と共に発展し相互に影響しあっているため、纏めると大きく自分の中で歴史(特に西洋史)の世界観が固まっていったように思う。勿論西洋史観に組するつもりは毛頭なく、世界各地に興味を拡げる段階だと思う。自分はレヴィストロースが行った比較神話学のように、独立した各地方で発展した各々の神話・言語・宗教等の共通部分を探していく方向性が好きかもしれない。 特に面白かった本は以下になる
Art
今年訪れた美術館/美術展は以下
マティス展では、キャリア開始時点から晩年のロザリオ大聖堂まで彼の作品を幅広く展示しておりとても興味深かった。展示タイトルはPath to Colorであるが、晩年の切り絵や大聖堂作品のようにその物体を表現する最小構成を目指していたように思われる
Getty Museumは日本以外で初めての大規模な美術館で、この美術館を象徴するような超有名な一枚があるわけではないが、ポスト印象主義・象徴主義までの各時代の著名作家がズラリと並べられていた。個人的に一番印象に残ったのはセガンティーニのSpring In The Alpsで、画面上で見るよりも不自然なくらい明るかった。線描画がその明るさを引き出しているのは間違いないが、点描画と比べてみたい一枚だった。 Travel
今年は以下の国に訪れた
日本: 結婚式と服試着、ご挨拶等のため2回訪れた。主に東京と実家のある九州を拠点にしていた。
阿蘇山 (熊本)
南蔵院 (福岡)
アメリカ: 自宅のあるMountain View以外だと、以下を訪れた。
Hawaii Island, HI: Kaloko-Honokōhau National Historical Parkでウミガメの日向ぼっこを見ていた
El Paso, TX: とにかく暑かった。メキシコとの国境付近にある街なので金網の向こうにメキシコの街並みが見えた。色とりどりのペンキで家が塗られていた。
Los Angeles, CA: Santa Monica, Getty Museum, Griffith Observatoryに行った。もしLAに住んだ場合、Santa MonicaのビーチやGriffith Observatoryまで続く山道は休日過ごすのに最適な場所だと感じた。
シンガポール
Botanical Garden
Merlion: Merlionとそれを取り囲む湾とオフィス街がここ最近のシンガポールの急速な発展を表していた。
Miscellanuous
現在は駐在員でCaliforniaにいるが、最初の契約期間は2年である。延期しなければ2024年9月には日本に帰国しなければならない。とある事情により、何としても現在の拠点に残らなければいけない。拠点残留のためには、自分の意志を会社に聞き入れてもらう必要があり、その際に自分がこの拠点に不可欠な理由を提示出来れなければいけない。それは端的に言うと成果、出来るだけ大きな成果が求められる。勿論2年経った後に延長可否が決められるわけではなく、諸々の手続きを踏まえて1年前時点から交渉が始まる。即ち駐在開始から1年間で目に見える形の成果を出さなければいけない。現在1年と2ヵ月が過ぎた状態だが、最後の1ヵ月で漸く成果らしき成果は出た。その成果の大きさを判断するのは上の立場の人なので私はそれをアピールして大きさを知ってもらうように努める他ない。この成果が最善手だったとは微塵も思わない、以下では次似たような状況に陥った時にどう改善できるかを記していく
上司の求める成果を把握する: まず、成果の大きさは自らで判断するのが難しい。成果の大きさを判断するのは上司である。なら、余程自身がない限りは上司の求める成果に寄り添うのが得策である。
先行研究は念入りに調査し、深慮なくブルーオーシャンに飛び込まない: 研究テーマを思いついて先行研究を調べていくと、ブルーオーシャンのように見えることがある。ただ、それは自分以外誰も思いついていないという意味ではないし、誰も手をつけていないという意味でもない。大抵誰かが手を付けているが、問題が難しくてまだ論文が公開されていないだけである。先行研究を念入りに調べると萌芽に出会う場面がある、例えばこの論文は本当は更に発展させた内容を本当はやりたかったんだな、等であり既に誰かが手を付けていることを示している。だから大抵は後追いになると思われ、余程計算資源に優位性を感じなければまずは小さなアイデアから試していくのが得策だろう。
最初の三か月はなにも出来なくて当たり前だから焦らない: 新しい国での生活というのは思ったより適応に時間がかかることを痛感した。正直今でも完全に適応したとは言い難い。特に最初は慣れない環境の中で、家探し・車の免許取得等の生活基盤確保に時間を要するため仕事に集中することが出来なかった。会社のサポートがなかったら半年かかってたかもしれない。
地に足がつかない生活が続いていた、また記憶が記録として信頼できなくなってきたため、Daily scedule/reportを取ることにした。元々Notionで色々なメモを管理していたが使いこなせている実感がなかったため、よりシンプルなアプリであるObsidianに移行した。毎日Daily reportファイルを生成してスケジュールを立て、何かあればメモを取るという流れが確立された。
2024年は予定されている種々イベントを終わらせることを念頭に、ブログでのアウトプット増加と中国語の習得を目指す