大柴行人

チョンさんのメモ

質問１：LLMのテストについて何をもってAIが安全と判断するの？基準は？有名企業などのクライアント多いけどみんななんで納得しているの？

回答１：

おおきく分けて２つ回答がある

１つ目は

アメリカでは「なにをチェックすればよいか？」が決まってきている．そういうAIリスクやセキュリティに関するガイドラインを作成する機関，団体が既にある．企業でAIを作る際にもその基準に達しているか重視する．

たとえば OWASP：LLMがもってる脆弱性top10個などを策定している

これをみたしているテストを行なう．

２つ目は

自分たちで基準をつくっちゃう．実は日本でそういう団体を作っているところ．

AIガバナンス協会（大柴さんが事務局長）

今回の来日の目的は日本の大企業への営業とこの団体を周知するためでもある．先週くらいに日本で企業をや有識者を集めたAIリスクに関するサミットを開いた（まだネットにでていなそう？）．来た人物のリストを見せてもらったが日本の名だたる大企業の役員が何十人も参加していた．

質問２：AIのリスクの基準を大企業に認めてもらったりとかはロビーイングが必須だとおもうが，日本からコネなしでアメリカに行きそこんところどうやってきた？共同創業者のハーバード教授の力？

回答２：

キーマンはマイクロソフトのAIチーム（たしかAIリスクチームっていってたかも）の発起人．出会いは自分（大柴さん）を採用しようとしてきたこと．最終的に自分の会社に入社しちゃった笑．この人がNIST（日本で言う産総研みたいな組織）とかAIリスク系団体への繋がりが強かった．この人が入ってきてからロビーイング一気に進んだ．ただまだDC（おそらくワシントンDCのこと）の方には全然ロビーイングできてない．今なやんでいるのは，有力なロビーイスト（金でロビーイングに必要なコネを紹介してくれる人）がいるが報酬がバカ高いので頼ろうか悩んでいる．

質問３：サンフランシスコの有力なVC（Sozo venturesファウンダーの中村さん）にシリコンバレーのスタートアップの特徴は優秀なCFOが創業期からいることがあると聞いた．そのCFOがExitまでの資金調達計画をうまく立てるときいたが本当？

回答３：

CFOは創業期からはいなかった．正直，今もほぼ自分でやってる．シリーズA，Bくらいまでは外注（業務委託でCFOやってくれる人たちがいる）でやってるところがおおいんじゃないかなぁ．

質問４：日本ではシード・アーリー期に投資をする小粒なVCが多く，レイター期に投資をするVCが少ないときいた．日本のVCにはレイターでドカンと投資できる能力がないからだと．アメリカではシード・アーリー・レイター期のVCからの資金調達にどんな特徴がある？

回答４：

グロースステージの日本のVC状況（日本はレイター期にどかんと入れるVCいない）はそうかも．シードに投資してくれたアメリカVCの人もセコイア（有名なVC）の人も元エンジニアだった．Googleで10年とかエンジニアやってた人たち．技術や事業内容に深い理解があるVCがたくさんいる．アメリカにはビジネスモデルが全然わかんないバイオ系に投資してくれるVCとかもいる．日本にはいない．

Move

AIガバナンス協会 理事

2015にevでインターン、taigaさんの投稿

https://scrapbox.io/files/685d2ad6cff93612316a0e10.png