What's unsolved in generative AI?
大量のテキストデータに対して学習させた、大量のパラメータを持つ機械学習モデル
例えば GPT-3 は 175B のパラメータを持つ 大規模なデータセットに対して自己教師付き学習を用いて学習させたモデル
タスクに依存しないため、最小限の調整で異なるタスクに適用することができる
データを自ら生成するために大量の実世界データで学習させたAIシステム
モデル開発においては、RLHF(reinforcement learning from human feedback)と呼ばれる技術も、モデルの出力とプロンプトをよりよく整合させるメカニズムとして有望視されている 課題
デマ・フェイクニュースの生成が容易になってしまった
しかも悪意なく生成しうることが問題
セキュリティ対策
Prompt Injection によるモデルへの攻撃は重大なリスク
2023/01/03