GPT-2
. @elonmusk が支援する OpenAI が最新の言語モデル「GPT-2」を発表。しかし、悪意のある人たちが人工知能によるテキストジェネレータを使って欺瞞的な言葉や偏見に満ちた文章、そして不適切な情報を大量に生成することを恐れ、一部だけの情報のみを公開することに 🤖。
https://twitter.com/gijigae/status/1096330707792650240?s=19
https://openai.com/blog/better-language-models/
与えた書き出しから文章を補完(作文)
openaiサイトにサンプルあり
ニュース、小説(!)、詩(!!)など、それぞれの書き出しに対して自然に同じジャンルの文を生成
パラメータ数最大15億、まずは1.17億のモデルを公開
部分的公開の最終段階に到達
https://github.com/openai/gpt-2-output-dataset
危険なAI技術はどう公開すべきか？オープンAIの手法をめぐり議論
https://t.co/Q9cq0dBbfv
「コーネル大学の共同研究者が実施した研究では、平均的な読者がGPT-2の生成したニュース記事とニューヨーク・タイムズ紙のニュース記事を本物と信じた回数がほぼ同じ数だったことが判明した」
https://twitter.com/jaguring1/status/1191829835011645440?s=19
OpenAIのジャック・クラーク政策担当理事
「もし私たちが汎用人工知能を構築できるAIコミュニティとして成功するとすれば、膨大な量の歴史的な先例が必要になります。ですが、それがなかったとしたらどうでしょうか？ 独自の証拠を作る必要があります。それが、今まさに私たちがしていることなのです」
https://twitter.com/jaguring1/status/1191833713014788096?s=19