日記2022-12-03
@nishio: 僕が一番深刻な特徴だと思ってるのは「画像生成AIの出力には電子透かしが入ってて未来のAIが学習データに使わないようになっていた」「文章作成AIを使って解説ブログを作る人が出てくることが予想される」「文章は絵よりも簡単に修正再構築できるのでAI生成物か見分けることは困難」ってところです @nishio: わかってる人が「でたらめな解説を生成してきてウケる」と言ってるの、今後の「今人間が書いてるでたらめな解説のブログ」の生産性が100倍になるし、そういうブログを書いてる人たちは「正しい解説」であることに価値を感じてない。そして今でたらめを見分けられてない読者は当然それも見分けられない @nishio: これは結局、Pixivに大量のAI生成画像が流れ込んで、「非AI画像が見たい」って人が目的のもの見つけられなくて困ったのと同じ構図だなぁ @nishio: 僕個人としてはAIが生成したかどうかと無関係に「でたらめな内容の解説記事を書くこと」が嫌いだけど、それをやることが100倍容易になって、今までそれをやってた人には拡大するインセンティブがあるわけだから、嫌いだと言ったところで社会の動きは止められないだろうなぁ @nishio: 多分StackOverflowのようなvoteのあるメディアとか、記名の記事に対して読者があらかじめ設定した「信頼してる著者リスト」で絞り込んで検索するエンジンとかのウェイトが高まっていくのだろう。 @sea85419: 一連の考察が素晴らしい。AIによる、もしくはAIを使った情報シビル攻撃にどう対応するか、という問題にとして考えることができる気がする。そうすると結局は「担保」をどう求めるかの問題になる気がする。それって実はproof of OOとしてブロックチェーンが取り組んだ問題と通じるかもしれない @hachimojino: 化石燃料の燃焼や核実験によって大気中のC14の濃度が変化して、C14年代測定に補正をかけなくちゃいけなくなったことを思い出す。