AIによる概要
「どれだけ雑な処理をしたらこうなるんだ」と不思議に思えるけど、Gemini アプリの時点でもかなりキマっているので、劣化したGeminiと考えたら妥当かもしれない。 AIによる概要
ミュンヘン地方裁判所がGoogle検索の「AIによる概要」に記載された虚偽情報についてGoogleの直接的責任を認める判決を下した AIによる概要が原告の出版社2社を「詐欺と見なされている」などと虚偽内容で中傷したことが訴訟の契機である
裁判所はAIによる概要を単なる検索結果のリストではなく「Google自身のコンテンツ」と判断した
AIが複数のサイトを組み合わせて独自の言葉と構造で書き換えており元の情報源にない主張を含むことが根拠である
それ自体で独立して理解できる自己完結型の声明でありドイツ報道法の要約部分と同様に出版者が責任を負う関係に類似する
Googleの責任を認めない場合は存在しない情報源に基づく虚偽情報に対して被害者が救済手段を失うという保護の欠陥を指摘した
裁判所は原告の主張を大半認めGoogleに対し虚偽主張の拡散を禁じる一時的な差止命令を下した
AI企業に生成内容の責任を問う初の判決であり国際的な影響を及ぼす可能性がある
Googleは免責文言やユーザーによる検証可能性を理由に責任を否定しており異議申し立てを検討中である
とうとう本気で怒られた
さすがに詐欺会社認定はライン越え
ほとんどのユーザーは検証が必要だと理解していると主張しても、ほとんどに含まれないユーザーにとって詐欺業者に認定されてしまうから、さすがにここからの逆転は難しい