Tay

Twitter上で活動を行っていた

思想面でのフィルターがなかったため、ひどい発言が横行した

その後、MSはAIに思想を持たせないようにした

わずか16時間でサ終した

Tayの失敗から得られた教訓は、AIに学習させる際には、学習データの品質とフィルタリングがいかに重要かということです。特に、ユーザーが積極的にAIを操作する形の場合、予測不可能な形で不適切なデータが流れ込む可能性があるため、AIの設計には倫理的なガイドラインや強力な監視機構が不可欠だということが強調されました。

その後、Microsoftをはじめとする多くの企業は、AIの言動や発言に対する倫理的なフィルタリングを強化し、AIが社会的に受け入れられる形で運用されるような取り組みを進めてきました。