構造化された環境と狭い世界
フィードバックがある
一貫性がある
環境からの反応が一定
https://gyazo.com/dbe6ced397b15527891d33580c8ca77c
心理学と神経科学の教授で、自身が設立した機械学習の会社をウーバーに売却した経歴があるゲイリー・マーカスによると、「狭い世界では、人間はあまり長い間、活躍できない。オープンエンド(制限のない)のゲームであれば、人間は確実に活躍できると思う。それはゲームに限らない。オープンエンドの現実世界の問題を与えると、コンピューターは今もクラッシュしてしまう」
真にオープンな世界で、厳しいルールがなく、完璧な過去データもない世界では、AIの成績は悲惨だ。IBMのワトソンはクイズ番組の「ジェパディ!」で勝利し、その後がん治療の革新のために投入されたが大失敗した。そのため、AIのエキスパートは、医療分野でのAI研究によくない影響が及ぶのではないかと心配したほどだ。あるがん専門医は、「ジェパディで勝利することとがん治療との違いは、ジェパディでは問題の答えがわかっていることだ」と言う。一方、がんの治療では、まずは正しい質問を見定めるという段階にある。
2009年には、科学的に権威のあるネイチャー誌が、「グーグル・フル・トレンド」が冬のインフルエンザの流行を、検索クエリのパターンを使って米疾病対策センター(CDC)よりも早く、同程度の正確さで予測できると発表した(注29)。しかし、グーグル・フル・トレンドの信頼性はすぐに薄れた。2013年の冬に出したアメリカのインフルエンザ患者数の予測が、実際の2倍以上だったからだ(注30)。今日では、グーグル・フル・トレンドは予測を発表しておらず、この種の予測は「時期尚早」とだけウェブページに記されている。マーカスは、「AIシステムはサバンに似ている」とたとえる。つまり、安定した構造と狭い世界が必要ということだ。
狭い分野への専門特化が「意地悪な」領域と組み合わさると、「よく知っているパターンに依存しがち」という人間の傾向が大きく裏目に出る。たとえば、熟練した消防士が、慣れない構造の建物の火災に直面した時、突然、誤った選択をしてしまう。