あなたを支配し、社会を破壊する、AI・ビッグデータの罠

https://gyazo.com/5edfca789ef3e4c859a685e016f74239

原書：Weapons of math destruction

Weapons of mass destruction：大量破壊兵器

Cathy O`Neil　

2018年7月翻訳版出版

ビッグデータを用いた予測アルゴリズムには作り手の先入観、誤解、バイアスが含まれる。

重みづけは自由である。。

公平公正よりも、効率・利便性・収益が優先される。

アルゴリズムを監査しモラルある想像力で主導権を人間に取り戻す。

引用

ビッグデータは、うまく管理すれば重要な洞察を与えてくれるが、破壊的な結果を招くことも多い。結局のところビッグデータを使用する狙いは、人間の目には見えないパターンを見つけ出す事、それに尽きる。データサイエンティストは問題の提示に留まらず、考えうる解決策まで提案することである。（p325）

エマニュエル・ダーマンとポール・ウィルモットによるデータサイエンティストの倫理規範の草案（p308）

私は、自分は世界を創ったわけでも、自分に与えられた方程式を全て満たしたわけでもないということを、肝に銘じます。

私は、評価測定のために臆することなくモデルを使用するが、だからと言って数学に心を奪われることはありません。

私は、なぜそうしたのかという説明もなく数学的美しさのために現実を犠牲にするようなことは、決して致しません。

私は、自分が作ったモデルを使用する人々に対して、モデルの正確さについて偽りの安心感を与えることは致しません。代わりに、モデルが何を前提とし、何を見落としているかを明示します。

私は、自分の仕事が社会と経済に多大な影響の多くは私にも把握しきれないほど広範囲に及ぶことを理解しています。