第4章 公正のためのエンジニアリング
4.1 バイアスこそがデフォルト状態である
めっちゃ社会学というか行動経済学っぽいところ入ってくるなって思ったけど、結構この章全体がそうっぽい?
4.2 ダイバーシティの必要性を理解する
4.3 多文化理解の能力を育む
こうしたとんでもない過失を是正するために我々が備えな ければならないのは、歩を緩め、可能な限り入力がバイアスを含まないことを保証する、誠実さである。
近年話題になったソフトウェアエンジニアに求められるCraftsmanShipと通じるところのある話だなあと思った
プロとしてのソフトウェアエンジニアに必要なものとしての誠実さ的な
この間「クリーンアジャイル」を読んでいたのですが、スノーバードに集まったのは白人の中年男性ばかりと非難されてきたが、少なくとも1人は女性を招待していたし、当時のシニアプログラマーの大半は白人の中年男性だったと書いてあってこの章のことを思い出した。
実際、そのような(craftsmanship)心構えを説いている節と受け取った
ネットワークとハードウェアとソフトウェアは世界の隅々まで平等に届ききってはいないので、学習データに偏りが生じるのはやむを得ない
一方で潜在的な顧客としているのは全人類なので、得られるデータと得たい結果の間には差があって、このギャップを埋めなくてはならない
ギャップが埋まらなければ特定の属性の人々からGoogleが敵とみなされ、無用な分断を生んでそれは誰も幸せにならない
この手の話題は正義を押し付ける人(とそれに従わざるを得ない人)が悪目立ちをしているだけで、実際に考慮すべき合理的な理由はある
かといって、それをあけすけに書くと炎上しそうなので、こういう(悪く言えばお題目を唱えたような)表現になっているのでは
4.4 多様性を行動可能なものにする
決定的に重要なのは、学問的な会話を越えて、公正と公平とを推進するために踏み出せるような、定量化可能かつ行動可能な段階的方法へ焦点を当てていくことだ
べき論に陥りがちな話題で、スコープ絞って具体的な行動に移すことを明示するあたりがエンジニアリングの本らしくてとてもよい
4.5 一本槍のアプローチは退けよ
今日の一般的な方法論は、多数派のユースケースをまず開発し、エッジケース(edge case)に 対処する改善や機能を後回しにするというものだ。しかしこのアプローチには欠陥がある。既にテクノロジーへのアクセスに関して有利な者に抜け駆けさせることになり、それによって不公正さが 増してしまうのだ。
現場だとよくやりがちで耳が痛い話だと思うとともに、Googleほど影響範囲の大きい会社ならではの視点とも言えるなあと思った
最初からインクルーシブな設計で開発すること
実際、Googleのように最初から全人類をターゲットにすることが決まっているならば、こうするのが開発コストが一番低い
あとから分岐を足す形でソフトウェアを拡張すると、循環的複雑度が増してメンテナンスしづらくなる
この章はYes is Moreをずっと言ってる
1つのもので複数の問題を解決するのは素晴らしい
問題解決の方法を決定するには、問題空間全体を完全に理解することが肝要である。
本筋とは関係ないけど、問題「空間」という言い回しが面白いなと思った
あまり詳しくないですが、数学の空間(構成要素どうしに構造のある集合)のアナロジーじゃないですかね
へー知らなかった!そういうのもあるんですね ありがとうございます
4.6 確立されたプロセスを疑え
再調査チームが徹底的な再調査を実施することが決まった
調査が科学的方法に基づいているならば良い姿勢
4.7 「価値観」対「結果」
万人のために開発するな。万人と「ともに」開発せよ
ターゲットを絞った製品の存在を否定しない。この話題を議論するのに必要な前提だけど見逃されがち
自身の製品を使う際に最も大きな障害のあるユーザーのために設計せよ
ユニバーサルデザインというやつ
4.8 好奇心を持って突き進め
4.9 結論
4.10 要約
みんなからのコメント
Googleにしかできないとしたら、それはなぜか?
「万人のために開発せよ」というスローガンのあるGoogleだからこそ
万人を相手にするので、ペルソナを決めるより多様性を追求することがより重要
公正さを計測するという観点がないなぁ
一方、ペルソナを決めるようなプロダクトでも、ターゲットの中での多様性と公平公正は追求しなくてはいけない
ターゲットを明確化しないと多様性の追求はできない
でも、そもそもターゲットを明確化できている会社がどれだけあるかという話
その意味で、「ターゲットの中で多様性を追求するほうが実は難易度が高いのでは?」と思う
現場でどこまでできているか?
DEIを大事にするということは会社ではやれているが、それがシステマチックに評価できているかというとそうでもない気はする。(アンケートとか管理職比率くらいはデータとしてあるが、パフォーマンスと紐づけて説得性の高いデータをとるようなことはできていない)
この本があるのになぜ実践する企業はすくないのか?
万人のために開発している企業はそもそも少ない
「多様性」の捉え方にもバイアスがあるので、真剣に取り組まないと矮小化されやすい
万人を相手にしてないプロダクトは顧客ターゲットを絞り込むほうが先なので、多様性の優先度はたいてい低い
普通はターゲットを絞り込んで開発を始めて、普及したら広げる形で進めるので、多様性の考慮はコストとみなされやすい
Googleのように最初からユニバーサルデザインを目指す必然性と余裕があるのは本当にレアケース
そもそも(実際にそうなるかは置いておいて)万人に利用されうるという想定がGoogle以外の企業にはないから?
サービスを考える上でどうしても「ターゲットを絞る」行為を行うが、それが提供側の勝手な前提でしかなくて、想像し得ないような形で色んな人に利用されうるという意識が普通に開発してて生まれないような気がする
単純にGoogleほどのインフラ的なレベルにまでサービスを提供している会社が少ないからなのかもと思う
それの乗り越え方はなにか?
DEIや公正さを考慮できていないことが採用やプロダクトの機会損失にどれくらい紐づいているかを計算できるようにするとか?
ステップを小さくするとしたらどうできそうか?
マーケティングと人事評価のDXが必要そう