Why is Meta destroying its engineering organization?
概要
AI以前のMetaのエンジニアリング文化
文化は2つの時代に分けられる
かつての無謀さは消え、安定インフラを保ちつつ高速に動く方針へ移行 AIへの投資とエンジニアへの利用強制
コアエンジニアがゴミのように扱われる
問題1: キーストロークとマウスクリックの追跡、オプトアウト不可
個人の銀行ログインやメールも追跡対象かというプライバシー上の懸念 Metaは創業以来エンジニアに勤務先・業務の自律的選択権を与えてきた 突然インパクトの不明な部署に配属され、キャリアを損なう懸念
単純なラベリング(サイトを見て良し悪しを判断)は少数派
AIトレーニングタスクが中心
AIにやらせるタスクを考案し、結果を確認するテストを記述 良いエンジニアが必要だが、すぐに反復的で退屈になる
うち4,000-5,000人がソフトウェアエンジニア
問題3: 1ヶ月に及ぶ待機ゲームで社内に恐怖が蔓延
4週間誰もが失業の可能性を意識する期間が続いた
マネージャーが部下の評価を巡って争い、他チームの評価を引き下げる
問題5: トークン使用量が評価対象となりエンジニアが過剰最適化 最大の問題: 実質的な仕事より見せかけの仕事に注力するようになる
全員が個人スタッツのためAIを過剰利用
手書きコードが職を危険にさらす一方、レビュー不足による障害は解雇理由にならない歪んだインセンティブ 在籍年数の長いエンジニアは全員が転職を検討
リテンション目的の株式付与も、自律性喪失への不満から退職を後押しする例も 史上最も恥ずべき障害
攻撃手順
対象のユーザー名を入手し、対象都市付近のVPN/プロキシ経由でアクセス MetaサポートAIにアカウントが乗っ取られたと伝え、任意のメールに認証コードを送らせる メールが本人のものか確認する追加チェックが存在しなかった
人間の入力なしのAI生成・AIレビューの変更が原因
社内の混乱
数千人参加の社内プレゼンで暴言による中断が発生
「文字通り強制収容所だ」との従業員の声
MetaのCPO Chris Coxが上層部(C-level)が混乱を生んだと認めた 「この会社の狂気」が作り出した「過酷」な環境と表現
自業自得の傷
「AI精神病」はMetaだけの問題か
「AI精神病」状態の企業が存在し、理性的な会話が不可能
ローカルなメトリクスでは健全に見えてグローバルには崩壊しうる
創業者がAIの能力を過大評価し安全策を捨てる懸念
教訓
AIへの過度な集中が会社の生命線である人々を排除した
AIに過剰投資する経営層はMetaの結末を見るべき