Comprehension Debt - the hidden cost of AI generated code

https://gyazo.com/a21594024d8ecbc5e03d6ffce1a6655d

エージェントエンジニアリングだけで組み上げられたシステムは、福利的にシステム内に存在するコード量と人間が把握し理解しているコード量とのあいだにギャップが広がり拡大しつづけることがある。

debt という命名がキャッチーすぎてアレだがとてもよくわかる。Anthropic の論文にある、「能動的な質問主導型の開発者よりも、受動委任型 (とにかく動かせ) の開発者のスキル開発は AI によって阻害されている」という点も納得。

ここでもまた生産能力が優位になった結果、人間の評価ができない、スピードが追い付かない、これまでのフィードバックループが成立しない、といった話が出ている。品質の制御弁だったものが現在はスループットが問題視されるフェーズになってしまった。

テストがしっかりしていればよいというのもわりと愚問で、「コード生成の委任にAIを使用している開発者は理解度テストで40%未満のスコアしか得られないのに対し、概念的な探究（質問を投げかけたり、トレードオフを検討したりすること）にAIを使用している開発者は65%以上のスコアを獲得している」。

AI技術の導入によって変化するのは主に3点：コスト（大幅に低下）、処理速度（大幅に向上）、そして人的管理コスト（実質的にゼロに近くなる）。一方、変化しないのは、コードベースが実際に何を行おうとしているのか、そしてその理由を深く理解するための、システム全体の文脈を把握した人材の必要性。

なので、理解不足がもたらすのはシステムを真に理解しているエンジニアの価値高騰なのではないかという主張。マージとリリースの速度だけに最適化されたチームにはなりたくないものですね。ことミッションクリティカルな事業ならなおさら。理解こそが仕事。理解に利息をつけてはいけない

ボトルネックがレビューやQAに移っていくんではないかと思ったが、まったくそんなことはなさそうに思えてくる。