プログラミングでのLLM活用の落とし穴

最近，プログラミングでのLLM活用の落とし穴として，「コードが簡単に生成できてしまうため，かえって仕事が増えてしまう」ということを考えている．

例えば次のような問題意識がある：

1. 実装に困難を感じればより簡単な解決策を探す努力をしていたが，それをせず安易にコードを書くようになった．

例えば，「既にあるソフトを使えばよかったものを自前で書く」，「問題の捉え直しで簡単に解けたはずのものを，AIに頼ればいいからと力技で押し通す」などをするようになった．

そのため，本来避けられたはずの実装・保守の仕事を抱えるようになった．

2. あると良いが，なくても良いプログラムを作るようになった．

例えば，「プログラム出力結果を整理する仕組み」や「過剰な抽象化やテスト」「綺麗な図表を作る仕組み」などである．これらは無いよりはあったほうが良いかもしれない．

余力のある時に使い捨てのものとして作るのならば問題ないと思う．

しかし，これらを継続利用するシステムに埋め込んでしまうと，プログラムの大規模化や複雑化をもたらして，保守や拡張のコストが増加する．

3. 自身で扱える範囲を超えて複雑な仕組みを取り入れるようになった．

例えば，「処理の抽象化・汎用化」や「最先端のライブラリやフレームワークの導入」，「モダンな開発工程や方法論」などである．

これらは仕事における余力があるならば，あるいは自身の中長期的な成長を重視するならば問題ではないと思う．しかしながら，忙しさに問題意識を抱えるならば無視できない．特に，行動レベルの近視眼的な見え方として，LLMが一見して省力化をもたらすように見えてしまうために，目的（省力化）と手段の不一致（仕事の増加）を意図せず引き起こしかねないという点で問題があるように感じられる．

関連

Programmers were no longer building static software artifacts updated every couple of years but continuously developing, integrating, and maintaining long-lived services.

プログラマーはもはや，数年ごとに更新される静的なソフトウェア成果物を構築するのではなく，長寿命のサービスを継続的に開発し，統合し，保守するようになっていた．

Even more importantly, much of the work at these vast services, like Google Search, Google Maps, Gmail, Amazon, Facebook, and Twitter, was automated at vast scale.

さらに重要なのは，Goole検索，Google Map，Gmail，Amazon，Facebook，Twitterなど，これらの膨大なサービスにおける作業の多くが，膨大なスケールで自動化されていたことだ．

Programs were designed and built by humans, not AI, but much of the work itself was done by special-purpose predecessors to today’s general purpose AIs.

プログラムはAIではなく人間によって設計され，構築されたが，作業自体の多くは，今日の汎用AIの前身である専用AIによって行われた．

The workers that do the bulk of the heavy lifting at these companies are already programs.

これらの企業で力仕事の大部分を担っているのは，すでにプログラムである．

The human programmers are their managers.

人間のプログラマーはその管理者である．

There are now hundreds of thousands of programmers doing this kind of supervisory work.

現在，何十万人ものプログラマーがこのような監督業務を行っている．

They are already living in a world where the job is creating and managing digital co-workers.

ーーー

2025/5/21 15:44