LLMの業務システムへの組み込みとその可能性

要約: 既存の業務システムにLLMを組み込むのは難しいが、これまでシステム化できなかった部分をLLMでシステム化する考え方が必要で、ソフトウェア開発プロセスもボトムアップでのアプローチが求められる。gpt.icon

@kis: LLMを既存の業務システムにどう組み込むかという観点で、いまのところの結論は「LLMは既存の業務システムでは使いどころがない」という感じになっている。ところどころサポート的に使えるだろうけど。

既存の業務システムというのは、業務のうちロジカルに整理できるところを抜き出したものだから。

@nishio: 既存の「電子的システム」には使い所がなく、既存の(電子化できなくて残された)「人間的システム」がLLM化されていくのだと思う。なので今のシステムを見てどこを変えようと考えるのはその時点で視野狭窄に陥っている

@kis: 既存の業務システムはロジカルにやればいいので、LLMが使いづらい。

そうではなくて「いままでシステム化できなかった業務をLLMによってシステム化する」というふうに考えないといけないんだろうな。

@kis: しかしそうすると、既存の「業務中から定型部分を見出し構造化してシステムを作る」というソフトウェア開発プロセスにも見直しが必要になる気がする。

たぶん、ヒアリングして構造化のようなトップダウンではなく、実データを取ってできるところからLLM化のようなボトムアップが必要、とか

@tokoroten: @kis ちょっと前にこんな図を書いてました

で、この図を基に業務の在り方の変遷みたいな記事を書いていて、来月くらいに某所で出る予定。

https://gyazo.com/54ccb9057dfb3f547894d1ffefa4b3b1

@kis: @tokoroten そんな感じですね。けど、本命は入力が不定形で出力が定型の処理を、不定形入力の整形にLLMを使うとうところではないかという気がしています。Function Callingとか。