ChatGPTの回答生成はStream派？

Stream（1文字ずつリアルタイムに生成するやつ）と、回答全部できてからポンと出す（呼び方わからないｗ）のと二つある

sta.icon

OpenAI APIから利用しているが、Streamせずにポンにしている

Streamは一文字ずつちまちま打ってくるのでなんていうか気になる感

マイクラのかまどのイメージを引っ張っている

かまど焼き始める → しばらく放置 → あ、終わってるな

ChatGPTも同じ感じで使っている

Summer498.icon

待ち時間が長いので終わったら見に行く

文字がじわじわ打たれていくのを眺めてる時間は楽しいけど勿体ない

たまに楽しむために見る

nishio.icon

ちゅるちゅる出てくるのを眺めることにホモサピエンスの時間が浪費されてるのはよくない

「愚かなホモサピエンスは少しずつ出てくる回答を見ることを好むようです」とクオリアさんに言われてしまう

素早くフィードバックが返されるシステムの方が、フィードバックが返るまでに時間のかかるシステムより好まれるっていうホモサピエンスのバグ

なおPCではChatGPT専用の仮想デスクトップを用意しておいて、クエリを投げたら待たずに画面切り替えする運用で回避してる

wogikaze.icon

聞いている間は他の作業できない

その作業をするために聞いてるので待ちが発生している

その間にメモでも取ればいいんだろうけど

最近は聞いて、待っている間は別のタブ見てることが多いからどっちでもいいか

yosider.icon

出力全体が得られないとあまり意味がない時は、出力中は他の作業をする

翻訳させて出力全体をコピペしたいときとか

内容自体に特に難しいところはないコードを書いてもらっているときとか

そうでないときは、出力を追いながら理解しようとしたり次の質問を入力したりしている気がする

結論「タスクによる」()

bsahd.icon

(ブラウザだと)今はStream形式での出力しかできない

性能差がなくなったのかな

今だと推論とか検索とかに時間取られるけど...