Backpressure
from
Web Streams API
背圧_
https://developer.mozilla.org/ja/docs/Web/API/Streams_API/Concepts#背圧
単一のstreamのread/writeの速度を調整するプロセスのこと
やらないとどうなる?
例えば、データ生成側の処理速度が、データ取得の処理速度を上回る時
もっと具体的に言うと、高速サーバーがデータを生成して、低速インターネット接続を使用してクライアントに配布されるような状況を考える
生成側が作ったデータはqueueに入っていくが、そのまま続けるとqueueがいっぱいになりメモリオーバーフローが起きる
Stream Back-pressure and Cancellation - Vercel AI SDK
具体例ありで解説がある
ReadableStream
の
pull()
を使う