Minimal RAM you need to serve a million vectors
ベクトル検索エンジンの要求RAMの話
Minimal RAM you need to serve a million vectors - Qdrant
claude.icon
100万ベクトルをメモリ内に保持する場合、Qdrantには約1.2GBのRAMが必要
ベクトルをmmapファイルに保存すると、必要なRAMは600MBに減る
さらにHNSWグラフもmmap保存すると、135MBのRAMで100万ベクトルを提供可能。
ただし、ディスク性能が検索スピードに大きく影響する。ローカルSSD (IOPS=183k) を使うと、ネットワークストレージ (IOPS=6k) に比べ検索速度が10倍高速化。
postgresql - How to calculate amount of RAM required for serving X N-dimensional vectors with pgvector (HNSW)? - Stack Overflow
上記のQdrantの記事はベクトルが100次元であると指摘している