当我们执行一次典型的 Chroma 的 query 调用:
res = col.query(query_texts=["买的东西不想要了,钱能退回来吗"], n_results=2)它花费的时间大概可以这么分:
| 环节 | 占比(小数据量) | 优化手段 |
| 客户端参数校验 + 序列化 | 中 | 批量化,减少调用次数 |
| 网络往返(HttpClient) | 中~大 | 连接池、同机房部署、批量 |
| 嵌入计算(如果传了文本) | 大 | 自己算、加缓存 |
| HNSW 图搜索 | 小(数据少时) | 调 ef_search |
| WAL 暴力扫描 | 取决于 WAL 大小 | 灌完数据让它刷完 |
| 元数据过滤 | 小 | 走倒排索引 |
| 结果反序列化 | 中 | 少 include 字段,尤其别要 embeddings |
注意:最大的一块通常是 embedding。这也是为什么我一直建议 embedding_function=None 然后自己算 —— 自己算才能加缓存和批处理。