V2EX › dong2go 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

10 天前

回复了 dong2go 创建的主题 › 分享创造 › 做了一个带知识库 RAG 问答的 macOS GitHub Stars 工具，想听听大家的建议

因为考虑的是本地优先，就用了 SQLite ，它本身没有内置向量类型，但有 sqlite-vec 等向量扩展。
Starcat 当前先把 Embedding 以 BLOB 形式保存在 SQLite 中，并在 Swift 侧计算余弦相似度。后续计划接入 sqlite-vec ，把向量检索下沉到 SQLite/C 层；不过它目前与 PostgreSQL 的 pgvector 还有差距，特别是成熟的 HNSW 、IVFFlat 等 ANN 索引能力。
因此，当知识库扩大到大量 Repo 、产生大量 Chunk 时，还会结合增量向量化、量化和 ANN 索引优化，必要时使用 Qdrant 等专用向量后端。