《Optimize generative AI applications with pgvector indexing: A deep dive into IVFFlat and HNSW techniques》，由 aws 撰写的一片关于 pgvector 索引的文章。

在 LLM RAG 领域，为了处理较长的输入，通常会将文本拆分成较小的 chunks，然后在一些预处理后，将这些 chunks 通过 embeddings 模型生成 vector，存储于向量数据库中。当用户发起查询时，系统会将查询文本同样通过 embeddings 模型生成 vector，然后在向量数据库中进行相似度搜索，找到最相关的 chunks 作为上下文补充。

postgres 搭配 pgvector 插件，是一种常见的向量数据库实现方式。在向量数据库中进行查询，其实就是寻找和目标向量“最相似”的一组向量，“相似”的度量手段有三种：

* L2 距离（Euclidean Distance）：计算两个向量之间的欧氏距离。
* Cosine 相似度（Cosine Similarity）：计算两个向量之间的夹角余弦值。
* 内积（Inner Product）：计算两个向量的点积。可以衡量向量的相似性。

默认情况下，也就是不建立索引时，pgvector 会进行遍历搜索。为了提高搜索性能，提供了两种索引索引：

* IVFFlat 索引（Inverted File with Flat quantization）：IVFFlat 是一种基于有监督聚类的近似最近邻搜索算法。它通过将向量空间划分为多个 regions。搜索时，首先仅需要搜索各个 regions 的中心点，找出相关 region 后，再搜索 region 内的向量。
* HNSW 索引（Hierarchical Navigable Small World graphs）：HNSW 是一种基于图结构的近似最近邻搜索算法。可以理解为 skiplist，先从最上层（节点最少的层）开始搜索，找到最近点后，作为下一层的起始点继续搜索，逐层往下，直到最底层。

这两种索引都可以显著减少搜索时需要比较的向量数量，从而提升查询速度。而且，为了避免局部最优解，可以设定以多个起始点的方式进行搜索。

文中对 58.6 K 个，总大小为 364 MB 的向量集进行了测试（pgvector 0.6）：

* 不使用索引，搜索耗时 650 ms
* 使用 IVFFlat 索引，建立索引 15.5 s，搜索耗时 2.4 ms
* 使用 HNSW 索引，建立索引 30 s，搜索耗时 1.58 ms

可以看出，使用索引对搜索性能提升是很大的。

<< prev

现代高效阅读科研论文的方法 | #经验

经过多次实践，作者发现分4次阅读科研论文，比一次性通读速度更快、理解更深。这一方法改编自Eugene Yan的“三遍法”，对不习惯读论文的人尤其友好，能大幅提升信息吸收和记忆效率。

具体步骤：
1. 快速浏览摘要、引言和结论，抓住核心观点和关键内容。
2. 再次精读引言和结论，顺带浏览章节标题，理清结构脉络。
3. 细读全文，做笔记和批注，深化理解。
4. （额外技巧）如果论文有代码，使用CodeMaps工具（Windsurf开发）结合代码仓库逐行跟踪实现，直观理解算法细节。

CodeMaps是作者最喜欢的冷门利器，可以让你边看论文边“跑”代码，极大提升学习效率。

刚刚读完一篇关于专家修剪压缩稀疏专家模型（SMoE）的论文，收获满满。

在阅读过程中，结合ChatGPT等工具辅助构建背景知识，能够更快理解论文上下文和相关研究。

不同观点也很有价值，比如不必字字阅读全部内容，应该重点关注新颖或特别感兴趣的部分，避免陷入误读和过度解读。

UCLA 2025年春季推出了一套关于大型语言模型强化学习（RL for LLM）的精彩课程，内容涵盖基础理论、测试时计算优化、基于人类反馈的强化学习（RLHF），以及可验证奖励的强化学习（RLVR）等前沿主题。

这套课程不仅系统介绍了RL在LLM中的应用，还讨论了如何提升模型性能和可靠性，适合对RL与大模型结合感兴趣的研究者和工程师深入学习。

课程配套的YouTube播放列表和官方网站资源丰富，便于自学和实践。

开发者想快速把文档网站、GitHub仓库和PDF资料一键转换成Claude AI skills？Skill Seeker帮你实现自动化处理，无需手动整理各类文档。

它支持多源抓取（网页、仓库、PDF），用深度AST解析代码，自动检测文档和代码间的冲突，智能分类内容，并结合AI提炼关键示例和知识点，最后打包成Claude可用的skill文件。

核心功能包括：

- 支持任意文档网站的自动抓取与解析
- PDF文字提取、表格解析，支持扫描件OCR和加密PDF
- GitHub深度代码分析，提取API、Issue、版本历史
- 自动检测文档与代码实现的差异，生成冲突报告
- 多源合并，构建统一的skill知识库
- AI增强生成高质量教学参考和示例
- 并行异步处理，提升大规模文档抓取效率

支持Python环境下命令行操作，也能结合Claude Code MCP服务实现自然语言交互式管理，极大提升开发效率和文档维护质量。