Python如何利用Faiss库实现ANN近邻搜索-创新互联

这篇文章主要讲解了Python如何利用Faiss库实现ANN近邻搜索，内容清晰明了，对此有兴趣的小伙伴可以学习一下，相信大家阅读完之后会有帮助。

Embedding的近邻搜索是当前图推荐系统非常重要的一种召回方式，通过item2vec、矩阵分解、双塔DNN等方式都能够产出训练好的user embedding、item embedding，对于embedding的使用非常的灵活：

• 输入user embedding，近邻搜索item embedding，可以给user推荐感兴趣的items
• 输入user embedding，近邻搜搜user embedding，可以给user推荐感兴趣的user
• 输入item embedding，近邻搜索item embedding，可以给item推荐相关的items
   

然而有一个工程问题，一旦user embedding、item embedding数据量达到一定的程度，对他们的近邻搜索将会变得非常慢，如果离线阶段提前搜索好在高速缓存比如redis存储好结果当然没问题，但是这种方式很不实时，如果能在线阶段上线几十MS的搜索当然效果最好。

Faiss是Facebook AI团队开源的针对聚类和相似性搜索库，为稠密向量提供高效相似度搜索和聚类，支持十亿级别向量的搜索，是目前最为成熟的近似近邻搜索库。

接下来通过jupyter notebook的代码，给大家演示下使用faiss的简单流程，内容包括：

• 读取训练好的Embedding数据
• 构建faiss索引，将待搜索的Embedding添加进去
• 取得目标Embedding，实现搜索得到ID列表
• 根据ID获取电影标题，返回结果
   

对于已经训练好的Embedding怎样实现高速近邻搜索是一个工程问题，facebook的faiss库可以构建多种embedding索引实现目标embedding的高速近邻搜索，能够满足在线使用的需要

安装命令：

conda install -c pytorch faiss-cpu