作者丨Leonie Monigatti
譯者丨朱先忠
審校丨重樓
近些年來，向量數據庫引起業界的廣泛關注，一個相關事實是許多向量數據庫初創公司在短期內就籌集到數百萬美元的資金。
你很可能已經聽說過向量數據庫，但也許直到現在才真正關心向量數據庫——至少，我想這就是你現在閱讀本文的原因……
如果你閱讀本文只是為了簡單回答上面的問題，那就讓我們直接進入話題吧。
1、定義：什么是向量數據庫？
向量數據庫是一種以向量嵌入（高維向量）方式存儲和管理非結構化數據（如文本、圖像或音頻）的數據庫，以便于快速查找和檢索類似對象。
如果這個定義只會引起人們更多的理解上的混亂，那么就讓我們一步一步來進行解釋。本文的靈感來自WIRED的5級視頻系列（https://www.wired.com/video/series/5-levels），本文將揭示向量數據庫在以下三個難度級別中的內容：
- 最淺顯的解釋
- 向數字原住民和技術愛好者解釋向量數據庫
- 向工程師和數據專業人員解釋向量數據庫
2、向量數據庫：最淺面的解釋
這有點離題，但你知道我不明白的是什么嗎？當人們按顏色排列書架時，哎喲！當他們不知道書的封面是什么顏色時，他們是如何找到書的？
圖片
1)向量數據庫背后的直覺
如果你想快速找到一本特定的書，那么，按類型和作者排列書架比按顏色排列更有意義。這就是為什么大多數圖書館都是這樣組織的原因，以便幫助你快速找到你想要的東西。
但是，你如何根據一個查詢而不是一個流派或作者來找到可以閱讀的書籍呢？如果你想讀一本書，例如：類似于《饑餓的毛毛蟲》或關于一個和你一樣喜歡吃美食的主角？
如果你沒有時間瀏覽書架，最快的方法是向圖書管理員征求他們的推薦，因為他們讀過很多書，會確切地知道哪本書最適合你的查詢。
在組織書籍的例子中，你可以將圖書管理員視為向量數據庫，因為向量數據庫旨在存儲關于對象（例如書籍）的復雜信息（例如書籍的情節）。因此，向量數據庫可以幫助你根據特定的查詢（例如，一本關于…的書）而不是一些預定義的屬性（例如，作者）來查找對象，就像圖書管理員一樣。
3、向數字原住民和技術愛好者解釋向量數據庫
現在，讓我們繼續探討圖書館的例子，并獲得更多的技術知識：當然，現在，在圖書館中搜索書籍的技術比只按類型或作者搜索更先進了一些。
如果你去圖書館，通常角落里會有一臺電腦，可以幫助你找到一本具有更具體屬性的書，比如書名、國際標準圖書編號、出版年份或一些關鍵詞。根據輸入的值，就可以查詢存儲可用書籍信息的數據庫。不過，這個數據庫通常是一個傳統的關系數據庫。
圖片
1）關系數據庫和向量數據庫之間的區別是什么？
關系數據庫和向量數據庫之間的主要區別在于它們存儲的數據類型。雖然關系數據庫是為適合表的結構化數據而設計的，但是，向量數據庫即是為非結構化數據（如文本或圖像）而設計的。
存儲的數據類型也會影響數據的檢索方式：在關系數據庫中，查詢結果基于特定關鍵字的匹配。在向量數據庫中，查詢結果是基于相似性進行的。
你可以把傳統的關系數據庫想象成電子表格。它們非常適合存儲結構數據，例如關于一本書的基本信息（例如，標題、作者、ISBN等），因為這類信息可以存儲在列中，非常適合過濾和排序。
使用關系數據庫，你可以快速獲取所有書籍，例如兒童書籍，并且標題中有“毛蟲”。
但是，如果你喜歡《饑餓的毛毛蟲》是關于食物的呢？你可以試著搜索關鍵詞“食物”，但除非在書的摘要中提到關鍵詞“食品”，否則你甚至找不到“非常饑餓的毛毛蟲”。相反，你可能會以一堆烹飪書和失望告終。
這是關系數據庫的一個限制：你必須添加你認為某人可能需要的所有信息才能找到該特定項目。但是，你怎么知道該添加哪些信息以及添加多少信息呢？添加所有這些信息往往非常耗時，并且不能保證完整性。
然而，這正是向量數據庫發揮作用的地方！
不過，你首先需要先來了解一下一個叫做向量嵌入（vector embeddings）的概念。
今天的機器學習（ML）算法可以將給定的對象（例如，單詞或文本）轉換為保留該對象信息的數字表示。想象一下，你給一個ML模型一個詞（例如，“食物”），然后這個ML模型發揮了它的魔力，給你返回了一長串數字。這個長長的數字列表是單詞的數字表示，即稱為向量嵌入。
因為這些嵌入是一長串數字，所以我們稱之為高維。讓我們假設這些嵌入只是三維的，以便將它們可視化，如下所示。
圖片
你可以看到，類似的單詞，如“饑餓”（hungry）、“口渴”（thirsty）、“食物”（food）和“飲料”（drink），都被分組在一個相似的角落里，而其他單詞如“自行車”（bicycle）和“汽車”（car），則在這個向量空間中靠近在一起，但在不同的角落里。
數字表示使我們能夠將數學計算應用于通常不適合計算的對象，如單詞。例如，除非將單詞替換為其嵌入；否則，以下計算將不起作用：
drink - food + hungry = thirsty
因為我們可以使用嵌入進行計算，所以我們也可以計算一對嵌入對象之間的距離。兩個嵌入對象之間的距離越近，它們就越相似。
正如你所看到的，向量嵌入非常酷。
讓我們回到前面的例子，假設我們將每本書的內容嵌入到圖書館中，并將這些嵌入存儲在向量數據庫中。現在，當你想找到一本“主角喜歡食物的童書”時，你的查詢也會被嵌入，并返回與你的查詢最相似的書籍，例如《饑餓的毛毛蟲》或《金發姑娘與三只熊》。
2）向量數據庫的使用情況是什么？
事實上，向量數據庫在大型語言模型（LLM）的宣傳開始之前就已經存在了。最初，它們被應用于推薦系統中，因為它們可以快速找到給定查詢的相似對象。但是，由于它們可以為大型語言模型提供長期記憶，因此最近也被應用于問答應用程序中。
4、向工程師和數據專業人員解釋向量數據庫
如果在打開本文之前，你已經猜到向量數據庫可能是存儲向量嵌入的一種方式，并且只想知道向量嵌入的背后是什么，那么，現在讓我們來深入了解并討論一下相關的算法。
1）向量數據庫是如何工作的？
向量數據庫能夠快速檢索查詢中的類似對象，因為它們已經預先計算過了。其基本概念被稱為近似最近鄰（Approximate Nearest Neighbor：ANN）搜索，它使用不同的算法來索引和計算相似性。
正如你所能想象的，當你有數百萬個嵌入時，用簡單的k近鄰（kNN）算法計算查詢和每個嵌入對象之間的相似性可能會變得相當耗時。而使用ANN搜索算法，你可以以一定的準確性換取速度，并檢索與查詢近似最相似的對象。
索引：為此，向量數據庫對向量嵌入進行索引。此步驟將向量映射到數據結構，從而實現更快的搜索。
你可以把索引看作是把圖書館里的書分成不同的類別，比如作者或流派。但由于嵌入可以包含更復雜的信息，進一步的分類可能是“主角的性別”或“情節的主要位置”。因此，索引可以幫助您檢索所有可用向量的較小部分，從而加快檢索速度。
我們不會討論索引算法的技術細節；但是，如果你有興趣進一步閱讀，你可能想從查找分層導航小世界（Hierarchical Navigable Small World：HNSW）開始。
相似性度量：為了從索引向量中找到查詢的最近鄰居，向量數據庫應用相似性度量。常見的相似性度量包括余弦相似性、點積、歐幾里得距離、曼哈頓距離和漢明距離（Hamming distance）。
2）向量數據庫相對于將向量嵌入存儲在NumPy數組中的優勢是什么？
我經常（已經）遇到的一個問題是：我們不能只使用NumPy數組來存儲嵌入嗎？——當然，如果你沒有很多嵌入，或者你只是在做一個有趣的愛好項目，你可以這樣做。但正如你已經猜到的，當你有很多嵌入時，向量數據庫會明顯更快，而且你不必把所有東西都保存在內存中。
最后，我僅會簡短地說一句，因為伊桑·羅森塔爾在解釋使用向量數據庫和使用NumPy數組之間的區別方面做得比我寫的要好得多。有關此內容的更多信息，請參考他的文章《你真的需要向量數據庫嗎？》，網址是：www.ethanrosenthal.com。
——譯者介紹——
朱先忠，51CTO社區編輯，51CTO專家博客、講師，濰坊一所高校計算機教師，自由編程界老兵一枚。
原文鏈接：https://towardsdatascience.com/explaining-vector-databases-in-3-levels-of-difficulty-fc392e48ab78
