使用 Couchbase Capella 建立 Gen AI 應用程式

Capella iQ 參考架構
在快速發展的人工智慧 (AI) 領域,先進資料庫解決方案與生成式 AI 模型的整合代表了重大的進步。本部落格介紹了 Capella iQ 的架構,這是一個使用 Couchbase NoSQL 資料庫的生成式 AI (Gen AI) 應用程序,它理解自然語言查詢提示以產生 SQL++ 查詢,並以不同的 Couchbase 用戶端 SDK 語言產生程式碼。 Capella IQ 是一款編碼助手,內建於 Capella Workbench 和流行的 IDE 中,可協助開發人員立即提高工作效率。請參閱如何使用 iQ 更快工作的教學課程。

架構概述

下圖所示的架構展示了一個強大的管道,可以無縫整合各種元件來交付 Capella iQ,這是一種為應用程式開發人員提供的生成式 AI 解決方案。 iQ 的主要目標之一是將用於自然語言理解 (NLU) 和自然語言生成 (NLG) 的強大 AI 模型與 Couchbase NoSQL 資料庫的優勢相集成,利用 SQL++ 和 SDK 進行高效的資料處理和檢索。圖中未來的 iQ 部分將在下一版的 iQ 中提供。

Capella iQ LLM 應用架構

架構的關鍵元件

1. 數據管道
數據管道是任何人工智慧驅動的應用程式的命脈。他們負責從各種來源獲取數據 英國電話號碼庫 並準備處理。在此架構中,資料管道將資料匯集到多個儲存系統中,確保系統不斷更新相關資訊。這種連續的資料流對於維持人工智慧模型輸出的準確性和相關性至關重要。

對於外部 Couchbase Gen AI 應用程序,該模組可以直接獲取數據,也可以使用連接器或 Capella 柱狀攝取服務從其他來源串流傳輸數據。具體到 Capella iQ,不需要額外的管道,因為資料已經存在於 Couchbase 中。

2. 儲存解決方案

電話號碼庫

此架構利用多種儲存解決方案來有效處理不同類型的資料:

A) Docs DB(Couchbase 鍵值、查詢):此元件負責以靈活的模式儲存文檔,允許高效的鍵值查找和複雜查詢。 Couchbase 擅長以低延遲提供這些功能。此資料庫非常適合需要快速讀寫操作的半結構化或靈活模式資料。

B) 物件儲存 (AWS S3/GCP/Azure):用於儲存物件檔案、影像和視頻,類似 S3 的物件儲存 自動升級是具有 SLA 的公司使用的標準方法 為處理大量非結構化資料提供了可擴展且經濟高效的解決方案。該元件對於儲存媒體檔案和其他不完全適合傳統資料庫模式的大型物件至關重要。

C) 向量資料庫(Couchbase 全文搜尋):此資料庫針對向量搜尋和 最新號碼 相似性搜尋進行了最佳化,使系統能夠基於嵌入和其他向量表示執行進階搜尋。這對於需要語義搜尋功能的應用程式尤其重要,在這些應用程式中,理解內容的含義與內容本身一樣重要。

具體到 Capella iQ,客戶資料已經儲存在 Couchbase Capella 叢集文件資料庫中。 iQ 本身不需要其他特定活動。

對於外部 Gen AI 應用程序,可以將資料和向量儲存到 Couchbase 叢集中,並使用上述資料管道模組透過 FTS 進行向量搜尋。

返回頂端