Dori Find Models（Dori 尋找模型）

Dori Find Models 是 DGrid 旗下由自然語言驅動的輔助工具，專門用於探索和評估大型語言模型（LLMs）。透過 Dori，您可以用淺顯的中/英文表達需求、使用自有工作負載測試入選的模型，並取得結構化報告，協助您基於數據做出有把握的模型選擇。

在 DGrid 平台中的角色

Dori 是 DGrid 生態系統中兩項緊密整合的核心功能之一：

• Dori Find Models – 協助您：
  • 將業務或產品需求轉化為具體的模型候選方案
  • 以引導式、對話式流程探索、測試和比較模型
• AI Gateway – 提供：
  • 覆蓋 200 多種生產級 LLMs 的統一抽象層與 API
  • 基於配置的模型選擇與切換機制，無需修改程式碼

兩者共同實現了端到端的 LLM 工作流程：

傳統方式： 搜尋供應商 → 建立多個帳戶 → 手動測試 → 針對每個供應商分別整合

透過 DGrid（Dori + AI Gateway 和 LLM市集）： 描述需求 → 在單一平臺探索與測試 → 一次性整合 → 透過配置更換模型

核心功能

1. 自然語言需求蒐集

Dori 從您以自由格式文字記錄的真實業務需求出發。例如：

• 「我們需要一款低延遲、高成本效益的模型，用於多語系客服（英文、西班牙文、葡萄牙文），並整合至現有聊天機器人中。」
• 「我們正在打造一款專注於 Python 和 TypeScript 的程式碼輔助工具；強大的推理能力與大語境理解能力至關重要。」
• 「我們希望獲得針對長文件 RAG 優化的模型，並能在 1 萬以上 token 語境下保持穩定效能。」

您無需瞭解精確的模型名稱、供應商或基準測試縮寫。Dori 會詮釋您的描述，並將其轉化為技術選型標準。

2. 跨 LLM 市集的智慧搜尋

蒐集到您的需求後，Dori 會在 DGrid LLM 市集 中進行搜尋 —— 該市集透過單一介面彙整了 200 多種 LLMs。

Dori 具備以下能力：

• 依據以下條件過濾候選模型：
  • ​任務適配性​（例如：聊天、程式碼開發、RAG、多語系支援）
  • ​語境視窗​（短語境 vs 長語境，例如 1 萬以上 tokens）
  • 延遲與成本配置檔
  • 其他相關的運營特性
• 根據您的優先級對模型進行排名：
  • 吞吐量與延遲敏感度
  • 品質與成本的權衡
  • 特定能力需求（例如：程式開發、推理、多語系支援）
• 回傳 ​一份精簡且相關的建議模型清單​，讓您無需手動瀏覽數十個供應商頁面和基準測試表格。

3. 統一的真實工作負載測試

在 Dori 提出入選模型清單後，它會協助您在 DGrid 內的 單一環境 中測試這些模型：

• 直接在平臺上對候選模型執行 測試驗證
• 使用 ​您自有 Prompt、文件和場景​，而非泛用範例
• 在 統一、一致的設定 下評估模型，確保比較結果具有意義

這消除了常見的作業模式問題：

• 各供應商獨立的測試環境
• 針對每個 API 編寫的臨時指令碼
• 螢幕截圖、筆記和試算表分散在各種工具中

4. 結構化、可共用的評估

Dori 會生成清晰、結構化的輸出結果，您可與團隊共用並討論，例如：

• 每款候選模型的 範例輸出結果
• 有關模型行為與適用性的 定性筆記
• 測試期間觀察到的 延遲與效能指標
• 符合您預期流量模式與負載的 成本估算

團隊不再依賴「直覺」和片面資訊，而是能基於可追溯的評估記錄，選擇「最適合我方使用場景的模型」。

5. 與 AI 閘道的緊密整合

Dori 與 AI 閘道直接聯動，因此您透過 Dori 探索和測試的所有模型，都可立即透過以下方式整合至生產環境：

• 一組 API Keys
• 一個統一的端點
• 一套一致的 API 介面

核心優勢：

• 無需為每個供應商單獨配置身份驗證、SDK 或端點
• 透過 Dori 驗證的模型，無需新增供應商整合即可直接使用
• 日後更換模型僅需 ​修改配置​，無需重新開發專案

典型使用場景

多語系客服

• 需求：用於多語系聊天機器人的低延遲、高成本效益 LLM（例如：英文、西班牙文、葡萄牙文）
• Dori 的協助方式：
  • 詮釋多語系與延遲需求
  • 找出適合上述語言的對話式客服模型
  • 允許您使用真實的客戶查詢和對話流程進行測試

程式碼輔助工具與開發者工具

• 需求：一款用於 Python、TypeScript 等語言的程式碼生成、解釋與重構模型
• Dori 的協助方式：
  • 重點標出具備強大推理與程式開發能力的模型
  • 強調支援大程式庫的長語境能力
  • 協助您使用真實程式庫、程式碼片段或任務進行測試驗證

長語境 RAG 與文件應用

• 需求：在 1 萬以上 token 語境下，長文件擷取增強生成（RAG）能保持穩定效能
• Dori 的協助方式：
  • 依據語境長度與 RAG 適配性過濾模型
  • 允許您使用實際文件與擷取設定進行評估
  • 生成報告，記錄大語境下的模型品質與效能表現

不同使用者類型的效益

個人開發者與新創團隊

• 專注於產品與使用者體驗，而非：
  • 鑽研各供應商文件
  • 整合多個 API 與 SDK
• 快速迭代：
  • 透過 Dori 嘗試多款模型
  • 透過市集鎖定一款（或多款）模型
  • 當更優秀的新模型推出時，可隨時更換

企業與大型平臺

• 透過以下方式標準化跨業務單位的 LLM 存取：
  • 與 LLM 市集的單一整合
  • 透過 Dori 實現共用的評估流程
• 降低長期維護成本：
  • 避免為每個供應商打造自訂化整合方案
  • 隨著生態系演進，保持採用新模型的彈性

Web3 與鏈上專案

• 打造 AI 驅動的代理程式、去中心化應用（dApps）與協議，其模型核心具備以下特性：
  • 可隨時間升級
  • 可跨供應商多元部署
• 保留鏈上與鏈下整合邏輯，同時：
  • 透過配置變更或擴充底層 LLMs
  • 避免每次採用新模型時出現中斷性變更