Jade Bridge店主指南開設商店 →
認識06 / 18

模型

每位員工用來思考的模型、清單從哪裡來、由誰的帳戶付費、供應商額度用盡時會怎樣,以及每日模型開支上限。

後台位置AI 員工 → 大腦 → 模型與金鑰AI 員工 → 員工 → 某位員工 → 設定AI 員工 → 大腦 → 模型開支財務 → AI 供應商帳單
負責夥伴TomVeraEmi

每位員工都用一個模型來思考,管理後台稱之為大腦。由你選擇用哪一個。一位員工最多有三個:用於對話與決策的「對話」大腦、用於分類或擷取等大量內部工作的「批次」大腦(大多數呼叫),以及用於大量商品文案與翻譯的「內容」模型(「設定所有員工」選擇器稱它為「內容」)。Emi 另有一個用於特賣圖像的「圖像」模型。

AI 員工 → 大腦 → 模型與金鑰

頁面標題是「AI 大腦」。從上到下:

  • 模型主機。商店有自己的模型主機時顯示:它是否在執行,以及載入了哪個模型。
  • 這家店可使用的模型。你商店所在的區域允許哪些供應商,依各供應商自己公開的條款判定。不在此提供的供應商會連同原因列出,在每個選擇器中呈灰色,且無法儲存。「我們的大腦在此提供。」表示平台的自有模型在你的區域執行。
  • 設定所有員工。一次為每位員工設定同一個供應商與模型。
  • 「設定所有員工」下方的卡片是商店的預設大腦。供應商、模型、API 金鑰、批次配對,以及進階欄位:端點(Base URL)、思考強度與最大 token 數。沒有自己選擇的員工都使用這一個。
  • 任務路由。哪些內部任務在「對話」大腦上執行,哪些在「批次」上執行。「預設」把任務留在平台安排的位置;更改過的任務顯示「已覆寫」。

清單中的供應商有 Anthropic(Claude)、OpenAI(或相容服務)、Qwen(Alibaba)、DeepSeek、Moonshot(Kimi),以及平台的自有模型,選擇器稱它為「我們的自有模型(已含)」。它不需要金鑰;它的金鑰框顯示「不需金鑰 — 已含」。

/admin/agents/brainsAI 大腦。這家店在其區域可使用的模型、一次設定所有員工的控制項、商店的預設大腦與其金鑰,以及任務路由。
AI 大腦。這家店在其區域可使用的模型、一次設定所有員工的控制項、商店的預設大腦與其金鑰,以及任務路由。

一次移動所有員工:

  1. 在「設定所有員工」底下,選擇「哪一個大腦」:對話、批次或內容。
  2. 選擇「供應商」與「模型」。
  3. 如果 Vera 應該保留比來請示她的員工更強的大腦,就讓「讓 Vera(主管)留在目前的大腦」保持勾選。
  4. 按「套用至全部」。頁面會列出誰移動了、誰沒有。

單一員工的大腦

每位員工自己的選擇在他們的「設定」頁:AI 員工 → 員工 → 該員工 → 設定。那裡的「大腦」卡片顯示供應商、模型、「批次供應商」與「批次模型」,以及該員工有的「內容」或「圖像」模型。「使用預設模型」與「與主模型相同」會跟隨商店的預設。

  1. 開啟該員工的「設定」頁。
  2. 選擇「供應商」,再選擇「模型」。
  3. 選擇批次配對,或保留「與主供應商相同」。
  4. 按「儲存」。它會在該員工的下一次請求時生效。「重設為預設」會把該員工放回商店的預設大腦。

卡片下方有兩個開關。「不受每日開支上限限制」會在當天預算用盡時讓這位員工留在自己的大腦上;每一次呼叫仍然會計算。請保留給少數必須隨時回應的工作台。「專用模型連線」會在商店的模型主機上為這位員工單獨保留一條連線。

你自己的金鑰,或透過平台

輸入 API 金鑰框的金鑰屬於你在該供應商的帳戶。儲存的當下就會向供應商驗證,卡片會顯示「金鑰已於」某日期「在供應商處驗證」,或「供應商拒絕了此金鑰:」連同供應商的說明。使用你自己金鑰的用量由供應商向你收費,平台不會收費。金鑰留在你的商店裡;平台從來看不到它。

在「設定 → 整合」為同一家供應商儲存的金鑰也是同樣的計算方式:那些用量是你與供應商之間的,絕不是平台的。沒有自己金鑰而使用的供應商,是在平台於該供應商的帳戶上執行,那些用量會出現在平台發票上你的「Order Form(訂購單)」底下。平台的自有模型已包含在內:它的用量會計算讓你看得到,但絕不會開立發票。

Qwen 可以從 Alibaba 在你所在區域的端點呼叫。「大腦」頁會說明今天使用的是哪個端點,以及要在「設定 → 整合 → Qwen」加入什麼(該區域的 Model Studio 工作區及其金鑰)才能讓提示詞留在該區域。

清單由平台替你維護

各供應商提供的模型來自平台的目錄,目錄每天讀取各供應商的清單。新模型只有在被判定值得採用、跑過一組固定的測試任務(員工做的每一種工作各一項:為商品分類、翻譯時保留佔位符、精確到分地讀取帳單、裁決超過上限的金額、撰寫短文案、精確讀取簡短的狀態清單)、全部通過並訂出價格之後,才會提供。

供應商撤下的模型會從清單中消失。沒有人會替你搬動:把員工移到較新的模型是你的事,在他們的「設定」頁或用「設定所有員工」操作。

供應商額度用盡時

如果供應商因額度不足而拒絕,員工仍會繼續工作。被拒絕的請求會依此順序改在別處執行:該員工自己的批次大腦,如果那是平台的模型;否則是商店的預設大腦,如果那是平台的模型;否則是「AI 員工 → 大腦 → 設定」中指定的替補模型。帳戶儲值後員工會回到自己的大腦;「模型開支」會顯示工作去了哪裡。只是忙碌或無法連線的供應商會等待,而不是被取代。

Tom 在「財務 → AI 供應商帳單」監看餘額。每家供應商顯示餘額、「可用天數」、每日「預估消耗」與讀取時間,或「缺少憑證」或「無法連線」。下方是兩次讀取之間的變動,以及與各供應商自己帳務紀錄的核對。當餘額低於下限、可用天數不到七天,或某家供應商無法讀取時,Tom 會在「AI 員工 → 大腦 → 問題」的「需要人來決定」底下發出警示。連接了 Slack 時,你也會收到一則私訊,說明是哪個帳戶、哪些員工在它上面執行,以及去哪裡儲值:如果 Yuka 是你的助理,由她發出;否則由 Tom 發給商店的每位擁有者。如果兩天後沒有人回應,會再說一次。沒有 Slack 時,它會像任何需要人來決定的問題一樣以 Email 送達擁有者(見〈與他們對話〉)。恢復後他會說明並關閉警示。儲值是你的事:Tom 只會提出,從不付款。他的門檻是他規則編輯器上的一條平台規則(「團隊不會無預警地用盡額度」):餘額下限、可用天數警示,以及未回應的警示多久重複一次,全部可調整,不可關閉。

/admin/finance/provider-billingAI 供應商帳單。Tom 最近一次讀取時各供應商的餘額、可用天數與每日消耗,以及兩次讀取之間的變動。
AI 供應商帳單。Tom 最近一次讀取時各供應商的餘額、可用天數與每日消耗,以及兩次讀取之間的變動。

AI 員工 → 大腦 → 模型開支

外部供應商的付費模型今天花了多少,以兩道上限來衡量。商店附帶的模型已包含在內,永遠不計入上限,所以只用它執行的商店在這裡沒有需要留意的。這裡的一天是 UTC 日。

  • 今日已花費,連同軟性上限與硬性停止、一條進度條,以及一句說明你目前位置的話。超過軟性上限後,昂貴的模型會換成較便宜的。超過硬性停止後,當天其餘時間付費呼叫會被拒絕,有平台自有模型的員工改在它上面執行;豁免上限的員工則繼續。
  • 無法訂價的模型。過去七天內使用過但沒有價格的,在各處都以 $0.00 計算,包括對照上限,直到你訂出價格。
  • 今天按模型與今天按工作,各花了多少。
  • 各上限:「每日模型開支上限(USD)」(出廠為 5)、「硬性停止 = 此數 × 每日上限」(2),以及每百萬輸入 token 超過多少價格就算高價模型(0.5)。
  • 較便宜的替補模型。每家供應商在超過軟性上限後,其昂貴模型改用的模型,或「沒有更便宜的模型—改為停止」。
  • 價格。每百萬 token 的輸入、輸出與快取輸入,標示「估計」或「已查核」,旁邊是內建價格。
/admin/agents/spend模型開支。今天的支出對照軟性上限與硬性停止、花在哪裡、各上限、較便宜的替補模型,以及每個模型的價格。
模型開支。今天的支出對照軟性上限與硬性停止、花在哪裡、各上限、較便宜的替補模型,以及每個模型的價格。

提高每日上限:

  1. 在「各上限」底下,於「每日模型開支上限(USD)」輸入新數字。
  2. 按 Enter。它會立即儲存並顯示「已覆寫」;「重設」會回到預設,0 則關閉上限。

帳單與價格不符時要修正價格,在「價格」表的對應輸入框填入數字,然後點到其他地方。清空輸入框會讓該數字回到內建價格;「回到內建」會重設整列。