什麼是 OpenAI Dots?常駐型 AI 代理實用指南
大多數 AI 助理會等待提示、產生回覆,然後停止運作。OpenAI Dots 的運作方式不同。Dot 可以接下一項持續性的責任、保留相關專案脈絡、在對話之間持續推進工作,並在取得成果或需要人類決策時回來回報。
因此,相較於一般聊天工作階段,Dot 更像是一位持續投入工作的助理。它們可以監控不斷變化的資訊、協調任務並持續推進專案,不需要使用者每次都重新建立脈絡。
然而,「常駐運作」並不代表工作量無上限、存取權不受限制,或能完全獨立行動。Dots 的運作仍受已連接應用程式的權限、核准規則、使用額度及內建安全控管所限制。
本文將說明 OpenAI Dots 是什麼、能做什麼、有哪些界線,以及什麼情況下使用自訂的 API 型代理會更合適。
什麼是 OpenAI Dots?
OpenAI 將 Dots 描述為能夠持續處理長期專案與責任的主動式助理。
使用者會為 Dot 提供目標、脈絡與界線。接著,Dot 可以:
- 規劃後續步驟
- 在對話之間持續工作
- 追蹤專案進度
- 使用已連接的應用程式
- 操作自己的雲端電腦
- 協調委派的背景工作
- 回傳成果以供審查
- 在需要人類判斷時要求決策
- 在需求或優先順序變更時進行調整
Dots 在 ChatGPT 內以受管理的代理體驗運作,並由 GPT-6 Astra 驅動。它們不是開發者透過標準 API 端點傳送模型 ID 即可呼叫的獨立基礎模型。
這項差異很重要。單純呼叫底層語言模型,不會自動具備 Dots 所包含的持久記憶、雲端電腦、排程、權限或核准系統。
Dots 與一般 ChatGPT 對話有何不同
一般聊天通常會等待使用者繼續互動。Dot 則可以在對話之間持續處理被指派的責任。
即使當下的對話已結束,Dot 仍能繼續工作。一旦接下持續性的責任,它就能追蹤變化、在需要時繼續工作,並主動回報最新進度。它可以暫停後再繼續,不必為每個步驟設定固定排程;也能使用背景代理同時處理多項任務,而使用者仍可繼續與它對話。

OpenAI Dots 是產品層,而不是 API 模型
「OpenAI Dots API」這個說法可能會造成誤解。
Dots 結合了多項元件:
- 基礎模型
- 持久脈絡
- 任務規劃
- 背景執行
- 雲端電腦存取
- 應用程式連線
- 排程
- 記憶
- 權限
- 核准工作流程
- 活動追蹤
- 安全監控
一般模型 API 只提供這套架構中的一部分。開發者若要建置類似的代理,必須自行提供其餘的協調與治理層。
截至本文撰寫時,OpenAI 將 Dots 定位為 ChatGPT 內的代理功能,而不是可透過第三方模型聚合平台存取的獨立模型端點。
透過 ApiSmart 使用模型並不會建立 OpenAI Dot。ApiSmart 可以改為提供模型層,協助開發者建置自己的持久型代理。
OpenAI Dots 可以做什麼?
OpenAI 將 Dots 定位為適合處理會隨時間持續進行,並隨新資訊出現而改變的工作。
1. 軟體開發
Dot 可以監控客戶意見、找出重複出現的需求、界定較小型的改進項目、實作變更、執行測試,並準備 Pull Request 供審查。
開發者仍會審查並核准這些變更,而 Dot 則負責大部分的調查、實作與測試工作。
OpenAI 特別描述了一種工作流程:Dot 將客戶意見轉化為經過測試的修正,並回傳完整的 Pull Request,附上展示變更內容的影片。
2. 產品上市
上市計畫經常變動。產品範圍、定位、截止日期及創意需求都可能改變。
Dot 可以:
- 追蹤更新後的需求
- 修改上市計畫
- 準備新的內容草稿
- 更新相關文件
- 找出尚未解決的相依事項
- 在需要核准時通知團隊
這與要求聊天機器人產生一次性的上市計畫不同。隨著專案變化,這項責任會持續有效。
3. 研究與分析
研究型 Dot 可以監控新證據、重新執行分析並更新報告。
可能的任務包括:
- 監看指定的資訊來源
- 整理新證據
- 重新計算結果
- 更新圖表
- 修改輔助說明
- 標示互相矛盾的研究結果
- 準備可供審查的文件
人工審查仍然很重要,尤其是當工作會影響科學、醫療、法律或財務決策時。
4. 內容工作流程
Dot 可以協助將訪談、逐字稿及來源素材轉換為:
- 節目摘要
- 社群媒體草稿
- 文章大綱
- 影片片段建議
- 內容行事曆
- 更新後的行銷活動素材
由於它會持續接收意見,因此能將已核准的變更套用至相關素材,而不是將每份草稿都視為獨立的要求。
5. 銷售與企業專案
針對持續進行的企業商機,Dot 可以比較客戶需求與產品文件、找出尚未解答的技術問題,並隨著測試結果或需求變化更新提案。
銷售團隊可以保留對客戶承諾的控制權,同時將研究、文件製作及協調工作委派出去。
使用者可在哪裡與 Dot 互動?
Dots 可透過支援的 ChatGPT 使用體驗使用,包括桌面版、網頁版及行動應用程式。
OpenAI 也說明可透過 Slack 和 Microsoft Teams 等通訊平台進行互動。Dot 可以在支援的管道之間保留相關脈絡,使用者不必在每個介面重新建立專案資訊。
僅將 Dot 加入頻道,不一定代表已授權它監控所有內容。使用者必須定義它應監看的內容,以及可採取哪些動作。
可用性與使用額度
OpenAI 表示,符合資格的 Pro 與 Business Premium 方案包含第一個 Dot。它可以持續供對話與日常協助使用,而較深入的工作則受另一套額度限制。
OpenAI 也表示,未來使用者將能新增更多 Dots,並提高其執行速度或每月可完成的工作量。
可用性可能因下列因素而異:
- 訂閱方案
- 國家或地區
- 工作區設定
- 使用者年齡
- 管理員核准
- 產品推出階段
組織應直接在自己的 ChatGPT 帳戶中確認目前的可用性與使用限制。方案中包含 Dot 並不代表可進行無上限的背景工作。
權限與人工核准
由於 Dots 可以持續工作並與已連接的應用程式互動,因此權限與核准比一般聊天更為重要。
Dots 採用多層控制機制:
- 現有的應用程式權限
- 內建安全要求
- 針對特定操作的核准檢查
- 選用的自訂規則
- 人工接手
- 活動審查
- 暫停與停止控制
在某項操作影響帳戶或分享資訊之前,自動審查機制會依據使用者指示、權限及安全要求評估該操作。
依操作內容而定,Dot 可能直接執行、要求核准,或將該步驟交回使用者處理。
自訂規則選項
使用者可以定義下列規則:
|
規則 |
預期行為 |
|
不詢問即採取行動 |
在已核准的範圍內執行指定操作 |
|
收到指示時採取行動 |
在收到明確要求後執行 |
|
採取行動前先詢問 |
在執行操作前立即要求核准 |
|
交由使用者處理 |
要求使用者自行執行該操作 |
例如,可以允許 Dot 撰寫客戶電子郵件草稿,但要求它在寄送前先取得核准。刪除共享檔案則可以一律交由使用者執行。
自訂規則無法凌駕內建安全要求,也無法授予尚未連接之應用程式的存取權。
主動研究比直接授權的工作受到更多限制
Dots 可以在尚未收到新要求前尋找相關更新。OpenAI 將此稱為主動研究。
進行主動研究時,Dot 可以從已獲准的連接來源讀取資訊並儲存私人筆記。這些研究工具無法直接:
- 傳送訊息
- 變更應用程式內容
- 控制瀏覽器
- 控制電腦
後續操作必須通過一般的權限與安全檢查。
兩者的差異很簡單:
- 主動讀取資訊並找出機會是可行的。
- 根據該機會採取行動,則需要適用的權限或核准。
記憶與資料界線
Dot 可以從 ChatGPT 接收記憶與近期對話脈絡。與 Dot 的對話也可能納入 ChatGPT 記憶。
關閉 ChatGPT 記憶會停止未來的資訊共享,但不會自動清除 Dot 先前已收到的資訊。因此,使用者在指派敏感工作前,應先檢查記憶與資料控制設定。
團隊應事先決定:
- Dot 可以存取哪些資料來源
- 哪些專案包含機密資訊
- 哪些資訊可以保留
- 哪些操作需要核准
- 應如何稽核工作
- 持續性的責任何時應結束
暫停 Dot 不等於停止所有工作
持久型工作會建立多種不同的狀態。
OpenAI 區分下列情況:
- 暫停 Dot 的主要任務
- 停止已委派的背景任務
- 取消排定的任務
- 刪除 Dot
暫停主要任務不一定會停止每項已委派工作,或移除未來的排程。停止工作時,已完成的操作也不會自動復原。
使用者應分別檢查進行中的工作與排定任務,再確認所有活動是否已結束。
OpenAI Dots、Codex、ChatGPT Work 與自訂代理比較
|
選項 |
最適合的用途 |
持久性 |
自訂程度 |
|
一般 ChatGPT |
問答、寫作與分析 |
以對話為導向 |
中等 |
|
OpenAI Dots |
持續性的個人或團隊責任 |
內建 |
受管理的產品控制 |
|
Codex |
軟體開發與程式碼儲存庫任務 |
視任務與環境而定 |
著重開發用途 |
|
ChatGPT Work |
一般知識工作與電腦操作任務 |
視工作流程而定 |
受管理的工具與應用程式 |
|
自訂 API 代理 |
產品特定的自動化 |
由開發者實作 |
最高 |
如果您希望在 ChatGPT 內使用持續運作的代理,又不想自行建置協調系統,請選擇 Dot。
如果您需要下列功能,請選擇自訂 API 代理:
- 面向使用者的產品,而非個人助理
- 精準控制工作流程
- 自訂記憶與檢索機制
- 不受供應商限制的模型路由
- 應用程式專用工具
- 詳細的成本歸屬
- 自訂核准邏輯
- 自己的使用者與權限系統
- 在 ChatGPT 之外部署
開發者如何建置類似 Dot 的代理
持久型 API 代理需要的不只是一項模型呼叫。
實用的架構包括:
- 目標儲存區
記錄持續性的責任、範圍與成功標準。 - 狀態與記憶
儲存已完成的步驟、決策、證據及尚未解決的問題。 - 排程器或事件系統
在計時器到期或新資料抵達時喚醒代理。 - 規劃器
根據目前狀態選擇下一個安全步驟。 - 模型層
執行推理、擷取、生成及工具選擇。 - 工具閘道
提供對應用程式與內部服務的受控存取。 - 權限引擎
判斷操作是否允許、需要核准或必須拒絕。 - 驗證層
檢查產生的程式碼、結構化資料及商業規則。 - 人工核准佇列
提交高影響力的操作以供審查。 - 稽核記錄
記錄提示、模型版本、工具、核准與結果。 - 預算控制
限制 token、工具呼叫次數、執行時間及平行工作量。 - 停止條件
定義目標何時已完成、失效或不宜安全地繼續進行。
基本的持久型代理迴圈
簡化後的代理工作流程可能如下:
Receive goal
|
v
Load current state and permissions
|
v
Check for new events or information
|
v
Choose the next action
|
+-- Read-only action ------> Execute and update state
|
+-- Validated internal task -> Execute, test and record
|
+-- External side effect ---> Request approval
|
+-- Unsafe or unclear ------> Pause and notify user
|
v
Evaluate completion or schedule next run
模型不應是判斷自身操作是否安全的唯一元件,權限與驗證應由應用程式碼強制執行。
使用 ApiSmart 作為模型層
ApiSmart 讓開發者能透過相同且相容 OpenAI 的 API 存取支援的模型。
它不提供受管理的 Dots 產品本身,但可以為自訂的持久型代理提供模型層。
ApiSmart 的標準基礎 URL 為:
https://gw.apismart.ai/v1
基本的 Python 請求如下:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["APISMART_API_KEY"],
base_url="https://gw.apismart.ai/v1",
)
response = client.chat.completions.create(
model=os.environ["APISMART_MODEL_ID"],
messages=[
{
"role": "system",
"content": (
"You are the planning component of a persistent agent. "
"Return one next action. Never perform external actions directly. "
"Mark actions with side effects as requiring approval."
),
},
{
"role": "user",
"content": """
Goal: Monitor product feedback and prepare weekly improvement proposals.
Current state:
- 43 new feedback items
- 12 items already classified
- No implementation has been approved
Return JSON with:
- next_action
- reason
- required_tool
- approval_required
- completion_condition
""",
},
],
)
print(response.choices[0].message.content)
確切的模型 ID 應從目前的 ApiSmart 模型目錄複製。
周邊應用程式(而非模型)必須負責儲存目標、觸發未來執行、使用工具、強制執行權限及要求核准。
為什麼持久型代理適合使用多模型 API?
持久型代理可能會針對不同工作使用不同模型,例如使用快速模型進行分類、推理模型進行規劃、程式設計模型進行實作,以及多模態模型處理螢幕截圖。
ApiSmart 讓支援的模型能透過共用 API 結構存取,協助團隊集中管理驗證,並在不同模型間切換,不必為每個供應商分別維護整合。
這能讓代理只在任務確實需要時才使用更強大的模型。
自訂代理的正式環境防護措施
在允許代理持續運作之前,請實作:
- 最小權限工具存取
- 預設採用唯讀模式
- 對具有外部影響的操作進行明確核准
- 每項任務的 token 與成本預算
- 工具呼叫次數上限
- 冪等性控制
- 逾時設定
- 迴圈偵測
- 來源與證據追蹤
- 結構化輸出驗證
- 版本化提示
- 完整稽核記錄
- 緊急停止控制
- 目標到期規則
- 為每項持續性責任指定人類負責人
持久型目標也應具備過期狀態政策。如果專案已取消、客戶需求改變,或原始假設已失效,代理應暫停,而不是繼續產生過時的工作成果。
OpenAI Dots 還是自訂 API 代理?
如果您想在 ChatGPT 內使用具備內建記憶、雲端執行、已連接應用程式與控制機制的受管理代理,請選擇 Dots。如果代理需要存在於您自己的產品內、使用自訂工具與商業邏輯、支援外部使用者,或讓您完整控制記憶、模型路由、權限及合規性,則應建置自訂 API 代理。
部分組織可能會同時採用兩者:使用 Dots 處理內部知識工作,並使用自訂 API 代理支援面向客戶的產品或專門的營運工作流程。
哪些情況適合使用 Dots?
Dots 是為不會在一次提示後就結束的工作而設計。它們的不同之處在於將持續性脈絡、背景工作、已連接的應用程式、雲端電腦存取及核准控制整合於單一受管理產品中。
Dots 仍受方案可用性、權限、工作額度及安全規則限制。不應將它們描述為不受限制的自主工作者,也不是任何開發者都能直接呼叫的模型 API。
對於希望在 ChatGPT 內使用受管理助理的團隊,Dots 提供了一條直接實現持續性 AI 輔助工作的途徑。
對開發者而言,主要啟示是:持久型代理需要的不只是一個優秀模型,還需要狀態、排程、工具、權限、驗證、監控及明確的停止條件。
ApiSmart 可以為這類自訂代理提供模型層,讓開發者透過單一且相容 OpenAI 的 API 存取支援的模型,並讓工作流程的不同階段採用不同模型。
常見問題
什麼是 OpenAI Dots?
Dots 是 ChatGPT 中的持久型代理,可以在對話之間持續推進工作、使用已連接的應用程式,並回傳成果或需要審查的決策。
OpenAI Dots 是新的 AI 模型嗎?
不是。Dots 是由 GPT-6 Astra 驅動的受管理代理產品。該產品還包含記憶、雲端執行、已連接的應用程式、權限及核准控制。
有 OpenAI Dots API 嗎?
OpenAI 目前將 Dots 定位為 ChatGPT 產品體驗,而不是獨立的模型端點。開發者可以利用模型 API 建置類似的持久型代理,但必須自行實作協調、記憶、工具及控制機制。
ApiSmart 可以提供 OpenAI Dots 的存取服務嗎?
ApiSmart 提供的是支援的 AI 模型,而不是受管理的 Dots 產品。開發者建置自己的持久型代理時,可以使用 ApiSmart 作為模型層。
Dots 不需要人工核准也能運作嗎?
部分操作可以在預先定義的權限內執行,其他操作則需要核准或由人類接手。使用者可以審查活動、管理權限並定義自訂規則。
Dot 可以在主動研究期間傳送訊息或變更已連接的應用程式嗎?
其主動研究工具為唯讀。後續操作必須通過一般的權限、核准及安全檢查。
每種 ChatGPT 方案都能使用 Dots 嗎?
OpenAI 表示,符合資格的 Pro 與 Business Premium 方案包含第一個 Dot。可用性可能因地區、帳戶類型及工作區設定而異。
暫停 Dot 時會發生什麼事?
暫停 Dot 的主要任務,可能不會停止所有已委派的任務或取消未來排程。使用者應分別檢查進行中的工作與排定任務。
如何建置類似 Dot 的代理?
將模型 API 與持久狀態、記憶、事件觸發器、工具、核准工作流程、驗證、監控、預算及停止條件結合。


