什麼是 OpenAI Dots?常駐型 AI 代理實用指南

OpenAI Dots 主題圖片

大多數 AI 助理會等待提示、產生回覆,然後停止運作。OpenAI Dots 的運作方式不同。Dot 可以接下一項持續性的責任、保留相關專案脈絡、在對話之間持續推進工作,並在取得成果或需要人類決策時回來回報。

因此,相較於一般聊天工作階段,Dot 更像是一位持續投入工作的助理。它們可以監控不斷變化的資訊、協調任務並持續推進專案,不需要使用者每次都重新建立脈絡。

然而,「常駐運作」並不代表工作量無上限、存取權不受限制,或能完全獨立行動。Dots 的運作仍受已連接應用程式的權限、核准規則、使用額度及內建安全控管所限制。

本文將說明 OpenAI Dots 是什麼、能做什麼、有哪些界線,以及什麼情況下使用自訂的 API 型代理會更合適。

什麼是 OpenAI Dots?

OpenAI 將 Dots 描述為能夠持續處理長期專案與責任的主動式助理。

使用者會為 Dot 提供目標、脈絡與界線。接著,Dot 可以:

  • 規劃後續步驟
  • 在對話之間持續工作
  • 追蹤專案進度
  • 使用已連接的應用程式
  • 操作自己的雲端電腦
  • 協調委派的背景工作
  • 回傳成果以供審查
  • 在需要人類判斷時要求決策
  • 在需求或優先順序變更時進行調整

Dots 在 ChatGPT 內以受管理的代理體驗運作,並由 GPT-6 Astra 驅動。它們不是開發者透過標準 API 端點傳送模型 ID 即可呼叫的獨立基礎模型。

這項差異很重要。單純呼叫底層語言模型,不會自動具備 Dots 所包含的持久記憶、雲端電腦、排程、權限或核准系統。

Dots 與一般 ChatGPT 對話有何不同

一般聊天通常會等待使用者繼續互動。Dot 則可以在對話之間持續處理被指派的責任。

即使當下的對話已結束,Dot 仍能繼續工作。一旦接下持續性的責任,它就能追蹤變化、在需要時繼續工作,並主動回報最新進度。它可以暫停後再繼續,不必為每個步驟設定固定排程;也能使用背景代理同時處理多項任務,而使用者仍可繼續與它對話。

一般 ChatGPT 對話與 OpenAI Dot 功能比較,呈現持續性專案上下文、雲端運算、應用程式連接、主動執行任務與人工審批等核心差異。

OpenAI Dots 是產品層,而不是 API 模型

「OpenAI Dots API」這個說法可能會造成誤解。

Dots 結合了多項元件:

  • 基礎模型
  • 持久脈絡
  • 任務規劃
  • 背景執行
  • 雲端電腦存取
  • 應用程式連線
  • 排程
  • 記憶
  • 權限
  • 核准工作流程
  • 活動追蹤
  • 安全監控

一般模型 API 只提供這套架構中的一部分。開發者若要建置類似的代理,必須自行提供其餘的協調與治理層。

截至本文撰寫時,OpenAI 將 Dots 定位為 ChatGPT 內的代理功能,而不是可透過第三方模型聚合平台存取的獨立模型端點。

透過 ApiSmart 使用模型並不會建立 OpenAI Dot。ApiSmart 可以改為提供模型層,協助開發者建置自己的持久型代理。

OpenAI Dots 可以做什麼?

OpenAI 將 Dots 定位為適合處理會隨時間持續進行,並隨新資訊出現而改變的工作。

1. 軟體開發

Dot 可以監控客戶意見、找出重複出現的需求、界定較小型的改進項目、實作變更、執行測試,並準備 Pull Request 供審查。

開發者仍會審查並核准這些變更,而 Dot 則負責大部分的調查、實作與測試工作。

OpenAI 特別描述了一種工作流程:Dot 將客戶意見轉化為經過測試的修正,並回傳完整的 Pull Request,附上展示變更內容的影片。

2. 產品上市

上市計畫經常變動。產品範圍、定位、截止日期及創意需求都可能改變。

Dot 可以:

  • 追蹤更新後的需求
  • 修改上市計畫
  • 準備新的內容草稿
  • 更新相關文件
  • 找出尚未解決的相依事項
  • 在需要核准時通知團隊

這與要求聊天機器人產生一次性的上市計畫不同。隨著專案變化,這項責任會持續有效。

3. 研究與分析

研究型 Dot 可以監控新證據、重新執行分析並更新報告。

可能的任務包括:

  • 監看指定的資訊來源
  • 整理新證據
  • 重新計算結果
  • 更新圖表
  • 修改輔助說明
  • 標示互相矛盾的研究結果
  • 準備可供審查的文件

人工審查仍然很重要,尤其是當工作會影響科學、醫療、法律或財務決策時。

4. 內容工作流程

Dot 可以協助將訪談、逐字稿及來源素材轉換為:

  • 節目摘要
  • 社群媒體草稿
  • 文章大綱
  • 影片片段建議
  • 內容行事曆
  • 更新後的行銷活動素材

由於它會持續接收意見,因此能將已核准的變更套用至相關素材,而不是將每份草稿都視為獨立的要求。

5. 銷售與企業專案

針對持續進行的企業商機,Dot 可以比較客戶需求與產品文件、找出尚未解答的技術問題,並隨著測試結果或需求變化更新提案。

銷售團隊可以保留對客戶承諾的控制權,同時將研究、文件製作及協調工作委派出去。

使用者可在哪裡與 Dot 互動?

Dots 可透過支援的 ChatGPT 使用體驗使用,包括桌面版、網頁版及行動應用程式。

OpenAI 也說明可透過 Slack 和 Microsoft Teams 等通訊平台進行互動。Dot 可以在支援的管道之間保留相關脈絡,使用者不必在每個介面重新建立專案資訊。

僅將 Dot 加入頻道,不一定代表已授權它監控所有內容。使用者必須定義它應監看的內容,以及可採取哪些動作。

可用性與使用額度

OpenAI 表示,符合資格的 Pro 與 Business Premium 方案包含第一個 Dot。它可以持續供對話與日常協助使用,而較深入的工作則受另一套額度限制。

OpenAI 也表示,未來使用者將能新增更多 Dots,並提高其執行速度或每月可完成的工作量。

可用性可能因下列因素而異:

  • 訂閱方案
  • 國家或地區
  • 工作區設定
  • 使用者年齡
  • 管理員核准
  • 產品推出階段

組織應直接在自己的 ChatGPT 帳戶中確認目前的可用性與使用限制。方案中包含 Dot 並不代表可進行無上限的背景工作。

權限與人工核准

由於 Dots 可以持續工作並與已連接的應用程式互動,因此權限與核准比一般聊天更為重要。

Dots 採用多層控制機制:

  • 現有的應用程式權限
  • 內建安全要求
  • 針對特定操作的核准檢查
  • 選用的自訂規則
  • 人工接手
  • 活動審查
  • 暫停與停止控制

在某項操作影響帳戶或分享資訊之前,自動審查機制會依據使用者指示、權限及安全要求評估該操作。

依操作內容而定,Dot 可能直接執行、要求核准,或將該步驟交回使用者處理。

自訂規則選項

使用者可以定義下列規則:

規則

預期行為

不詢問即採取行動

在已核准的範圍內執行指定操作

收到指示時採取行動

在收到明確要求後執行

採取行動前先詢問

在執行操作前立即要求核准

交由使用者處理

要求使用者自行執行該操作

例如,可以允許 Dot 撰寫客戶電子郵件草稿,但要求它在寄送前先取得核准。刪除共享檔案則可以一律交由使用者執行。

自訂規則無法凌駕內建安全要求,也無法授予尚未連接之應用程式的存取權。

主動研究比直接授權的工作受到更多限制

Dots 可以在尚未收到新要求前尋找相關更新。OpenAI 將此稱為主動研究。

進行主動研究時,Dot 可以從已獲准的連接來源讀取資訊並儲存私人筆記。這些研究工具無法直接:

  • 傳送訊息
  • 變更應用程式內容
  • 控制瀏覽器
  • 控制電腦

後續操作必須通過一般的權限與安全檢查。

兩者的差異很簡單:

  • 主動讀取資訊並找出機會是可行的。
  • 根據該機會採取行動,則需要適用的權限或核准。

記憶與資料界線

Dot 可以從 ChatGPT 接收記憶與近期對話脈絡。與 Dot 的對話也可能納入 ChatGPT 記憶。

關閉 ChatGPT 記憶會停止未來的資訊共享,但不會自動清除 Dot 先前已收到的資訊。因此,使用者在指派敏感工作前,應先檢查記憶與資料控制設定。

團隊應事先決定:

  • Dot 可以存取哪些資料來源
  • 哪些專案包含機密資訊
  • 哪些資訊可以保留
  • 哪些操作需要核准
  • 應如何稽核工作
  • 持續性的責任何時應結束

暫停 Dot 不等於停止所有工作

持久型工作會建立多種不同的狀態。

OpenAI 區分下列情況:

  • 暫停 Dot 的主要任務
  • 停止已委派的背景任務
  • 取消排定的任務
  • 刪除 Dot

暫停主要任務不一定會停止每項已委派工作,或移除未來的排程。停止工作時,已完成的操作也不會自動復原。

使用者應分別檢查進行中的工作與排定任務,再確認所有活動是否已結束。

OpenAI Dots、Codex、ChatGPT Work 與自訂代理比較

選項

最適合的用途

持久性

自訂程度

一般 ChatGPT

問答、寫作與分析

以對話為導向

中等

OpenAI Dots

持續性的個人或團隊責任

內建

受管理的產品控制

Codex

軟體開發與程式碼儲存庫任務

視任務與環境而定

著重開發用途

ChatGPT Work

一般知識工作與電腦操作任務

視工作流程而定

受管理的工具與應用程式

自訂 API 代理

產品特定的自動化

由開發者實作

最高

如果您希望在 ChatGPT 內使用持續運作的代理,又不想自行建置協調系統,請選擇 Dot。

如果您需要下列功能,請選擇自訂 API 代理:

  • 面向使用者的產品,而非個人助理
  • 精準控制工作流程
  • 自訂記憶與檢索機制
  • 不受供應商限制的模型路由
  • 應用程式專用工具
  • 詳細的成本歸屬
  • 自訂核准邏輯
  • 自己的使用者與權限系統
  • 在 ChatGPT 之外部署

開發者如何建置類似 Dot 的代理

持久型 API 代理需要的不只是一項模型呼叫。

實用的架構包括:

  1. 目標儲存區
    記錄持續性的責任、範圍與成功標準。
  2. 狀態與記憶
    儲存已完成的步驟、決策、證據及尚未解決的問題。
  3. 排程器或事件系統
    在計時器到期或新資料抵達時喚醒代理。
  4. 規劃器
    根據目前狀態選擇下一個安全步驟。
  5. 模型層
    執行推理、擷取、生成及工具選擇。
  6. 工具閘道
    提供對應用程式與內部服務的受控存取。
  7. 權限引擎
    判斷操作是否允許、需要核准或必須拒絕。
  8. 驗證層
    檢查產生的程式碼、結構化資料及商業規則。
  9. 人工核准佇列
    提交高影響力的操作以供審查。
  10. 稽核記錄
    記錄提示、模型版本、工具、核准與結果。
  11. 預算控制
    限制 token、工具呼叫次數、執行時間及平行工作量。
  12. 停止條件
    定義目標何時已完成、失效或不宜安全地繼續進行。

基本的持久型代理迴圈

簡化後的代理工作流程可能如下:

Receive goal
    |
    v
Load current state and permissions
    |
    v
Check for new events or information
    |
    v
Choose the next action
    |
    +-- Read-only action ------> Execute and update state
    |
    +-- Validated internal task -> Execute, test and record
    |
    +-- External side effect ---> Request approval
    |
    +-- Unsafe or unclear ------> Pause and notify user
    |
    v
Evaluate completion or schedule next run

模型不應是判斷自身操作是否安全的唯一元件,權限與驗證應由應用程式碼強制執行。

使用 ApiSmart 作為模型層

ApiSmart 讓開發者能透過相同且相容 OpenAI 的 API 存取支援的模型。

它不提供受管理的 Dots 產品本身,但可以為自訂的持久型代理提供模型層。

ApiSmart 的標準基礎 URL 為:

https://gw.apismart.ai/v1

基本的 Python 請求如下:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["APISMART_API_KEY"],
    base_url="https://gw.apismart.ai/v1",
)

response = client.chat.completions.create(
    model=os.environ["APISMART_MODEL_ID"],
    messages=[
        {
            "role": "system",
            "content": (
                "You are the planning component of a persistent agent. "
                "Return one next action. Never perform external actions directly. "
                "Mark actions with side effects as requiring approval."
            ),
        },
        {
            "role": "user",
            "content": """
Goal: Monitor product feedback and prepare weekly improvement proposals.

Current state:
- 43 new feedback items
- 12 items already classified
- No implementation has been approved

Return JSON with:
- next_action
- reason
- required_tool
- approval_required
- completion_condition
""",
        },
    ],
)

print(response.choices[0].message.content)

確切的模型 ID 應從目前的 ApiSmart 模型目錄複製。

周邊應用程式(而非模型)必須負責儲存目標、觸發未來執行、使用工具、強制執行權限及要求核准。

為什麼持久型代理適合使用多模型 API?

持久型代理可能會針對不同工作使用不同模型,例如使用快速模型進行分類、推理模型進行規劃、程式設計模型進行實作,以及多模態模型處理螢幕截圖。

ApiSmart 讓支援的模型能透過共用 API 結構存取,協助團隊集中管理驗證,並在不同模型間切換,不必為每個供應商分別維護整合。

這能讓代理只在任務確實需要時才使用更強大的模型。

自訂代理的正式環境防護措施

在允許代理持續運作之前,請實作:

  • 最小權限工具存取
  • 預設採用唯讀模式
  • 對具有外部影響的操作進行明確核准
  • 每項任務的 token 與成本預算
  • 工具呼叫次數上限
  • 冪等性控制
  • 逾時設定
  • 迴圈偵測
  • 來源與證據追蹤
  • 結構化輸出驗證
  • 版本化提示
  • 完整稽核記錄
  • 緊急停止控制
  • 目標到期規則
  • 為每項持續性責任指定人類負責人

持久型目標也應具備過期狀態政策。如果專案已取消、客戶需求改變,或原始假設已失效,代理應暫停,而不是繼續產生過時的工作成果。

OpenAI Dots 還是自訂 API 代理?

如果您想在 ChatGPT 內使用具備內建記憶、雲端執行、已連接應用程式與控制機制的受管理代理,請選擇 Dots。如果代理需要存在於您自己的產品內、使用自訂工具與商業邏輯、支援外部使用者,或讓您完整控制記憶、模型路由、權限及合規性,則應建置自訂 API 代理。

部分組織可能會同時採用兩者:使用 Dots 處理內部知識工作,並使用自訂 API 代理支援面向客戶的產品或專門的營運工作流程。

哪些情況適合使用 Dots?OpenAI Dots 持續性 AI 工作流程,展示上下文記憶、背景任務、應用程式連接、雲端運算、審批控制,以及透過 ApiSmart 建立 Agent 工作流程的方式。

Dots 是為不會在一次提示後就結束的工作而設計。它們的不同之處在於將持續性脈絡、背景工作、已連接的應用程式、雲端電腦存取及核准控制整合於單一受管理產品中。

Dots 仍受方案可用性、權限、工作額度及安全規則限制。不應將它們描述為不受限制的自主工作者,也不是任何開發者都能直接呼叫的模型 API。

對於希望在 ChatGPT 內使用受管理助理的團隊,Dots 提供了一條直接實現持續性 AI 輔助工作的途徑。

對開發者而言,主要啟示是:持久型代理需要的不只是一個優秀模型,還需要狀態、排程、工具、權限、驗證、監控及明確的停止條件。

ApiSmart 可以為這類自訂代理提供模型層,讓開發者透過單一且相容 OpenAI 的 API 存取支援的模型,並讓工作流程的不同階段採用不同模型。

常見問題

什麼是 OpenAI Dots?

Dots 是 ChatGPT 中的持久型代理,可以在對話之間持續推進工作、使用已連接的應用程式,並回傳成果或需要審查的決策。

OpenAI Dots 是新的 AI 模型嗎?

不是。Dots 是由 GPT-6 Astra 驅動的受管理代理產品。該產品還包含記憶、雲端執行、已連接的應用程式、權限及核准控制。

有 OpenAI Dots API 嗎?

OpenAI 目前將 Dots 定位為 ChatGPT 產品體驗,而不是獨立的模型端點。開發者可以利用模型 API 建置類似的持久型代理,但必須自行實作協調、記憶、工具及控制機制。

ApiSmart 可以提供 OpenAI Dots 的存取服務嗎?

ApiSmart 提供的是支援的 AI 模型,而不是受管理的 Dots 產品。開發者建置自己的持久型代理時,可以使用 ApiSmart 作為模型層。

Dots 不需要人工核准也能運作嗎?

部分操作可以在預先定義的權限內執行,其他操作則需要核准或由人類接手。使用者可以審查活動、管理權限並定義自訂規則。

Dot 可以在主動研究期間傳送訊息或變更已連接的應用程式嗎?

其主動研究工具為唯讀。後續操作必須通過一般的權限、核准及安全檢查。

每種 ChatGPT 方案都能使用 Dots 嗎?

OpenAI 表示,符合資格的 Pro 與 Business Premium 方案包含第一個 Dot。可用性可能因地區、帳戶類型及工作區設定而異。

暫停 Dot 時會發生什麼事?

暫停 Dot 的主要任務,可能不會停止所有已委派的任務或取消未來排程。使用者應分別檢查進行中的工作與排定任務。

如何建置類似 Dot 的代理?

將模型 API 與持久狀態、記憶、事件觸發器、工具、核准工作流程、驗證、監控、預算及停止條件結合。