關於 Agent 的記憶我們已經連續聊了好幾週，雖然 LangGraph 的教程裏還有不少細節功能，但我認為它們有點偏向進階微操作，日常開發中出場率不高，所以就不多贅述了。
今天，我想直接跳到下一個我認為超有用、而且在開發 AI 應用時必備的概念：
Breakpoint (斷點)
這就是讓 Agent 從獨行俠變成能與人類協作的關鍵：Human-in-the-loop (人機協作)。
從預測機器到自作主張的 Agent
我們先退一步，看看這幾年大模型 (LLM) 是怎麼進化的。
最初，模型只是一個預測下一個字的機器，給它上文，它猜下一個字。
後來，經過人類回饋強化學習 (RLHF) 的調教，它成為了對答機器。
幾年前我們學會了給模型額外的工具 (Tools)，它開始能與外部環境互動，會查資料、寫程式、測程式、操作資料庫等等。
雖然強大，但問題在於：
它一旦動起來，就很難叫它停下來
給它一個任務，然後它就開始埋頭苦幹，做完之後才回頭跟我報告。
如果只是查查天氣、算算 6 x 7 倒還好，但假如它的任務是：
給全公司發一封電子郵件
在本地環境清除檔案
萬一它理解錯誤，或者剛好發神經，後果可不是人人能負擔得起。
因此我們需要一個審核 (Approval) 的功能，在做危險動作前，要先問過老闆 (即是我們) 才行。