如何跨多個LLM維持AI對話上下文
只使用一個AI的人越來越少。
您可能用ChatGPT快速整理想法,用Claude深入審查複雜結構,用Gemini或Perplexity找最新材料或比較多個來源,在需要不同視角時使用Grok、Copilot、DeepSeek或Mistral等工具。
每個LLM有不同的優勢。
使用者不將所有任務委託給一個AI,而是根據情況選擇最適合的AI。
問題是使用者的思維作為單一流程繼續,但AI對話被服務分隔。
思維繼續,但聊天視窗不連接
考慮跨多個AI推進單一專案的情況。
- 在ChatGPT中定義問題並設定方向。
- 在Claude中深入審查結構和例外條件。
- 在Gemini中找相關材料和不同視角。
- 在Perplexity中確認證據和來源。
- 在Copilot或其他工具中推進實際實現。
從使用者的角度,都是同一任務。
但每個AI存在於不同的聊天視窗和不同的服務。Claude不知道在ChatGPT中決定的標準,Gemini不繼承在Claude中整理的例外條件。
每次切換AI,都必須重新解釋之前的情況。
僅複製貼上不夠
最簡單的方法是複製之前的對話並貼上到新AI中。
在短對話中,這種方法可行。但隨著工作變長,問題出現。
- 必須重新判斷複製哪些部分。
- 重要決策和臨時想法在長原文中混合。
- 已放棄的選項可能被傳達給新AI。
- 不清楚使用者最終採納了什麼標準。
- 長對話不必要地消耗新AI的輸入限制。
- 每次開始新對話都重複相同的整理工作。
傳達所有原文不意味著思維流被準確傳達。
需要的不是整個之前對話而是關於到目前為止解決了什麼問題、決定了什麼以及從哪裡繼續的上下文。
即使摘要也可能丟失重要上下文
另一種方法是簡要總結長對話並傳達。
但簡單摘要容易遺漏以下資訊。
- 為什麼開始這個問題
- 比較了什麼選項
- 什麼條件導致排除特定方向
- 最終判斷的標準是什麼
- 什麼問題仍未解決
- 在下一次對話中從哪裡立即繼續
僅傳達結論意味著新AI可以知道結果但難以理解創造判斷的過程。
結果,它可能重新提出已審查的選項,或產生削弱使用者已確定標準的答案。
使用的LLM越多,越成為上下文管理者
因為AI服務被分隔,使用者必須自己管理上下文。
每次使用者開始新對話,都重複以下內容。
- 解釋當前正在進行的任務。
- 重新整理之前決定了什麼。
- 告知排除的方向及其原因。
- 傳達當前剩餘的問題。
- 驗證新AI是否正確理解了上下文。
切換AI的目的是獲得更好的幫助,但實際上很多時間花在連接AI之間的上下文上。
不在多個AI中丟失思維的能力正變得比使用多個AI的能力更重要。
5BY連接的不是帳戶而是思維流
5BY不是將多個AI服務合併到一個界面的工具。
每個AI在現有服務和聊天視窗中原樣使用。使用者可以自由選擇適合任務的AI。
5BY旨在連接的不是AI服務本身而是使用者在其中形成的思維。
為此,Anchor和Handoff扮演重要角色。
Anchor是儲存到目前為止流程的參考點
Anchor是使用者親自將對話中形成的重要上下文留作參考點的功能。
Anchor應包含的不僅是最後的答案而是下一次對話中需要的流程。
- 當前在解決的問題
- 到目前為止確認的事實
- 使用者選擇的方向
- 要堅持的標準和條件
- 排除的選項和原因
- 未解決的問題
- 繼續的點
使用者可以不復制整個對話而留下繼續思維的座標。
Handoff將那個參考點連接到另一個AI的新對話
Handoff是使在Anchor中留下的上下文在新對話中可用的過程。
例如,在ChatGPT中整理專案方向和標準後,可以在Claude中繼續深入審查。
不向新AI從頭重新解釋一切,而是將之前對話中確定的上下文作為起點提供。
Handoff的目的不是原樣複製答案。
而是幫助新AI在理解以下內容的基礎上開始工作。
- 使用者想做什麼
- 到目前為止做了什麼判斷
- 什麼不能改變
- 首先繼續解決哪個問題
即使AI變化,使用者的標準也必須維持
使用多個AI中最危險的不是答案表達不同。
而是使用者已設定的標準每次對話變化時都消失。
在一個AI中,您可能決定優先簡潔性,但另一個AI可能提出複雜結構。在之前的對話中,您可能決定排除特定功能,但在新對話中,那個功能可能作為核心提案重新出現。
新AI沒有錯;問題出現是因為沒有傳達之前的判斷。
要使Handoff正常工作,使用者要儲存的決策和標準必須清楚傳達,超越簡單的主題摘要。
應能在繼續相同工作的同時利用每個AI的優勢
使用多個AI的目的不是完全用一個AI替代另一個。
而是在需要的時刻利用每個AI的優勢。
- 需要想法時,使用擅長構思的AI。
- 需要複雜邏輯時,使用擅長分析的AI。
- 需要最新證據時,使用擅長搜尋的AI。
- 需要實現時,使用適合程式碼工作的AI。
工具可能變化,但使用者的專案和思維必須繼續。
5BY旨在將之前對話中創建的參考點連接到新對話的起點,使使用者每次切換AI時不回到起點。
必須連接的不是對話原文而是判斷上下文
原樣傳達所有對話內容不高效。
重要的是下一個AI繼續工作所需的上下文。
- 哪個問題重要
- 已經決定了什麼
- 必須堅持什麼約束
- 什麼尚未確定
- 下一個任務應從哪裡開始
當這些資訊被維持時,即使AI變化使用者也能繼續發展相同思維。
相反,當這個上下文消失時,無論留下多少對話原文,都要與新AI從頭開始。
使用多個AI時代所需的基礎
今後,AI模型將變得更加多樣,每個的優勢將更清楚。
使用者可能跨多個AI移動而非停留在一個。
那時需要的不是將所有AI統一為一個。
而是確保使用者的思維和決策即使AI變化也不中斷。
5BY的Handoff旨在幫助您從之前對話的重要上下文重新開始,無論使用ChatGPT、Claude、Gemini還是其他AI。
AI可能變化。
聊天視窗可能變化。
但使用者建立的思維流不應每次都回到起點。