ChatGPT 回答是否有字符或字數限制?
ChatGPT 如何確定響應的長度?
ChatGPT 的工作原理很復雜,響應長度因所詢問的內容和請求的詳細程度而異。正如下一張截圖所示,ChatGPT 聲稱沒有嚴格的限制。
下面的示例顯示了 ChatGPT 突然停止響應到句子中間。我們要求它起草一篇關于循環經濟好處的千字文章。ChatGPT 在達到 677 個單詞時停止響應。
我們用不同的問題重復了幾次測試,每次都在句子中間停止;有時,這會伴隨網絡錯誤。這是一個常見錯誤,在 ChatGPT 中有多種修復網絡錯誤的方法。
關于為什么會發生這種情況的部分答案在于稱為令牌系統的東西。
ChatGPT 使用什么令牌系統?
ChatGPT 使用令牌系統,而不是簡單的字數來確定查詢和答案的長度。這會將每個輸入和輸出分解為一系列用于對請求和響應大小進行分類的標記。
雖然字數統計確實起到了一定的作用,但這并不是全部。例如,下面的示例被輸入到OpenAi 的 Tokenizer 工具中。
句子和答案被“標記化”為九個標記的值。這與 OpenAI 的“經驗法則”是一致的,即一個 token 相當于一個單詞的四分之三。
GPT 3.5 模型將用戶問題和數據限制為 4,097 個令牌。根據 OpenAI 的計算,這相當于大約 3,000 個單詞。但是,請務必注意,此限制同時適用于答案和問題。
雖然這在理論上都很好,但我們遇到的結果從未接近這些限制。ChatGPT 在我們之前的測試中返回的不完整答案僅包含 798 個令牌。
為什么 ChatGPT 的響應有限?
這項剛剛起步的技術迅速成為本世紀最受關注的技術發展。這對 ChatGPT 產生了巨大的需求。最終,這種需求有效地減少了遠低于規定限度的響應。
雖然沒有官方證實這一點,但似乎實際上限制在 500 個單詞或 4,000 個字符左右。
需要強調的是,這不是一個固定的規則——我們生成的輸出超過了將近 200 個單詞。然而,這可以被認為是獲得完整答案的安全上限。
如何從 ChatGPT 獲得更長的響應
一旦您了解 ChatGPT 的回復存在“隱藏限制”,有一些簡單的方法可以幫助您獲得更完整的回復。
1、要求 ChatGPT 繼續:如果 ChatGPT 在回答中途停止,那么一種選擇是簡單地要求它繼續。在下面的例子中,我們輸入了“Go on”,它又在響應中添加了 200 個單詞。
2、把你的問題分成更小的部分:例如,我們多次要求它寫一篇關于人工智能對社會的影響的文章。每次響應停止。這里的一個選擇是要求它為一篇關于 AI 的文章指出一些主題,然后使用提供的要點作為單獨的提示。
3、使用“重新生成”選項:雖然這可能會引發相同的錯誤,但不會有任何損失,但始終值得一試。
4、在提示中指定字數上限:下圖說明了如何使用它來控制答案中的最大字數。
這些提示將幫助您從 ChatGPT 獲得更完整的答案,并解決其響應長度的非官方限制。
總結:ChatGPT 回答是否有字符或字數限制?(ChatGPT字數限制是多少?)
雖然 ChatGPT 的回復長度沒有設定限制,但該平臺似乎限制了大約 500 個單詞或 4,000 個字符。
這主要歸因于對 ChatGPT 的巨大需求。這導致答案不完整并在句子中間停止響應,但有一些簡單的解決方法可以幫助您獲得更長的答案。
盡管有其局限性,ChatGPT 仍然是一項非凡的技術發展,它將繼續發展和擴大其輸出的質量和數量界限。