Zoom研究人員推出了一種稱為草稿鏈（COD）的新提示技術，它可以從根本上改變人工智能模型處理推理任務的方式。
通過重新考慮AI如何生成響應，COD將令牌使用減少92％，並將運營成本降低90％。這種方法不依賴於傳統的AI推理模型，而是迫使AI在保持準確性的同時進行構造和高效。
這一突破是在大型語言模型（LLMS）消耗量增加的計算能力的時候ro-empty-id=mtcznto3mjy=-1; base64，phn2zyb2awv3qm94psiwidagnzy3idqxnsigd2lkdgg9igc2nnyigagvpzvpzvpzvpzpzpzpzpzpzpzpzpzpzpzi0mtuiiiihhtbg5zpsjppsjpsjodhrnymdnymd y.8 awlvdy8vdy8vdy8vdy8vdy8vdyrnvyy8vdy8vdy8vyy8vdy8 lmdnvyy8vdyrnvyy8vdyy8vdy8 ylvdy8 lmdnlvyy8vdyrmdnlnvyy8vdy8v 9ZDMC+“>
現在的問題是像COD這樣的技術是否會影響更廣泛的行業，尤其是當OpenAi，Google，Microsoft和其他人等主要參與者面臨降低成本的越來越大的壓力。
草稿鏈的起作用
提示策略旨在提高AI推理的效率，同時減少計算開銷。它建立在思想鏈（COT）提示的基礎上，這鼓勵大型語言模型（LLMS）將復雜的問題分解為多步驟的解釋。
雖然COT已被證明有效地改善了邏輯推理，但它顯著增加了標記的用法，導致成本更高的響應時間和較慢的響應時間。 COD試圖通過實施一種簡約的方法來解決這些低效率，以中間推理步驟。
COD背後的核心原理是模仿人類在解決複雜問題時如何處理信息。 COD並沒有在每個步驟中生成詳細的解釋，而是指示模型僅產生基本的中間結果- Akin，即一個人在解決問題時如何記下一些關鍵說明。這種結構化的簡潔性允許LLMS保持邏輯準確性，同時大大減少不必要的代幣產生。