當你對AI的依賴度不斷提高,遇到Token用量上限的頻率,是否也開始增加?
程式教育機構五倍學院共同創辦人高見龍,同時也是國際頂尖AI實驗室Anthropic的台灣社群大使。去年他以個人之力,用每月兩百美元的訂閱費,就與AI協作出一套可以實際運作的售票系統ezBundle。
他認為,在訂閱制的限額下使用AI,其實跟跑馬拉松很像,如果不想在執行關鍵任務的時候,才發現Token所剩無幾,就必須做好「配速」這項功課。
不過,光是緊盯Token用量的變化,是做不好這件事的,高見龍根據本身經驗,整理出六大重要觀念,可以幫助你做「AI配速」時,更輕鬆愉快。
一、提供AI詳盡工作說明書
把「預算、偏好、限制」所有要求先說清楚
很多人可能認為AI的摘要梳理能力很強,所以會習慣性將所有文件資料,一股腦直接丟給AI;但實際上,如果可以先整理成結構清楚的工作說明書,AI運作起來就會更有效率。
舉例來說,相比於只給AI一句「幫我做會員系統」,更好的指令會是把「要做什麼項目、不做什麼項目、驗收的條件和限制等」都寫清楚。
就好像請設計師裝潢房子,如果你只是丟一堆參考圖片給對方,然後說「幫我弄漂亮一點」,對方可能只能一直猜,因為你對漂亮的定義與設計師的想法未必相同。
但如果你把裝潢的預算、風格偏好、哪些地方不能動、完成後要怎麼驗收等項目,一開始就先逐項梳理清楚,幫助設計師更精準掌握你口中「漂亮一點」的偏好和邊界,那就可以為雙邊省下大量後續需要反覆溝通的成本。
二、資料不是越多越好
不要讓重點埋在多餘的上下文裡
「真正昂貴的不是模型,而是不必要的上下文。」高見龍表示,雖然隨著AI能力不斷進化,一次可以讀取的上下文內容已經越來越長,但這不代表餵AI的資訊越多就越好,因為這麼做,反而可能讓真正重要的資訊被淹沒。
提供「剛剛好」滿足任務需求的資訊給AI,反而可以幫助AI更聚焦、執行效率更好,自然也不會耗費更多的Token。
三、別只把AI當搜尋引擎
讓它當團隊夥伴,務必做好分工
因為AI具備基本搜尋能力,漸漸的,很多人已習慣想到什麼問題就直接丟給AI,這當然是種用法;可是,就像一家公司通常不會把業務、客服、財務的任務都交給同一個人處理,你對待AI也應如此。
舉例來說,如果一個任務你不論發想、規畫,還是執行細節,都直接在同一個AI對話框裡發問,那每次消耗掉的Token量,其實會隨著對談次數的累積不斷放大。
因為不論你問的問題是否跟前面的討論有關,AI在給出回應前,都會重新讀取。很多時候,Token就是在這個「看不見的過程」中被浪費掉的。
反過來說,當分工越清楚,例如請代理人A扮演企畫,負責創意發想;再讓代理人B擔任財務,確認企畫案的可行性,如此一來,每一個AI代理人只需要知道它該知道的資訊,既可以節省Token,產出的品質也會更穩定。
四、流程比提示詞更重要
先拆解任務架構、再個別處理細節
面對省Token的課題,很多人花時間研究提示詞該怎麼下,但現在對Token消耗量影響更大的,其實是「流程」。
用餐廳營運來比喻,一個好的提示詞,像是一張完美的菜單,它是餐廳能否將每天備料用得剛剛好的基礎;只是,光是有好菜單還不夠,如果廚房內的動線設計混亂,導致備料得一直重做,又或者是每張訂單都需要反覆確認,那最終成本還是會很高。
反之,流程設計得越好,Token消耗量就越低。
以實體活動策畫為例,若採取「要求AI一次產出完整企畫案」的做法,後續一旦場地等不同分項需要微調,AI就得重讀整個企畫案的資料。
更好的做法可以是先拆解任務:第一步先請AI規畫大架構,確認後,再分別拉出硬體清單、人員配置等項目,個別處理。如此,之後遇到問題,就只須針對單一項目討論,不必帶著整包企畫案反覆陪跑,自然能省下大量Token。
五、Token用量不等同價值
得有意識思考:「如何選用合適模型」
Token用量是很好的成本依據,但不適合直接對標某一項生產力,必須再往下一層、或下兩層,做交叉檢視。
就像一個業務員的表現好壞,不能單看他打了幾通電話,更要進一步審視他的業績成交量、客戶服務滿意度,才能定調對方的價值。
終究Token只是一個計量單位,不等同於價值。建立了這項認知,你才會更有意識去思考每一次任務的模型選用,以及決定是否真的有使用AI的必要。
六、「不浪費」才是重點
多花一點Token優化,反而成本更低、更省!
當Token消耗的速度越來越快,社群上開始有許多人分享可以省Token的技巧。
但要注意的陷阱是,在省Token的同時,AI能力和效果可能也會被省掉。
其實在追求AI最佳化使用這件事情上,重點不應該放在怎麼省Token,而應該是「不浪費」。就像是有時候你多做了一步,看似多花了一些Token,實際上若以最終的整體成本角度去看,反而成本是更低的。
例如,如果要製作一份AI工作的說明書,代表你需要多花一點時間,並且先消耗一些Token去產出說明書規格。
但好處是,先建立明確的工作指引,就可以降低AI後續執行任務時的錯誤率,避免AI方向走歪,得一路反覆修正的浪費。
一開始,「怎麼問AI」,決定了誰可以把AI用得更好,但現在已經不能只是問對問題,包括「給AI什麼資料」、「工作流程怎麼設計」,都會決定誰可以在同樣Token用量限額內,創造更大價值。