DeepSeek官方推薦:R1要這樣設置
金磊 發自 凹非寺
量子位 | 公眾號 QbitAI
家人們,咱們到底該如何部署DeepSeek-R1,才能體驗最佳啊?
對於這個問題,DeepSeek官方發話了:

DeepSeek推薦的設置非常簡單,只有四項內容。
其中三項,其實在此前相關文檔中有所涉及,我們在這裏再來回顧一下。
首先,是別用系統提示詞(No system prompt),所有的指令都應該包含在用戶提示詞中。
至於原因,網民認為是因為R1就是這麼被訓練而來的。

其次,是把Temperature設置為0.6。
DeepSeek在GitHub文檔中的解釋是:
將Temperature設置在0.5-0.7(建議0.6)的範圍內,以防止無休止的重覆或輸出不一致。
第三點,則是一份緩解模型繞過思維的指南,包含兩個細分內容:
-
對於數學問題,建議在你的提示中包含一個指令,如:「請一步一步地推理,並將你的最終答案放在\boxed{}內。」
-
在評估模型性能時,建議進行多次測試並對結果進行平均。

新的設置推薦
除了上述已有的三點之外,這次DeepSeek官方在推文中引入了一個新的推薦——
官方提示搜索和文件上傳。
DeepSeek表示:
上傳文件時,請按照模板創建提示,其中{file_name}, {file_content}和{question}是參數。
file_template = \
"""[file name]: {file_name}
[file content begin]
{file_content}
[file content end]
{question}"""
對於Web搜索,{search_results}, {cur_data}和{question}是參數。
對於中文查詢,使用提示詞:

對於英文查詢,使用提示詞:

相應內容在DeepSeek官方GitHub的README文檔中也有更新,感興趣的小夥伴可以進一步瞭解下~
DeepSeek官方GitHub:
https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md
參考鏈接:
[1]https://x.com/deepseek_ai/status/1890324295181824107
[2]https://www.reddit.com/r/LocalLLaMA/comments/1i9k284/why_should_one_avoid_adding_a_system_prompt_with/