DeepSeek官方推薦:R1要這樣設置

金磊 發自 凹非寺

量子位 | 公眾號 QbitAI

家人們,咱們到底該如何部署DeepSeek-R1,才能體驗最佳啊?

對於這個問題,DeepSeek官方發話了:

DeepSeek推薦的設置非常簡單,只有四項內容。

其中三項,其實在此前相關文檔中有所涉及,我們在這裏再來回顧一下。

首先,是別用系統提示詞(No system prompt),所有的指令都應該包含在用戶提示詞中。

至於原因,網民認為是因為R1就是這麼被訓練而來的。

其次,是把Temperature設置為0.6

DeepSeek在GitHub文檔中的解釋是:

將Temperature設置在0.5-0.7(建議0.6)的範圍內,以防止無休止的重覆或輸出不一致。

第三點,則是一份緩解模型繞過思維的指南,包含兩個細分內容:

  • 對於數學問題,建議在你的提示中包含一個指令,如:「請一步一步地推理,並將你的最終答案放在\boxed{}內。」

  • 在評估模型性能時,建議進行多次測試並對結果進行平均。

新的設置推薦

除了上述已有的三點之外,這次DeepSeek官方在推文中引入了一個新的推薦——

官方提示搜索和文件上傳

DeepSeek表示:

上傳文件時,請按照模板創建提示,其中{file_name}, {file_content}和{question}是參數。

file_template = \"""[file name]: {file_name}[file content begin]{file_content}[file content end]{question}"""

對於Web搜索,{search_results}, {cur_data}和{question}是參數。

對於中文查詢,使用提示詞:

對於英文查詢,使用提示詞:

相應內容在DeepSeek官方GitHub的README文檔中也有更新,感興趣的小夥伴可以進一步瞭解下~

DeepSeek官方GitHub:

https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md

參考鏈接:

[1]https://x.com/deepseek_ai/status/1890324295181824107

[2]https://www.reddit.com/r/LocalLLaMA/comments/1i9k284/why_should_one_avoid_adding_a_system_prompt_with/