跳到主要內容
727財經
繁體中文

Sonnet 5.5成首個防「推理抽取」的Sonnet:內部思考開始綁定賬號

動察 Beating AI 快訊,Anthropic 給 Sonnet 5.5 的思考塊又加了一層限制。現在模型生成的 thinking block 會和產生它的賬號或組織綁定。用戶在 Claude Code 等場景中途切換賬號時,聊天記錄可以繼續,但原賬號生成的 thinking 會被丟掉,Claude 需要根據現有對話重新推理。Anthropic 的 API 里已經加入 organization_binding_mismatch 和 end_user_binding_mismatch 等檢查。

Anthropic 此前已經從 Fable 5.1 開始給 thinking 加「上下文鎖」。系統提示詞、工具或前面的消息被修改後,原來的 thinking 就可能失效。這次又增加賬號綁定,主要防止攻擊者批量切換賬號,反復利用 Claude 已經生成的高質量推理做模型蒸餾。

Sonnet 5.5 還是首個配備防「推理抽取」分類器的 Sonnet。Anthropic 稱,Sonnet 5.5 的能力比上一代高出很多,因此開始給它增加這類防蒸餾措施。分類器主要識別大規模套取 Claude 推理、用於訓練其他模型的行為,普通開發者基本不會感受到變化。

相關資訊

  1. 哈塞特:人工智能泡沫確實值得擔憂,尊重沃什與美聯儲的判斷

  2. 台積電擬進軍先進內存芯片製造 應英偉達要求佈局3D DRAM

  3. 前FBI特工認罪,承認從35起調查中竊取約247萬美元加密資產

  4. 國常會:完善資本市場穩市機制,增強股市內在穩定性

  5. 美國10月非農就業人口增加16.5萬人,遠超預期,失業率降至4.1%

    PANews 11月6日消息,美國勞工統計局數據顯示,美國10月季調後非農就業人口增加16.5萬人,預期6.5萬人;9月數據由2.9萬人上修至6.0萬人,8月數據由13.3萬人上修至18.6萬人...