Anthropic正開發開源系統FlashProve，用密碼學證明AI輸出來源

PANews 11月4日消息，據IT之家報道，Anthropic正在開發一套名為FlashProve的開源系統，通過密碼學證明驗證某一AI輸出究竟由哪個模型生成。該系統旨在實現「可證明推理」，為用戶提供數學層面的保證，確認收到的答案確實來自其認為正在使用的模型，並抵御將一個模型偽裝成另一個模型的行為。

FlashProve工作原理類似加密電子郵件簽名，可為每個模型提供不洩露權重的「指紋」，之後與特定輸出匹配驗證。研究人員稱，該系統有望防止AI公司暗中換用更便宜的模型，或企業換用更昂貴模型抬高測試結果，也可驗證第三方關於某項任務由先進模型完成的聲明。系統設計輕量化，用戶可在本地設備完成驗證。Anthropic已公佈技術規範及可運行代碼，代碼已在GitHub以開源許可證公開。目前研究仍在進行，Anthropic尚未計劃部署該系統。