跳到主要內容
727財經
繁體中文

Perplexity開源新檢索模型:0.6B小模型能直接查9B建立的索引

動察 Beating AI 快訊,Perplexity 開源兩款多模態 embedding 模型 pplx-embed-v2-late,分別為 0.6B 和 9B。兩款模型的向量互相兼容,開發者可以用 9B 大模型建立資料庫,再用 0.6B 小模型處理日常搜索,不必每次查詢都運行大模型。

新模型還支持文字、圖片和 PDF 頁面檢索。普通 embedding 模型通常把一段內容壓縮成一個向量,容易丟失細節。新模型為每個 token 保留一個 128 維向量,讓搜索詞分別匹配文檔中的相關內容。處理 PDF、PPT 和掃描件時,可以直接把頁面圖像轉換成向量,無需先用 OCR 提取文字,也能保留圖表、表格和排版信息。

兩款模型由同一個 18B 教師模型訓練而來,共用一套向量空間。官方在 ViDoRe v3 圖片檢索測試中發現,用 0.6B 模型建庫和查詢,得分為 62.3%;改用 9B 建庫、0.6B 查詢,得分提高到 63.5%。完全使用 9B 模型的得分則為 65.2%。

兩款模型權重已在 Hugging Face 按 MIT 協議開放。

相關資訊

  1. AguilaTrades 累計虧損超 3800 萬美元後再開 40 倍槓桿 BTC 空單

  2. DeepSeek網頁及API出現部分中斷,已實施修復

  3. 上海首例盜用大模型算力案宣判:男子用AI偽造簽名牟利獲刑

  4. 分析:XPL閃崩推手曾連環操盤FARTCOIN等幣,資金鍊與4月可疑團隊高度重合

  5. Cipher第三季度淨利潤3160萬美元,收入同比下降63%