Google 開發了「Pied Piper 類似物」以八倍加速神經網絡計算 - ForkLog:加密貨幣、人工智能、奇點、未來

robot
摘要生成中

Google 2025# Google 開發了「Pied Piper 類似物」,用於神經網絡計算的八倍加速

Google 的研究部門推出了 TurboQuant — 一種用於人工智慧的記憶體壓縮算法。用戶將這項技術比作《矽谷》系列劇中 Pied Piper 初創公司的技術。

TurboQuant 是新的 Pied Piper 🤣 pic.twitter.com/iMAYJs02zt

— Justin Trimble (@justintrimble) 2026年3月25日

TurboQuant 大幅降低了大型語言模型和向量搜索系統的資源需求。

人工智慧操作著複雜的多維數據陣列,存儲著詞語或圖像的信息。這些數據佔用大量快取空間,並且拖慢了回應生成速度。傳統的壓縮方法需要存儲額外的變數,經常抵消了優化的好處。

TurboQuant 通過兩個機制解決記憶體過度消耗的問題。第一個算法將向量轉換為極座標系統並壓縮主要數據。第二個則像數學控制器一樣,只用一個比特的記憶體來消除殘留的隱藏錯誤。

Cloudflare 的執行長 Matthew Princ 比較該算法與中國的 DeepSeek 模型的成就,該模型此前在設備成本最低的情況下展現了高效能。

這是 Google 的 DeepSeek。還有很多空間可以優化 AI 推理的速度、記憶體使用、功耗和多租戶利用率。@Cloudflare 的許多團隊都專注於這些領域。#敬請期待 https://t.co/hHoY4sLT2I

— Matthew Prince (@eastdakota) 2026年3月25日

開發者在開源模型 Llama、Gemma 和 Mistral 上測試了這項技術。算法將快取壓縮到三比特,且不影響回答質量。記憶體消耗至少減少六倍,H100 圖形加速器的計算速度提升了八倍。

這項創新不需要額外的神經網絡訓練。據公司保證,該技術將被應用於搜索算法和自有的 AI 產品,包括 Gemini。該項目的公開展示將於 2026 年在 ICLR 和 AISTATS 會議上舉行。

提醒一下,2026 年 3 月 25 日,Google 公布了其轉向後量子密碼學的計劃。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言