🍀 Spring Date with Fortune, Prizes with Raffle! Growth Value Phase 1️⃣ 7️⃣ Spring Raffle Carnival Begins!
Seize Spring's Good Luck! 👉 https://www.gate.com/activities/pointprize?now_period=17
🌟 How to Participate?
1️⃣ Enter [Square] personal homepage, click the points icon next to your avatar to enter [Community Center]
2️⃣ Complete Square or Hot Chat tasks such as posting, commenting, liking, speaking to earn growth value
🎁 Every 300 points can raffle once, 10g gold bars, Gate Red Bull gift box, VIP experience card and more prizes waiting for you to win!
Details 👉 https://www.gate.com/ann
Google 開發了「Pied Piper 類似物」以八倍加速神經網絡計算 - ForkLog:加密貨幣、人工智能、奇點、未來
Google 的研究部門推出了 TurboQuant — 一種用於人工智慧的記憶體壓縮算法。用戶將這項技術比作《矽谷》系列劇中 Pied Piper 初創公司的技術。
TurboQuant 大幅降低了大型語言模型和向量搜索系統的資源需求。
人工智慧操作著複雜的多維數據陣列,存儲著詞語或圖像的信息。這些數據佔用大量快取空間,並且拖慢了回應生成速度。傳統的壓縮方法需要存儲額外的變數,經常抵消了優化的好處。
TurboQuant 通過兩個機制解決記憶體過度消耗的問題。第一個算法將向量轉換為極座標系統並壓縮主要數據。第二個則像數學控制器一樣,只用一個比特的記憶體來消除殘留的隱藏錯誤。
Cloudflare 的執行長 Matthew Princ 比較該算法與中國的 DeepSeek 模型的成就,該模型此前在設備成本最低的情況下展現了高效能。
開發者在開源模型 Llama、Gemma 和 Mistral 上測試了這項技術。算法將快取壓縮到三比特,且不影響回答質量。記憶體消耗至少減少六倍,H100 圖形加速器的計算速度提升了八倍。
這項創新不需要額外的神經網絡訓練。據公司保證,該技術將被應用於搜索算法和自有的 AI 產品,包括 Gemini。該項目的公開展示將於 2026 年在 ICLR 和 AISTATS 會議上舉行。
提醒一下,2026 年 3 月 25 日,Google 公布了其轉向後量子密碼學的計劃。