Wu说 отримав інформацію про те, що CEO Tether Paolo Ardoino розповсюдив інформацію про нову версію QVAC Fabric команди Tether AI, яка, за його словами, являє собою перший у світі кросс-платформний фреймворк BitNet LoRA, заснований на бекендах Vulkan та Apple Metal, що підтримує AMD, Intel, Apple та мобільні GPU, дозволяючи мікротюнінгу та виконанню BitNet LoRA працювати на GPU різних виробників та операційних системах. Він стверджує, що вже демонстрував мікротюнінг моделей з параметрами до 3,8 мільярда на пристроях Pixel 9, S25, iPhone 16 та інших, і може виконувати мікротюнінг моделей з 13 мільярдами параметрів на iPhone 16; GPU-виконання на мобільних пристроях працює швидше за CPU в 2–11 разів, а споживання памʻяті зменшене на 90% в найкращому випадку.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити