DeepSeek a annoncé un nouveau modèle MODEL1 : une avancée technologique en un an

robot
Création du résumé en cours

DeepSec a porté ses avancées techniques à de nouveaux sommets avec une annonce historique récente. Un an après le succès de DeepSec-R1 en janvier, la société se prépare à lancer un nouveau modèle, MODEL1. Cette nouvelle a été accueillie comme une grande avancée par les experts du secteur et la communauté technologique.

Révélations sur les changements techniques sur GitHub

DeepSec a indiqué de grands changements en mettant à jour son code sur GitHub. Parmi les 114 fichiers, 28 mentionnent “MODEL1” à différents endroits, ce qui montre l’ampleur des efforts pour le développement du nouveau modèle. Ces modifications dans le code Flash MLA sont particulièrement significatives et pointent vers une nouvelle orientation technologique.

MODEL1 vs V32 : nouvelle architecture

La version actuelle V32, connue sous le nom de DeepSec v3.2, sera différente de la nouvelle structure de MODEL1. Les différences principales se concentrent sur trois aspects clés : l’amélioration de la structure du cache KV, la modification de la méthode de quantification, et l’introduction d’une nouvelle technique d’encodage FP8D. Toutes ces modifications visent à rendre le système plus efficace.

Économies de mémoire et nouvelles avancées en calcul

Un avantage majeur de MODEL1 est l’optimisation de l’utilisation de la mémoire lors du traitement. Des stratégies innovantes ont été mises en place pour économiser la mémoire à différentes étapes du traitement. Ces changements permettront au nouveau modèle de DeepSec d’offrir de meilleures performances avec moins de ressources, ce qui constitue une avancée importante dans l’industrie.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler