Le 6 novembre, la 26e cérémonie de remise des prix des brevets chinois s'est tenue à Wuxi. Le brevet « Une méthode et un dispositif de traitement des demandes des utilisateurs » soumis par Alibaba Cloud a remporté le China Patent Gold Award. C'est le seul fournisseur de cloud à remporter la médaille d'or cette année. Cette technologie brevetée peut détecter de manière dynamique les changements dans la demande de puissance de calcul en temps réel, en particulier en réponse aux violentes vagues de demande à l'ère d'Internet et de l'IA, et permet une allocation à la demande, une mise à l'échelle à la demande et une fourniture sûre d'une puissance de calcul intelligente à très grande échelle. Elle peut la maintenir pendant les heures de pointe, la récupérer pendant les creux et isoler en toute sécurité plusieurs locataires.
Le China Patent Award est sélectionné conjointement par l'Office national de la propriété intellectuelle et l'Organisation mondiale de la propriété intellectuelle. Il s'agit de la plus haute distinction dans le domaine des brevets en Chine. Il n'y a pas plus de 30 récompenses d'or en matière de brevets d'invention dans chaque sélection nationale. Il s'agit d'une certification faisant autorité au niveau national des capacités d'innovation des entreprises et de la valeur d'industrialisation des brevets. À l'heure actuelle, Alibaba Cloud a déployé plus de 10 000 brevets dans le monde, couvrant plus de dix pays et régions, en se concentrant sur des domaines technologiques de base tels que le cloud computing, l'intelligence artificielle, les grands modèles et les puces.
Résoudre trois problèmes majeurs de planification intelligente de la puissance de calcul à très grande échelle à l'ère de l'IA
Les clusters de puissance de calcul intelligents à très grande échelle à l'ère de l'IA sont confrontés à de violentes marées de demande : le trafic soudain, les pics de formation et les pics d'inférence s'entrelacent et se superposent, testant constamment les limites de l'élasticité de la puissance de calcul. Entre les pics et les creux, la demande de puissance de calcul peut varier des centaines de fois : selon la configuration de pointe, un grand nombre de ressources seront inutilisées dans des conditions normales ; selon la configuration quotidienne, lorsque le pic viendra, il y aura des risques de capacité insuffisante et de service instable. Par conséquent, l'unification élastique d'une puissance de calcul hétérogène, la réponse instantanée aux charges dynamiques et une isolation sûre dans un environnement multi-tenant sont devenues les trois principaux défis de la puissance de calcul à très grande échelle à l'ère de l'IA.
L'invention principale du brevet d'Alibaba Cloud est une nouvelle façon de traiter les demandes des utilisateurs. Les solutions traditionnelles reposent sur la pré-allocation de ressources et l'attente passive des demandes, ce qui entraîne une inadéquation à long terme entre la configuration des ressources et la charge réelle. La méthode proposée dans ce brevet peut détecter dynamiquement les changements de demande en temps réel et faire correspondre intelligemment les demandes avec une puissance de calcul hétérogène sous-jacente, de sorte que chaque demande puisse recevoir une réponse de puissance de calcul rapide et adaptative.
Plus précisément, le système détecte les fluctuations de la charge de travail en temps réel entre les demandes des utilisateurs et la puissance de calcul massive, et alloue dynamiquement la puissance de calcul là où elle est le plus nécessaire. Augmente automatiquement la capacité pendant les périodes de pointe de l'activité et la réduit automatiquement pendant les périodes creuses, permettant ainsi à la puissance de calcul d'être fournie à la demande, comme « l'eau et l'électricité », et d'être utilisée à tout moment, en utilisant toutes les ressources de pointe. La stratégie de préchauffage élastique et l'amélioration de l'efficacité de la planification font également du démarrage de l'application en quelques secondes et de la réponse d'inférence de grand modèle au niveau de la milliseconde une réalité. Dans le même temps, les données de chaque application sont traitées et stockées dans des environnements d'exploitation indépendants, isolés les uns des autres et n'interfèrent pas les uns avec les autres. Tout en améliorant l’efficacité de l’utilisation des ressources, il crée également une barrière de protection de bout en bout pour la sécurité des données.
La puissance de calcul élastique sert plus efficacement diverses industries à l’ère de l’IA
S'appuyant sur l'accumulation de technologies telles que la planification élastique de la puissance de calcul, Alibaba Cloud a continué à incuber une série de produits couvrant l'informatique générale, la formation de modèles et le fonctionnement des agents. Les instances de super nœuds Lingjun Zhenwu, Agent Sandbox, la suite d'inférence AI du service de conteneur AI Serving Stack, le cache distribué Fluid, etc. ont été lancés les uns après les autres et ont été largement utilisés dans des milliers d'industries à l'ère de l'IA.
Par exemple, MiniMax peut lancer 5 000 sandbox en 10 secondes sur la base d'Alibaba Cloud Agent Sandbox, réduisant ainsi le coût total de possession de 25 % ; Dark Side of the Moon Kimi réalise une expansion élastique de dizaines de milliers de bacs à sable par minute, réduisant ainsi le temps de démarrage de 50 % et prend en charge une réponse commerciale stable avec une offre élastique ; Step Star combine Agent Sandbox avec Alibaba Cloud ACK pour exécuter des millions de sandbox de manière stable, réduisant ainsi le cycle d'évaluation du modèle de quelques semaines à quelques jours. 51job AI Recruitment Assistant accepte les demandes d'impulsions de niveau 10 000 via Agent Sandbox et l'hibernation hiérarchique, et prend en charge la récupération des données de session ; Kingsoft Office est basé sur Agent Sandbox et l'infrastructure cloud native d'Alibaba Cloud, permettant une acquisition sandbox au niveau de la milliseconde via le pool de préchauffage, combinant la planification des marées et la reprise après sinistre multicluster, en tenant compte de l'expérience, des coûts et de la continuité du service.
Yi Li, inventeur des brevets et responsable de la R&D sur les conteneurs et les bacs à sable chez Alibaba Cloud, a déclaré : « Le cloud computing est devenu une productivité clé aussi importante que la conservation de l'électricité et de l'eau. De l'Internet mobile à l'ère de l'IA, Alibaba Cloud s'est toujours concentré sur la perception en temps réel des changements de charge, la planification unifiée de la puissance de calcul hétérogène et l'isolation sûre dans les environnements multi-locataires. d'applications intelligentes."
modifier
Renvoyer l'e-mail Modifier l'e-mail
