Am 6. November fand in Wuxi die 26. Preisverleihung für chinesische Patente statt. Das von Alibaba Cloud eingereichte Patent „A User Request Processing Method and Device“ wurde mit dem China Patent Gold Award ausgezeichnet. Dies war der einzige Cloud-Anbieter, der dieses Jahr die Goldauszeichnung gewann. Diese patentierte Technologie kann Änderungen im Rechenleistungsbedarf dynamisch in Echtzeit erkennen, insbesondere als Reaktion auf die heftigen Nachfrageanstiege im Internet- und KI-Zeitalter, und ermöglicht eine bedarfsgerechte Zuteilung, bedarfsgerechte Skalierung und eine sichere Versorgung mit intelligenter Rechenleistung in extrem großem Maßstab – sie kann diese in Spitzenzeiten aufrechterhalten, in Tiefstzeiten wiederherstellen und mehrere Mieter sicher isolieren.
Der China Patent Award wird gemeinsam vom State Intellectual Property Office und der World Intellectual Property Organization ausgewählt. Es ist die höchste Auszeichnung auf dem Gebiet der Patente in meinem Land. In jeder nationalen Auswahl gibt es nicht mehr als 30 Goldauszeichnungen für Erfindungspatente. Es handelt sich um eine auf nationaler Ebene maßgebliche Zertifizierung der Innovationsfähigkeiten von Unternehmen und des Industrialisierungswerts von Patenten. Derzeit hat Alibaba Cloud weltweit mehr als 10.000 Patente in mehr als zehn Ländern und Regionen angemeldet und sich dabei auf Kerntechnologiebereiche wie Cloud Computing, künstliche Intelligenz, große Modelle und Chips konzentriert.
Lösen Sie drei Hauptprobleme bei der intelligenten Rechenleistungsplanung im großen Maßstab im KI-Zeitalter
Ultragroße intelligente Rechenleistungscluster im KI-Zeitalter sind mit heftigen Nachfragefluten konfrontiert: Plötzlicher Datenverkehr, Trainingsspitzen und Inferenzspitzen sind miteinander verflochten und überlagern sich, wodurch die Grenzen der Rechenleistungselastizität ständig auf die Probe gestellt werden. Zwischen Spitzen und Tälern kann der Bedarf an Rechenleistung um ein Vielfaches schwanken – je nach Spitzenkonfiguration sind unter normalen Bedingungen viele Ressourcen im Leerlauf; Je nach Tageskonfiguration besteht bei Spitzenzeiten das Risiko einer unzureichenden Kapazität und eines instabilen Dienstes. Daher sind die elastische Vereinheitlichung heterogener Rechenleistung, die sofortige Reaktion auf dynamische Lasten und die sichere Isolation in einer mandantenfähigen Umgebung zu den drei Kernherausforderungen der ultragroßen Rechenleistung im KI-Zeitalter geworden.
Die Kernerfindung des Patents von Alibaba Cloud ist eine neue Art der Bearbeitung von Benutzeranfragen. Herkömmliche Lösungen basieren auf der Vorabzuweisung von Ressourcen und dem passiven Warten auf Anfragen, was zu einer langfristigen Diskrepanz zwischen Ressourcenkonfiguration und tatsächlicher Auslastung führt. Die in diesem Patent vorgeschlagene Methode kann Bedarfsänderungen dynamisch in Echtzeit erfassen und Anforderungen intelligent mit der zugrunde liegenden heterogenen Rechenleistung abgleichen, sodass jede Anfrage eine zeitnahe und adaptive Antwort auf die Rechenleistung erhalten kann.
Konkret erkennt das System in Echtzeit Schwankungen der Geschäftslast zwischen Benutzeranfragen und enormer Rechenleistung und verteilt die Rechenleistung dynamisch dort, wo sie am meisten benötigt wird. Erweitert die Kapazität automatisch während Geschäftsspitzenzeiten und verkleinert sie automatisch während Geschäftstiefs, sodass Rechenleistung wie „Wasser und Strom“ nach Bedarf bereitgestellt und jederzeit genutzt werden kann, wobei alle Ressourcen auf dem neuesten Stand genutzt werden. Die elastische Vorwärmstrategie und die Verbesserung der Planungseffizienz ermöglichen auch den Anwendungsstart in Sekunden und die Reaktion großer Modellinferenzen im Millisekundenbereich. Gleichzeitig werden die Daten jeder Anwendung in unabhängigen Betriebsumgebungen verarbeitet und gespeichert, die voneinander isoliert sind und sich nicht gegenseitig stören. Es verbessert nicht nur die Effizienz der Ressourcennutzung, sondern baut auch eine durchgängige Schutzbarriere für die Datensicherheit auf.
Die elastische Rechenleistung bedient verschiedene Branchen im KI-Zeitalter effizienter
Basierend auf der Anhäufung von Technologien wie der elastischen Rechenleistungsplanung hat Alibaba Cloud weiterhin eine Reihe von Produkten entwickelt, die allgemeines Rechnen, Modelltraining und Agentenbetrieb abdecken. Lingjun Zhenwu Super Node-Instanzen, Agent Sandbox, Container Service AI Inference Suite AI Serving Stack, Distributed Cache Fluid usw. wurden nacheinander eingeführt und in der KI-Ära in Tausenden von Branchen weit verbreitet.
Beispielsweise kann MiniMax basierend auf der Alibaba Cloud Agent Sandbox 5.000 Sandboxen in 10 Sekunden starten und so die Gesamtbetriebskosten um 25 % senken. Dark Side of the Moon Kimi erreicht eine elastische Erweiterung von Zehntausenden Sandboxen pro Minute, verkürzt die Startzeit um 50 % und unterstützt eine stabile Geschäftsreaktion mit elastischer Versorgung; Step Star kombiniert Agent Sandbox mit Alibaba Cloud ACK, um Millionen von Sandboxes stabil auszuführen und den Modellbewertungszyklus von Wochen auf Tage zu verkürzen. Der 51job AI Recruitment Assistant akzeptiert Impulsanfragen auf 10.000 Ebenen über die Agent Sandbox und den hierarchischen Ruhezustand und unterstützt die Wiederherstellung von Sitzungsdaten. Kingsoft Office basiert auf Agent Sandbox und der Cloud-nativen Infrastruktur von Alibaba Cloud und erreicht durch den Vorwärmpool eine Sandbox-Erfassung auf Millisekundenebene, kombiniert Gezeitenplanung und Multi-Cluster-Disaster Recovery unter Berücksichtigung von Erfahrung, Kosten und Servicekontinuität.
Yi Li, Patenterfinder und Leiter der Container- und Sandbox-Forschung und -Entwicklung bei Alibaba Cloud, sagte: „Cloud Computing ist zu einer Schlüsselproduktivität geworden, die ebenso wichtig ist wie Strom- und Wassereinsparung. Vom mobilen Internet bis zur KI-Ära hat sich Alibaba Cloud immer auf die Echtzeitwahrnehmung von Laständerungen, die einheitliche Planung heterogener Rechenleistung und die sichere Isolierung in Umgebungen mit mehreren Mandanten konzentriert groß angelegte Implementierung intelligenter Anwendungen.“
bearbeiten
E-Mail erneut senden E-Mail ändern
