El 6 de noviembre se celebró en Wuxi la 26ª Ceremonia de Entrega de Premios de Patentes de China. La patente "Un dispositivo y método de procesamiento de solicitudes de usuario" presentada por Alibaba Cloud ganó el Premio de Oro de Patente de China. Este fue el único proveedor de nube que ganó el premio de oro este año. Esta tecnología patentada puede detectar dinámicamente cambios en la demanda de potencia informática en tiempo real, especialmente en respuesta a las violentas mareas de demanda en la era de Internet y la IA, y logra asignación y escalamiento bajo demanda y suministro seguro de potencia informática inteligente a ultra gran escala: puede sostenerla durante las horas punta, recuperarla durante los períodos más bajos y aislar de forma segura a múltiples inquilinos.
El Premio de Patentes de China es seleccionado conjuntamente por la Oficina Estatal de Propiedad Intelectual y la Organización Mundial de la Propiedad Intelectual. Es el más alto honor en el campo de las patentes en mi país. No hay más de 30 premios de oro de patentes de invención en cada selección nacional. Es una certificación autorizada a nivel nacional de las capacidades de innovación corporativa y el valor de industrialización de patentes. En la actualidad, Alibaba Cloud ha implementado más de 10.000 patentes en todo el mundo, abarcando más de diez países y regiones, centrándose en campos tecnológicos centrales como la computación en la nube, la inteligencia artificial, los modelos grandes y los chips.
Resuelva tres problemas principales en la programación de potencia informática inteligente a gran escala en la era de la IA
Los grupos de potencia informática inteligente a gran escala en la era de la IA se enfrentan a violentas mareas de demanda: el tráfico repentino, los picos de entrenamiento y los picos de inferencia se entrelazan y superponen, poniendo a prueba constantemente los límites de la elasticidad de la potencia informática. Entre picos y valles, la demanda de potencia informática puede variar cientos de veces: según la configuración máxima, una gran cantidad de recursos estarán inactivos en condiciones normales; Según la configuración diaria, cuando llegue el pico, habrá riesgos de capacidad insuficiente y servicio inestable. Por lo tanto, la unificación elástica de la potencia informática heterogénea, la respuesta instantánea a cargas dinámicas y el aislamiento seguro en un entorno multiinquilino se han convertido en los tres desafíos principales de la potencia informática a gran escala en la era de la IA.
La invención principal de la patente de Alibaba Cloud es una nueva forma de procesar las solicitudes de los usuarios. Las soluciones tradicionales se basan en la preasignación de recursos y la espera pasiva de solicitudes, lo que genera un desajuste a largo plazo entre la configuración de recursos y la carga real. El método propuesto en esta patente puede detectar dinámicamente los cambios en la demanda en tiempo real y hacer coincidir de manera inteligente las solicitudes con una potencia informática heterogénea subyacente, de modo que cada solicitud pueda recibir una respuesta de potencia informática oportuna y adaptable.
Específicamente, el sistema detecta fluctuaciones en la carga empresarial en tiempo real entre las solicitudes de los usuarios y la potencia informática masiva, y asigna dinámicamente la potencia informática donde más se necesita. Amplía automáticamente la capacidad durante las horas pico de negocios y se reduce automáticamente durante los períodos bajos, lo que permite que la potencia informática se suministre según la demanda, como "agua y electricidad", y se utilice en cualquier momento, utilizando todos los recursos de vanguardia. La estrategia de precalentamiento elástico y la mejora de la eficiencia de la programación también hacen realidad el inicio de la aplicación en segundos y la respuesta de inferencia de modelos grandes a nivel de milisegundos. Al mismo tiempo, los datos de cada aplicación se procesan y almacenan en entornos operativos independientes, aislados entre sí y que no interfieren entre sí. Al tiempo que mejora la eficiencia en la utilización de recursos, también crea una barrera protectora de extremo a extremo para la seguridad de los datos.
La potencia informática elástica sirve de manera más eficiente a varias industrias en la era de la IA
Basándose en la acumulación de tecnologías como la programación de potencia informática elástica, Alibaba Cloud ha seguido incubando una serie de productos que cubren informática general, capacitación de modelos y operación de agentes. Las instancias de supernodo Lingjun Zhenwu, Agent Sandbox, el conjunto de inferencias de IA del servicio de contenedores AI Serving Stack, el fluido de caché distribuido, etc. se han lanzado uno tras otro y se han utilizado ampliamente en miles de industrias en la era de la IA.
Por ejemplo, MiniMax puede lanzar 5000 sandboxes en 10 segundos basándose en Alibaba Cloud Agent Sandbox, lo que reduce el costo total de propiedad en un 25%; Dark Side of the Moon Kimi logra una expansión elástica de decenas de miles de sandboxes por minuto, acortando el tiempo de inicio en un 50% y respalda una respuesta comercial estable con un suministro elástico; Step Star combina Agent Sandbox con Alibaba Cloud ACK para ejecutar millones de sandboxes de manera estable, comprimiendo el ciclo de evaluación del modelo de semanas a días. 51job AI Recruitment Assistant acepta solicitudes de pulso de nivel 10,000 a través de Agent Sandbox e hibernación jerárquica, y admite la recuperación de datos de sesión; Kingsoft Office se basa en Agent Sandbox y la infraestructura nativa de la nube de Alibaba Cloud, logrando una adquisición de sandbox a nivel de milisegundos a través del grupo de precalentamiento, combinando programación de mareas y recuperación ante desastres de múltiples clústeres, teniendo en cuenta la experiencia, el costo y la continuidad del servicio.
Yi Li, inventor de patentes y jefe de I+D de contenedores y sandbox en Alibaba Cloud, dijo: "La computación en la nube se ha convertido en una productividad clave tan importante como la conservación de la electricidad y el agua. Desde Internet móvil hasta la era de la IA, Alibaba Cloud siempre se ha centrado en la percepción en tiempo real de los cambios de carga, la programación unificada de la potencia informática heterogénea y el aislamiento seguro en entornos multiinquilino. Permitir que la potencia informática fluya y coincida con precisión según la demanda, reduzca el umbral para la inferencia de entrenamiento de modelos grandes y la operación de agentes, y promueva la operación a gran escala implementación de aplicaciones inteligentes."
editar
Reenviar correo electrónico Modificar correo electrónico
