6 ноября в Уси прошла 26-я церемония вручения патентных наград Китая. Патент «Метод и устройство обработки пользовательских запросов», представленный Alibaba Cloud, получил золотую награду за патент Китая. Это был единственный поставщик облачных услуг, получивший золотую награду в этом году. Эта запатентованная технология может динамически определять изменения спроса на вычислительную мощность в режиме реального времени, особенно в ответ на резкие скачки спроса в эпоху Интернета и искусственного интеллекта, а также обеспечивает распределение по требованию, масштабирование по требованию и безопасную поставку сверхкрупномасштабной интеллектуальной вычислительной мощности — она может поддерживать ее в часы пик, восстанавливать ее во время спадов и надежно изолировать нескольких арендаторов.

Премия за патент Китая выбирается совместно Государственным ведомством интеллектуальной собственности и Всемирной организацией интеллектуальной собственности. Это высшая награда в области патентов в моей стране. В каждом национальном отборе присуждается не более 30 золотых наград за патенты на изобретения. Это авторитетная сертификация корпоративных инновационных возможностей и ценности патентной индустриализации на национальном уровне. В настоящее время Alibaba Cloud получила более 10 000 патентов по всему миру, охватывая более десяти стран и регионов, уделяя особое внимание таким основным технологическим областям, как облачные вычисления, искусственный интеллект, большие модели и чипы.

Решите три основные проблемы сверхкрупномасштабного интеллектуального планирования мощности вычислений в эпоху искусственного интеллекта.

Сверхкрупномасштабные кластеры интеллектуальных вычислительных мощностей в эпоху искусственного интеллекта сталкиваются с резкими волнами спроса: внезапный трафик, пики обучения и пики вывода переплетаются и накладываются друг на друга, постоянно проверяя пределы эластичности вычислительной мощности. В периоды пиков и спадов потребность в вычислительной мощности может меняться в сотни раз — в соответствии с пиковой конфигурацией большое количество ресурсов в нормальных условиях будет простаивать; согласно суточной конфигурации, когда наступит пик, возникнут риски недостаточной мощности и нестабильного обслуживания. Таким образом, эластичное объединение разнородных вычислительных мощностей, мгновенное реагирование на динамические нагрузки и безопасная изоляция в многопользовательской среде стали тремя основными задачами сверхкрупномасштабных вычислительных мощностей в эпоху искусственного интеллекта.

Основное изобретение патента Alibaba Cloud — новый способ обработки запросов пользователей. Традиционные решения полагаются на предварительное выделение ресурсов и пассивное ожидание запросов, что приводит к долгосрочному несоответствию между конфигурацией ресурсов и реальной нагрузкой. Метод, предложенный в этом патенте, может динамически определять изменения спроса в режиме реального времени и интеллектуально сопоставлять запросы с базовой гетерогенной вычислительной мощностью, так что каждый запрос может получать своевременный и адаптивный ответ по вычислительной мощности.

В частности, система в реальном времени определяет колебания бизнес-нагрузки между запросами пользователей и огромной вычислительной мощностью и динамически распределяет вычислительную мощность там, где она больше всего необходима. Автоматически увеличивает емкость в периоды пиковой нагрузки и автоматически сокращает во время спада в бизнесе, позволяя поставлять вычислительную мощность по требованию, например «воду и электричество», и использовать ее в любое время, используя все передовые ресурсы. Стратегия эластичного предварительного нагрева и повышение эффективности планирования также делают запуск приложений за секунды и реакцию вывода большой модели на миллисекундном уровне реальностью. При этом данные каждого приложения обрабатываются и хранятся в независимых операционных средах, изолированных друг от друга и не мешающих друг другу. Повышая эффективность использования ресурсов, он также создает сквозной защитный барьер для безопасности данных.

Эластичная вычислительная мощность более эффективно обслуживает различные отрасли в эпоху искусственного интеллекта.

Опираясь на накопление таких технологий, как эластичное планирование вычислительной мощности, Alibaba Cloud продолжает разрабатывать серию продуктов, охватывающих общие вычисления, обучение моделей и работу агентов. Экземпляры суперузла Lingjun Zhenwu, Agent Sandbox, пакет вывода AI для контейнерных служб, AI Serving Stack, распределенный кэш Fluid и т. д. были запущены один за другим и широко использовались в тысячах отраслей в эпоху искусственного интеллекта.

Например, MiniMax может запустить 5000 песочниц за 10 секунд на базе Alibaba Cloud Agent Sandbox, что снижает общую стоимость владения на 25%; Dark Side of the Moon Кими обеспечивает эластичное расширение десятков тысяч песочниц в минуту, сокращая время запуска на 50 % и поддерживая стабильную реакцию бизнеса за счет эластичных поставок; Step Star объединяет Agent Sandbox с Alibaba Cloud ACK для стабильной работы миллионов песочниц, сокращая цикл оценки модели с недель до дней. 51job AI Recruitment Assistant принимает импульсные запросы уровня 10 000 через изолированную среду агента и иерархический спящий режим, а также поддерживает восстановление данных сеанса; Kingsoft Office основан на Agent Sandbox и облачной инфраструктуре Alibaba Cloud, обеспечивая сбор данных в песочнице за миллисекунды с помощью пула предварительного нагрева, сочетая приливное планирование и многокластерное аварийное восстановление с учетом опыта, затрат и непрерывности обслуживания.

И Ли, изобретатель патентов и руководитель отдела исследований и разработок в области контейнеров и песочниц в Alibaba Cloud, сказал: «Облачные вычисления стали ключевой производительностью, столь же важной, как экономия электроэнергии и воды. От мобильного Интернета до эпохи искусственного интеллекта Alibaba Cloud всегда фокусировалась на восприятии изменений нагрузки в реальном времени, унифицированном планировании разнородных вычислительных мощностей и безопасной изоляции в мультиарендных средах. Позволяя вычислительной мощности течь и точно сопоставляться по требованию, снижать порог для формирования выводов при обучении больших моделей и работы агентов, а также способствовать развитию крупномасштабное внедрение интеллектуальных приложений».

редактировать

Повторно отправить электронное письмо Изменить электронное письмо