11월 6일, 제26회 중국특허대상 시상식이 우시에서 거행되었습니다. 알리바바 클라우드가 제출한 특허 '사용자 요청 처리 방법 및 장치'가 중국특허금상을 수상했다. 이는 올해 금상을 수상한 유일한 클라우드 공급업체였습니다. 이 특허 기술은 특히 인터넷과 AI 시대의 급격한 수요 급증에 대응하여 실시간으로 컴퓨팅 전력 수요의 변화를 동적으로 감지할 수 있으며, 주문형 할당, 주문형 확장 및 초대형 지능형 컴퓨팅 성능의 안전한 공급을 달성합니다. 이를 통해 피크 타임에는 이를 유지하고 최저점에는 복구하며 여러 테넌트를 안전하게 격리할 수 있습니다.
중국특허상은 국가지식재산권청과 세계지식재산권기구가 공동으로 선정한다. 우리나라 특허 분야 최고의 영예입니다. 각 국가별 선정에서 발명특허 금상은 30개 이하입니다. 기업의 혁신역량과 특허산업화 가치에 대한 국가 차원의 권위 있는 인증입니다. 현재 Alibaba Cloud는 클라우드 컴퓨팅, 인공 지능, 대형 모델 및 칩과 같은 핵심 기술 분야에 중점을 두고 전 세계 10개 이상의 국가와 지역을 포괄하는 10,000개 이상의 특허를 배포했습니다.
AI 시대 초대형 지능형 컴퓨팅 파워 스케줄링의 세 가지 주요 문제 해결
AI 시대의 초대형 지능형 컴퓨팅 파워 클러스터는 급격한 수요 급증에 직면해 있습니다. 갑작스러운 트래픽, 훈련 피크, 추론 피크가 얽히고 겹쳐지며 컴퓨팅 파워 탄력성의 한계를 지속적으로 테스트합니다. 최고점과 최저점 사이에서 컴퓨팅 성능에 대한 수요는 수백 배에 달할 수 있습니다. 최고 구성에 따라 정상적인 조건에서는 많은 수의 리소스가 유휴 상태가 됩니다. 일일 구성에 따라 피크가 발생하면 용량 부족 및 서비스 불안정의 위험이 있습니다. 따라서 이기종 컴퓨팅 파워의 탄력적 통합, 동적 부하에 대한 순간적 대응, 멀티 테넌트 환경에서의 안전한 격리는 AI 시대 초대형 컴퓨팅 파워의 3대 핵심 과제가 됐다.
Alibaba Cloud 특허의 핵심 발명은 사용자 요청을 처리하는 새로운 방법입니다. 기존 솔루션은 리소스를 사전 할당하고 요청을 수동적으로 기다리는 방식에 의존하므로 리소스 구성과 실제 로드 간에 장기적인 불일치가 발생합니다. 이 특허에서 제안된 방법은 수요 변화를 실시간으로 동적으로 감지하고 요청을 기본 이기종 컴퓨팅 성능과 지능적으로 일치시켜 각 요청이 적시에 적응 가능한 컴퓨팅 성능 응답을 받을 수 있도록 합니다.
특히, 시스템은 사용자 요청과 대규모 컴퓨팅 성능 사이의 비즈니스 부하 변동을 실시간으로 감지하고 컴퓨팅 성능이 가장 필요한 곳에 동적으로 할당합니다. 비즈니스 피크 시간대에는 용량을 자동으로 확장하고 비즈니스 최저점 중에는 자동으로 축소하여 컴퓨팅 성능을 "물과 전기"처럼 필요할 때 공급하고 언제든지 사용할 수 있도록 하여 최첨단의 모든 리소스를 사용합니다. 탄력적인 예열 전략과 스케줄링 효율성 향상을 통해 몇 초 만에 애플리케이션 시작과 밀리초 수준의 대규모 모델 추론 응답도 현실화됩니다. 동시에, 각 애플리케이션의 데이터는 서로 격리되어 간섭하지 않는 독립적인 운영 환경에서 처리 및 저장됩니다. 리소스 활용 효율성을 향상시키는 동시에 데이터 보안을 위한 엔드투엔드 보호 장벽도 구축합니다.
탄력적인 컴퓨팅 성능은 AI 시대의 다양한 산업에 보다 효율적으로 서비스를 제공합니다.
Alibaba Cloud는 탄력적인 컴퓨팅 파워 스케줄링과 같은 기술 축적을 바탕으로 일반 컴퓨팅, 모델 교육 및 에이전트 운영을 포괄하는 일련의 제품을 지속적으로 육성해 왔습니다. Lingjun Zhenwu 슈퍼 노드 인스턴스, Agent Sandbox, 컨테이너 서비스 AI 추론 제품군 AI Serving Stack, 분산 캐시 Fluid 등이 속속 출시되어 AI 시대에 수천 개의 산업 분야에서 널리 사용되었습니다.
예를 들어 MiniMax는 Alibaba Cloud Agent Sandbox를 기반으로 10초 안에 5,000개의 샌드박스를 실행하여 총 소유 비용을 25% 절감할 수 있습니다. Dark Side of the Moon Kimi는 분당 수만 개의 샌드박스의 탄력적인 확장을 달성하여 시작 시간을 50% 단축하고 탄력적인 공급으로 안정적인 비즈니스 대응을 지원합니다. Step Star는 Agent Sandbox와 Alibaba Cloud ACK를 결합하여 수백만 개의 샌드박스를 안정적으로 실행하고 모델 평가 주기를 몇 주에서 며칠로 단축합니다. 51job AI 채용 도우미는 Agent Sandbox 및 계층적 최대 절전 모드를 통해 10,000레벨 펄스 요청을 수락하고 세션 데이터 복구를 지원합니다. Kingsoft Office는 Agent Sandbox와 Alibaba Cloud의 클라우드 네이티브 인프라를 기반으로 하며 예열 풀을 통해 밀리초 수준의 샌드박스 획득을 달성하고 조석 예약 및 다중 클러스터 재해 복구를 결합하고 경험, 비용 및 서비스 연속성을 고려합니다.
특허 발명가이자 Alibaba Cloud의 컨테이너 및 샌드박스 R&D 책임자인 Yi Li는 "클라우드 컴퓨팅은 전기 및 물 절약만큼 중요한 핵심 생산성이 되었습니다. 모바일 인터넷에서 AI 시대에 이르기까지 Alibaba Cloud는 항상 부하 변경에 대한 실시간 인식, 이기종 컴퓨팅 성능의 통합 예약, 다중 테넌트 환경에서의 안전한 격리에 중점을 두었습니다. 컴퓨팅 성능이 수요에 따라 흐르고 정확하게 일치하도록 허용하고 대규모 모델 훈련 추론 및 에이전트 작동에 대한 임계값을 낮추며 대규모 구현을 촉진합니다. 지능형 애플리케이션."
편집하다
이메일 재전송 이메일 수정
