[x86] AI Compute Extensions (ACE) Specification

개요

x86 아키텍처용 AI Compute Extensions (ACE) Specification은 ML 워크로드에 중요한 행렬 곱셈 커널 및 축소 정밀도 데이터 형식을 가속화하는 새로운 기능을 정의합니다.

주요 내용

• ACE 확장 기능은 AVX 및 스칼라 코드에 새로운 기능을 추가하는 행렬 곱셈 프리미티브를 정의합니다.
• 새로운 ACE 레지스터 상태에는 타일(tile) 및 블록 스케일(block scale) 레지스터가 포함됩니다.
• AVX 레지스터 입력을 소비하고 ACE 타일 레지스터 상태에 작용하는 데이터 처리 연산이 제공됩니다.
• ACE 레지스터 상태와 AVX 레지스터 간 데이터 이동을 위한 데이터 이동 연산이 지원됩니다.
• 시스템 관리를 위한 상태 및 연산 기능이 포함됩니다.
• ACE는 AVX 벡터와 ACE 타일 레지스터 간의 긴밀한 통합을 제공하여 높은 연산 밀도의 타일 처리 연산과 AVX의 포괄적인 데이터 처리 기능을 결합합니다.
• 행렬 가속 외에도 AVX10 프레임워크 하에서 전용 형식 변환 연산이 제공됩니다.

시사점

x86 ACE 확장 기능은 기계 학습 워크로드에서 핵심적인 행렬 연산을 효과적으로 가속화하여 AI 컴퓨팅 성능을 향상시킬 잠재력을 가집니다.