DL 부스트

이 문서는 주제와 너무 밀접하게 관련되어 있는 출처에 지나치게 의존할 수 있으며, 잠재적으로 문서의 검증 가능성과 중립성을 저해할 수 있습니다. 신뢰할 수 있는 독립된 서드파티 소스에 대한 적절한 인용문으로 대체하여 개선해 주십시오. (2021년 3월) (이 템플릿메시지를 삭제하는 방법과 시기에 대해 알아보세요)

인텔의 DL 부스트(Deep Learning Boost)^[1]는 트레이닝이나 추론 등의 딥 러닝 태스크의 퍼포먼스를 향상시키기 위해 설계된 x86-64 명령어셋 아키텍처 기능의 마케팅 이름입니다.DL Boost는 다음 두 가지 기능으로 구성됩니다.

• AVX-512 VNNI, 4VNNIW, 또는 AVX-VNNI: 주로 컨볼루션뉴럴 네트워크용 고속 다중 축적.
• AVX-512 BF16: 일반적으로 보다 빠른 계산을 위해 정밀도가 낮은 bfloat16 부동소수점 숫자.제공되는 작업에는 float32 및 닷 곱으로의 변환이 포함됩니다.

DL Boost 기능은 Cascade Lake 아키텍처에 도입되었습니다.

Google Cloud Platform Compute Engine에서 TensorFlow 기반 벤치마크를 실행하면 이전 CPU 및 GPU에 비해 성능이 향상되고 비용이 절감됩니다(특히 배치 크기가 ^[2]작을 경우).

외부 링크

• 인텔의 딥 러닝 부스트
• Andres Rodrigues 외, "저정밀 딥 러닝 추론 및 트레이닝", 인텔 화이트 페이퍼 [3]
• 인텔 및 ML (2017), 인텔 개발자 관계 부문

메모들

이 컴퓨터 하드웨어 문서는 스텁입니다.위키피디아를 확장함으로써 위키피디아를 도울 수 있습니다.

• v
• t