인텔, '제온 파이'로 머신러닝 시장 공략

인텔은 지난 2012년 고성능 컴퓨팅(HPC)를 위한 프로세서 개발 착수에 들어간다고 밝혔을 때만 해도, 입출력 장치 사이 속도를 개선하는 데 도움을 주는 ‘인피니밴드’ 기술에 주목했다. 인피니밴드 네트워크 기술을 이용해 고대역폭에서 뿜어져 나오는 막대한 데이터를 처리하는 게 목적이었다.

4년이 흐른 지금, 인텔의 기술은 한발 더 나아갔다. CPU를 통해 연산능력을 키우고, 네트워크를 통해 데이터를 빠르게 처리하는 기술에서 이 모든 기술을 한 곳에 모아 함께 키우는 방법을 고민했다. 인텔이 ‘제온 파이’ 프로세서 제품군을 선보이며 인텔 확장형 시스템 프레임워크(SSF)를 꺼내든 이유다.

휴고 살레 HPC 그룹 마케팅 책임자

고성능 컴퓨팅, 단일 성능 향상만으로는 불가능

인텔 제온 파이 프로세서는 고도의 병렬 워크로드를 위해 개발된 인텔의 첫 번째 부팅 가능한 x86 CPU다. 메모리와 패브릭 기술을 최초로 결합했다. PCIe 버스에 의존해야 하는 GPU 가속기와 달리, 제약 없이 확장할 수 있다는 장점이 있다. 기존 제품과 비교해 좀 더 방대한 데이터를 빠르게 처리할 수 있다.

“CPU 하나만으로는 이제 시장에 대처할 수 없습니다. 컴퓨팅과 메모리, 소프트웨어를 통합적으로 연결해 함께 기능을 향상시켜야 합니다. 인텔만의 얘기가 아닙니다. 연산 능력 중심의 CPU로는 HPC와 머신러닝 시장에 대응하는 데 한계가 있습니다. 그래서 SSF를 얘기하는 거지요.”

차세대 인텔 제온 파이 프로세서 소개 기자간담회에 참석한 나승주 이사는 HPC에 대응하는 인텔의 SSF 전략에 대해 이렇게 설명했다.

데스크톱PC를 생각해보자. 데스크톱PC 안에는 CPU와 메모리, HDD 또는 SSD가 각각 존재한다. 전통적인 방식으로 HPC 시장에 접근했을 땐, 구성 요소 성능을 각각 따로 향상시키는 데 집중했다. CPU 성능을 올리고, 메모리 칩 늘리고, 하드디스크 용량을 키우고, 때에 따라선 SSD로 하는 식으로 말이다. 이런 식으로 접근하면 성능은 좋아질지는 모르지만, 방대한 데이터를 처리하는 데 병목현상이 생긴다. 줄일 수 없는 시간이 존재하는 영역이 생긴다. CPU에서 데이터를 처리하는 시간, 메모리에서 데이터를 불러오고 작업하는 시간, 디스크에 데이터를 읽고 쓰는 시간 등이 모여 조금씩 시간 지체를 이끌어낸다.

이 시간을 줄이려면 각 구성요소 성능을 따로 올리기보다는 하나로 모아 통합해서 시스템 혁신을 이끌어내야 한다는 게 인텔의 전략이다. ‘Many Wokrloads One Architectural Framework(다양한 워크로드를 하나의 아키텍처 프레임워크에서 처리한다)’를 슬로건으로 내건 인텔은 향후 이 작업을 발전시켜 HPC와 머신러닝 시장에 적극적으로 대응한다는 계획이다.

이번에 선보인 제온 파이 프로세서 제품군은 16GB 고대역폭 메모리를 결합해 메모리 기반 워크로드를 위해 최대 초당 500GB에 이르는 일관된 메모리 대역폭을 제공한다. 동시에 듀얼포트로 인텔 옴니패스 아키텍처를 결합하면 솔루션과 전력소비량, 활용 공간 등을 줄일 수 있다. 대용량 데이터를 처리할 수 있게 심혈을 기울인 셈이다.

머신러닝 학습 속도 최대 50배 빠르게 진행

휴고 살레 HPC그룹 마케팅 책임자는 “이번 제온 파이 프로세서는 머신러닝 훈련 모델에 가장 최적화된 프로세서”라고 자신감을 보였다. 지금까지 전통적인 HPC 시장에서도 좋은 성능을 발휘했듯이 이번에도 SSF 기술을 사용해 높인 확장성으로 머신러닝 쪽에서도 성과를 낼 수 있을 것으로 기대했다.

인텔 제온 파이 제품군은 32노드 컴퓨팅 환경에서 GPU와 비교해 최대 1.38배 향상된 확장성을 제공한다. 128노드 컴퓨팅 환경에서는 단일 노드 대비 최대 50배 빠른 속도로 기기를 학습할 수 있다. 머신 러닝 관계자들이 매우 짧은 시간안에 대용량 데이터를 처리해 기기를 학습하고 훈련시킬 수 있다는 얘기다.

인텔 제온 파이 프로세서

제온 파이는 기존 인텔 제온 프로세서 E5와 결합했을 때 시너지를 낸다. 인텔 제온 프로세서 E5 v4는 머신러닝 계산에 최적화됐다. 이를 결합해 함께 사용하면 고성능 컴퓨팅, 데이터 분석과 머신러닝 워크로드에 사용할 수 있는 공동 아키텍처를 만들어 활용할 수 있다.

이같은 성능을 바탕으로 인텔은 머신러닝 관련 오픈소스 커뮤니티와도 협력을 강화한다는 계획이다. ‘카페’, ‘텐서플로우’와 같은 딥러닝 프레임워크를 최적화해 인텔 아키텍처 기반에서 관련 소프트웨어가 최적의 성능을 낼 수 있게 지원한다는 방침이다.

인텔은 이와 함께 심층 신경 네트워크를 위한 MKL(Math Kernel Libraries-Deep Neutral Network)을 오픈소스로 공개할 예정이다.

휴고 책임자는 “MKL-DNN 뉴런 네트워크 오픈소스와 관련된 작업을 차근차근 진행하면셔, 많은 커뮤니티들이 이 알고리즘을 바탕으로 더 최적화된 알고리즘을 만들고 개발할 수 있는 작업을 진행하고 있다”라며 “머신러닝 쪽 개발자 10만명 이상을 교육하는 작업도 함께 추진하고 있다”라고 말했다.

국내 HPC 관련 교육 프로그램 진행 계획

HPC 및 머신러닝에 대한 전문가 교육도 확대한다. 인텔은 2015년부터 파트너인 대한컨설팅과 함께 CMEP(Code Modernization Enablement Program)를 진행했다.

이 프로그램은 인텔 제온 파이 및 제온 프로세서 기반 HPC 시스템 활용을 최적화할 수 있도록 다중 코어에 맞춰 애플리케이션을 병렬화 및 벡터화할 수 있는 교육 과정을 제공한다. 지금까지 총 600명이 프로그램에 참여했으며, 올해 하반기까지 추가로 400명의 전문 인력에 대한 교육을 완료할 예정이다.

앞서 인텔과 한국과학기술정보연구원(KISTI)은 지난 6월 상호 양해각서를 체결하고, 인텔 제온 파이 및 인텔 OPA 기반 국산 슈퍼컴퓨터 시스템을 개발할 수 있도록 메인보드 디자인, 소프트웨어, 클러스터링, 패브릭 부문에서 협조한다고 발표한 바 있다.

KISTI는 아태 지역에서는 최초로 2년 연속 ‘인텔 초고성능 컴퓨팅 활용기술 연구사업(IPCC, 인텔병렬컴퓨팅센터)’ 지원 대상에 선정된 바 있다. IPCC는 HPC 기반 확대를 위해 인텔이 2013년부터 진행해 온 프로그램으로, 전세계 수준 높은 HPC 활용기술 연구 기관을 선정해 최대 2년까지 연구비를 지원한다.