본문 바로가기

Home > 열린마당 > 공개SW 소식

공개SW 소식

실시간 대화형 AI훈련 최고기록…추론속도 5배 개선

OSS관리자 게시글 작성 시각 2019-08-19 14:42:06 게시글 조회수 4137

8월 17일

ⓒ 사이언스모니터, David / md@scimonitors.com

 

자연어 기반 대화식 인공지능(AI)을 개발하고 실행하는데 걸리는 시간이 불과 50초대로 단축됐다.

 

엔비디아(Nvidia)가 13일(현지시각)는 현재 AI 언어 모델 ‘BERT’ 훈련에서 기록을 갱신했다고 밝혔다. BERT는 자연언어 처리(NLP)를 표준으로 알려진 모델이다.

 

엔비디아 GPU 플랫폼기반 오픈소스이며 ‘파이토치(PyTorch)’로 작성된 코드는 실행하기 쉽다. AI플랫폼은 1시간 이내에 모델을 훈련 할 수 있었다. 정확히는 단 53분 만에 기록적인 성과를 달성했다.

 

파이토치(PyTorch)는 텐서플로우(Tensorflow)와 함께 심층학습(Deep Learning) 구현에 가장 많이 사용되는 그래프(Graph) 기반 GPU 연산을 지원하는 패키지다.

 

훈련된 모델은 훈련을 통해 달성 한 학습 기능을 실제로 추론에 적용해 결과를 산출하는 데에서도 기록적인 2밀리 초를 달성했다. 10밀리 초는 업계 최고 수준으로 간주된다.

 

엔비디아는 NLP대화식 AI 및 GPU 하드웨어 사용자를 위해 BERT 훈련 코드와 깃허브(GitHub)를 통해 TensorRT 최적화 BERT 샘플을 공개하고 있다.

(후략)

 

[원문출처 : http://scimonitors.com/실시간-대화형-ai훈련-최고기록-추론속도-5배-개선/]

맨 위로
맨 위로