실시간 대화형 AI훈련 최고기록…추론속도 5배 개선
OSS관리자
게시글 작성 시각 2019-08-19 14:42:06
8월 17일
ⓒ 사이언스모니터, David / md@scimonitors.com
자연어 기반 대화식 인공지능(AI)을 개발하고 실행하는데 걸리는 시간이 불과 50초대로 단축됐다.
엔비디아(Nvidia)가 13일(현지시각)는 현재 AI 언어 모델 ‘BERT’ 훈련에서 기록을 갱신했다고 밝혔다. BERT는 자연언어 처리(NLP)를 표준으로 알려진 모델이다.
엔비디아 GPU 플랫폼기반 오픈소스이며 ‘파이토치(PyTorch)’로 작성된 코드는 실행하기 쉽다. AI플랫폼은 1시간 이내에 모델을 훈련 할 수 있었다. 정확히는 단 53분 만에 기록적인 성과를 달성했다.
파이토치(PyTorch)는 텐서플로우(Tensorflow)와 함께 심층학습(Deep Learning) 구현에 가장 많이 사용되는 그래프(Graph) 기반 GPU 연산을 지원하는 패키지다.
훈련된 모델은 훈련을 통해 달성 한 학습 기능을 실제로 추론에 적용해 결과를 산출하는 데에서도 기록적인 2밀리 초를 달성했다. 10밀리 초는 업계 최고 수준으로 간주된다.
엔비디아는 NLP대화식 AI 및 GPU 하드웨어 사용자를 위해 BERT 훈련 코드와 깃허브(GitHub)를 통해 TensorRT 최적화 BERT 샘플을 공개하고 있다.
(후략)
[원문출처 : http://scimonitors.com/실시간-대화형-ai훈련-최고기록-추론속도-5배-개선/]
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 364097 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 353885 | 2020-10-27 |
| 8590 | 5G시대 대응하는 삼성전자, 스마트폰·TV ‘보안’ 어떻게? | 5141 | 2019-08-21 |
| 8589 | 아르고넷, HWP 텍스트 및 메타데이터 추출기 아파치 재단에 기부 | 4506 | 2019-08-21 |
| 8588 | 플라네타리움, 블록체인 RPG '나인 크로니클' 연내 출시 | 4632 | 2019-08-21 |
| 8587 | 마이크로소프트, 오픈소스 프로젝트기반' 엣지 브라우저' 베타 공개 | 4981 | 2019-08-21 |
| 8586 | 오픈소스 관리 툴 웹민, 1년 간 ‘국제 백도어’로 사용된 듯 | 4575 | 2019-08-20 |
| 8585 | 유튜브 프리미엄을 공짜로? '유튜브 밴스드' 불법성 논란 | 5067 | 2019-08-20 |
| 8584 | [주간 OSS 동향 리포트] 티맥스OS 개인용 'HE' 출시…"MS 윈도 병행사용, 오피스 지원" | 9624 | 2019-08-19 |
| 8583 | 실시간 대화형 AI훈련 최고기록…추론속도 5배 개선 | 4597 | 2019-08-19 |
| 8582 | 갤럭시노트10에서 살펴본 MS 모바일 전략 | 4512 | 2019-08-19 |
| 8581 | 화웨이 독자 모바일OS '하모니OS' 성공할까 | 5476 | 2019-08-17 |
0개 댓글