KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발... 'IISWC 2024'서 다수 상 동시 석권
support
게시글 작성 시각 2024-10-14 13:21:09
2024.10.11
ⓒ인공지능신문/최광민 기자
대형언어모델(LLM) 추론 서비스는 단순한 챗봇을 넘어 이미지, 음성, 동영상까지 생성할 수 있는 멀티모달 생성 인공지능(Generative AI)로 발전하고 있다. 하지만 이러한 초거대 언어모델 추론 서비스를 실행하려면 수천 개의 GPU가 탑재된 대규모 서버 등 대규모 AI 인프라 시스템이 필요하다.
이처럼, 막대한 자원과 더불어 이 하드웨어와 소프트웨어를 대규모로 실험하기 위한 시뮬레이션 인프라 또한 필수적이다. 여기에, KAIST 전산학부 박종세 교수 연구팀이 챗GPT와 같은 LLM 추론 서비스를 실행하는 대규모 시스템을 여러 가지 하드웨어와 소프트웨어를 추가해 시뮬레이션할 수 있는 '시뮬레이션 인프라 툴'을 오픈소스로 개발했다.
(후략)
[원본기사 : https://www.aitimes.kr/news/articleView.html?idxno=32409]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
11117 | 최초의 10B '분산형 모델 훈련' 등장..."오픈 소스 AGI 개발의 시작" | 20351 | 2024-10-16 |
11116 | ETRI, 7개 출연연과 오픈소스 성과공개...오픈소스 비전 공유통한 R&D 혁신 및 기여 방안 모색 | 13782 | 2024-10-16 |
11115 | “악성 오픈소스 소프트웨어 패키지, 올해 폭발적으로 증가” 소나타입 보고서 | 13852 | 2024-10-16 |
11114 | [주간 OSS 동향리포트] KT, 오픈소스 SW 보안 관리 체계 국제 표준 ‘ISO/IEC 18974’ 인증 획득 | 13912 | 2024-10-16 |
11113 | KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발... 'IISWC 2024'서 다수 상 동시 석권 | 14409 | 2024-10-14 |
11112 | 메타 부사장 "AGI도 오픈소스 공개…차기 '라마'는 크로스 모달리티" | 15726 | 2024-10-11 |
11111 | 애플, 3D 깊이 지도 생성 AI 모델 ‘뎁스 프로’ 공개 | 15287 | 2024-10-10 |
11110 | 오노마AI, 일러스트레이션 AI 모델 '일러스트리우스' 오픈 소스 공개 | 15155 | 2024-10-10 |
11109 | KT, 오픈소스 SW 보안 관리 체계 국제 표준 ‘ISO/IEC 18974’ 인증 획득 | 11274 | 2024-10-08 |
11108 | [주간 OSS 동향리포트] 이클립스 재단, 오픈소스 생태계의 전 세계 규제에 대응을 위한 오픈 규제 준수 워킹그룹 출범 | 11773 | 2024-10-08 |
0개 댓글