[주간 OSS 동향리포트]KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
KAIST 전산학부 박종세 교수 연구팀이 챗GPT와 같은 LLM 추론 서비스를 실행하는 대규모 시스템을 여러 가지 하드웨어와 소프트웨어를 추가해 시뮬레이션할 수 있는 '시뮬레이션 인프라 툴'을 오픈소스로 개발했습니다.
이를 통해 GPU(그래픽처리장치), NPU(신경망처리장치)와 PIM(지능형메모리반도체)과 같은 다양한 하드웨어뿐만 아니라 반복 수준 스케쥴링, KV 캐시 페이징과 같은 초거대 언어모델 추론을 위한 소프트웨어적 요소를 모두 함께 시뮬레이션할 수 있습니다.
이 연구를 통해 컴퓨터 시스템 워크로드 특성화 분야에서 권위를 자랑하는 국제 학회인 ‘2024 IEEE 국제 워크로드 특성화 심포지엄(IEEE International Symposium on Workload Characterization, IISWC 2024)’에서 최우수 논문상(Best Paper Award)과 최우수 연구 기록물 상(Distinguished Artifact Award)’을 동시에 수상했습니다.
이번 수상 연구는 대규모 거대언어모델(LLM) 추론 서비스를 위한 하드웨어와 소프트웨어 통합 시뮬레이션 인프라를 최초 개발한 점, 향후 LLM 추론 연구의 지속적인 발전을 위해 오픈소스로 공개한 코드의 완성도와 사용자 편의성 측면에서 높은 평가를 받았습니다.
□ “악성 오픈소스 소프트웨어 패키지, 올해 폭발적으로 증가” 소나타입 보고서(CIO)
소프트웨어 공급망 관리 기업 소나타입(Sonatype)의 새 보고서에 따르면 맬웨어가 오픈소스 소프트웨어 개발 생태계에 놀라운 속도로 침투하고 있다. 이 회사는 널리 사용되는 자바, 자바스크립트, 파이썬 및 .NET 패키지 레지스트리에서 2023년 11월 이후 50만 개 이상의 새로운 악성 패키지를 포착했다고 밝혔다.
설명에 따르면 이는 회사가 연례 소프트웨어 공급망 현황 보고서를 통해 2019년부터 추적해온 약 70만 개의 맬웨어 패키지 중 70% 이상에 해당하는 수치다.
- OpenUP -
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 493076 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 483066 | 2020-10-27 |
| 11129 | 메타, '노트북라마' 오픈 소스 출시...구글 '노트북LM' 따라하기 나서 | 7876 | 2024-10-29 |
| 11128 | 허깅페이스, 웹브라우저에서 AI 직접 활용하는 오픈 소스 도구 출시 | 7787 | 2024-10-29 |
| 11127 | 코히어, AI 모델 언어 격차 해소 위한 강력한 오픈 소스 모델 출시 | 7656 | 2024-10-29 |
| 11126 | "로봇은 생성 AI로 주변 환경 인식·이해하며, 인간과 소통하고, 자율적으로 상황에 맞는 결정을 내릴 수 있다" | 7326 | 2024-10-29 |
| 11125 | "K-DID 수출 제대로 하려면 국제표준·오픈소스화 필수" | 7357 | 2024-10-29 |
| 11124 | 구글, '신스ID 텍스트' 오픈소스로 공개..."AI 작성 텍스트 잡아낸다" | 14127 | 2024-10-24 |
| 11123 | 하나증권이 STO 사업 효율화한 방법…“오픈소스 DBMS로 합리적 운영” | 14302 | 2024-10-24 |
| 11122 | IBM, 비즈니스용 오픈소스 AI 모델 ‘그래니트 3.0’ 출시 | 10971 | 2024-10-23 |
| 11121 | "생산성 향상부터 훈련 최적화까지" 개발자가 사랑할 오픈소스 AI 프로젝트 11가지 | 10891 | 2024-10-23 |
| 11120 | [주간 OSS 동향리포트]KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발 | 11011 | 2024-10-23 |
0개 댓글