Seminars

Home Centers & Programs AI and Natural Sciences Seminars

FIELD: AI and Natural Sciences

DATE: Jan 15 (Wed), 2025

TIME: 14:00 ~ 16:00

PLACE: 7323

SPEAKER: 김홍석

HOST: Choi, Jaewoong

INSTITUTE: 리벨리온

TITLE: 과학자/공학자들의 보편적인 도구로서의 NPU: 기회와 도전

ABSTRACT: Large Language Model(LLM)의 등장과 함께 AI는 많은 사람이 손쉽게 활용할 수 있는 도구로 자리 잡아가고 있습니다. 동시에 AI 모델의 훈련과 활용에 들어가는 막대한 비용 문제가 대두되고 있고, 이를 해결하기 위한 효율적인 하드웨어 솔루션으로 NPU(Neural Processing Unit)가 주목받고 있습니다. 한국을 대표하는 AI 반도체 기업인 리벨리온은 ATOM이라는 NPU를 출시해 국내 주요 클라우드 제공업체들에 공급을 시작했으며, Chiplet 기반의 새로운 아키텍처와 HBM을 집적한 REBEL이라는 차세대 제품도 개발 중입니다. 본 강연에서는 NPU 의 기술적인 배경을 소개하고, 과학자와 공학자의 생산성을 혁신적으로 높일 수 있는 도구로서 NPU의 가능성을 살펴봅니다. 먼저 수학 공식, 화학식, DNA 염기 서열 등 기호로 표현 가능한 문제를 논리적으로 해결하는데 AI에 최적화된 NPU는 큰 도움이 될 것으로 기대하고 있습니다. 하지만 NPU가 더 다양한 분야에 활용되기 위해선 해결해야 할 기술적인 도전들도 있습니다. 예를 들어, NPU가 주로 사용하는 AI에 최적화된 16bit 및 8bit 연산은 고전적인 numerical solver를 수행하기엔 numerical stability 측면에서 제약이 따릅니다. 이러한 한계를 극복할 수 있는 방법 중 하나로 Neural Solver를 생각해 볼 수 있습니다. 예를 들어 Neural Solver를 16bit / 8bit, 또는 이에 최적화된 새로운 연산 방식을 적용한다면 NPU의 강점은 다양한 연구 영역에서도 빛을 발할 수 있을 것으로 기대합니다.

FILE

List