Speaker

Tae-Ho Kim (김태호)

Title

Trends in Inference Optimization and Lightweighting for Sustainable AI (지속 가능한 AI를 위한 추론 최적화·경량화 기술 트렌드)

Abstract

AI 모델의 크기는 폭발적으로 커지고 있지만, 이를 실제 디바이스에 배포하는 일은 여전히 복잡하고 어렵습니다. 학습용 칩은 단일하지만 추론 환경은 수십 가지 하드웨어로 파편화되어 있고, 그 사이에서 연산 미지원·메모리 부족·레이턴시 초과 같은 현실적인 장벽이 존재합니다. 이 강연에서는 이 격차를 메우기 위해 Nota AI가 개발한 AI 모델 최적화/경량화 플랫폼 및 솔루션에 대해 소개하고, 실증 사례를 소개합니다. 나아가 기존 Computer Vision의 한계를 VLM(Vision-Language Model)으로 극복하는 영상 분석 솔루션과, ICLR 2026에 채택된 고해상도 VLM 효율화 연구(ERGO)도 소개하며, 엣지 AI 시대의 기술적 도전과 Nota AI의 접근 방식을 공유합니다.

Bio

- 몬트리올 대학 연구원(Y.Bengio)
- KAIST 전기 및 전자공학 석사
-KAIST AI연구소 선임연구원
현) 노타 CTO

Language

Korean (Offline)