칩렛(Chiplet) 구조란 무엇인가? AMD, Azure, 리벨리온으로 살펴보는 칩렛의 의미 칩렛(Chiplet) 구조란 무엇인가? AMD, Azure, 리벨리온으로 살펴보는 칩렛의 의미 대표 이미지: Chiplet 패키지의 Exploded View 일러스트(Higgsfield gpt_image_2_5 생성). 아래부터 Package Substrate,
[카테고리:] Parallel Computing
CPU MoE Offloading:GPU 메모리의 한계를 넘으면 무엇이 달라질까
LLM INFERENCE · CPU–GPU HYBRID CPU MoE Offloading:GPU 메모리의 한계를 넘으면 무엇이 달라질까 Hot expert는 GPU에, Cold expert는 Host Memory에: 실행 구조와 기본 성능, 최적화의 출발점 그림 움직임 멈춤 큰
GPU은 어떻게 AI 시대의 핵심이 되었는가? – NPU, XPU
AI 개발에 대규모 GPU는 필수적인 요소로 간주된다. 한국 정부는 2025년 초 부족한 GPU를 공공 인프라 형태로 제공할 계획을 발표하였다. 이 시리즈의 핵심 주제이기도 하다. 그런데 국내외적으로 다양한 설계를 기반으로 다양한
GPU은 어떻게 AI 시대의 핵심이 되었는가? – 서두편(Prologue)
이번 포스팅에서는 GPU가 어떻게 AI 시대의 핵심이 되었는지를 알아보겠다. 우선 GPU의 탄생 배경에 대해서 이야기를 좀 하려고 한다. GPU라는 기술은 결국 연산을 수행하는 장치이고, 그 연산 능력은 반도체 기술의 진보에
XPU(GPU, IPU, TPU 등) – Hardware Acceleration #1
들어 가며.. 인공지능에 대한 개발 관심도와 기술이 나날이 발전하고 있습니다. 조금 더 빠른 속도와 높은 정확도를 얻기 위한 무한 경쟁이 쉬지 않고 이루어 지고 있죠. GPGPU사용이 당연시 되는 Deep Learning
Large scale GPU Cluster for AI
KRnet 2020 발표 자료
Possibility of hpc application on cloud infrastructure by container cluster
The 22nd IEEE International Conference on Computational Science and Engineering (IEEE CSE 2019) Oral Presentation