AI 컴퓨팅과 메모리 구조에 대한 아주 긴 설명 - 갤럭시 마이너 갤러리

요새 AI가 핫하다 보니 몇 가지 질문들이 있던데(왜 디램이 AI 컴퓨팅의 핵심인가? 스토리지는 왜 AI 컴퓨팅에서의 피해자인가? CXL은 어디에 쓰는가? 등등) 관련해서 그것들에 대해 설명을 좀 해보고자 함. 일반적인 서버, 예컨대 클라우드 서버와 AI 서버는 하는 일이 크게 다름. 좀 단순하게 표현하자면 일반 클라우드 서버는 데이터를 입/출력(Load/Save)하는 일을 하고, AI 서버는 연산(Computing)하는 일을 함. 더 간단하게 예시를 들어서 표현하자면 일반 서버는 데이터를 저장하고 불러오는 것이고, AI 서버는 엄청나게 어려운 수학 문제를 풀면서 공부하는 것과 같다고 보면 됨. 예컨대 우리가 유튜브에서 동영상을 보는 것은 구글 서버에 저장되어 있는 데이터를 불러와서 실행하는 것임. MS오피