구글의 차세대 TPUs (Tensor Processing Units) 인 Ironwood 가 주목받고는 있습니다.
구글의 Ironwood 클러스터의 일부
하지만 뭔가 관심이 너무 과한것 같아 글을 남겨봅니다.
TPU 라는건 딱히 신기할건 없습니다. nVidia 의 GPU 에도 TPU 와 유사한 Tensor Core 가 있기도 하구요. 필요한 데이터를 미리 연산 유닛에 전부 로드시켜 놓고 파이프 라인 및 연산 어레이를 통해 동시에 연산하는거니까요. 굉장히 빠른 연산이 가능하기 때문에 GPU 던 TPU 던 많은 곳에서 이런형태의 연산 유닛이 있습니다.
Ironwood 소켓의 영상. 수냉 쿨러가 인상적이다.
TPU 는 주로 AI 추론용 칩입니다. AI 학습에서도 사용 가능하지만 매우 제한적인 용도로만 사용할 수 있습니다. 물론 AI 학습보다 AI 추론에 사용될 GPU/TPU 가 훨씬 많아질거라, TPU 가 추론용이라고 폄하하는건 아닙니다. 특히 AI 서비스가 점점 많아지고 일상생활에서도 알게 모르게 AI 를 사용하려면, 이런 형태의 추론용 칩은 앞으로도 굉장히 많이 필요하게 될겁니다. 즉 학습용 칩보다 추론용 칩이 훨씬 많이 필요합니다.
오랜만에 다나와 가서 메모리 가격을 살펴보고 있었는데, DDR4 가격이 그야말로 급 상승해버렸다. 32GB 에 19.9 만원. 오른다는건 알고 있었지만 이미 구시대의 메모리인데다 단종까지 된 제품인데 아직까지 수요가 있나보다.
원래 단종 직전엔 판매점 개수가 떨어지면서, 가격이 오르지만, 이번에는 판매점 수는 그대로다. 즉 재고가 있는 상황에서도 가격이 오른 셈이다. 메모리 재고가 소진되면 아예 안 팔 테니 사재기 하는 수요가 있다고는 들었지만 이정도라고는 생각하지 못했다.
DDR5 에서는 그저 그렇지만, DDR4 는 삼성 제품만한게 없다. 삼성 제품의 2025.10.26 일자 가격 올려본다. 실제로 구매할 수 있는 가격은 위 가격에서 10% 정도 더 쳐줘야 한다. 32GB DDR4 메모리가 약 20만원이라는건 말 그대로 (일반인들은 살 수 없는) 최저가일 뿐이다.
요즘 이거 보면 뿌듯하다. 내가지금 100만원대 시스템을 사용하고 있는거니 말이다. (메모리 가격 오르기 전에는 40만원대)
적당한 시점에서 DDR5 으로 넘어가려 하는데 DDR5 가격도 만만하지 않아 고민이긴 하다.
재작년 12월부터 DDR4 메모리를 중고로 샀었다. 중고로 16GB 3만원, 32GB 6만원 안팍에 구매했는데, 이렇게라도 사 놓은게 다행이겠거니 하고 있다. 더 구매해야 하는데 지금은 너무 비싸져서 못 사고 있다. 중고가격도 예전에 매입가 생각나기 때문에 못 구매하겠다. 문제라면, 내년엔 더 오를 전망이라는 거다.