- 글쓴시간
- 분류 기술,IT
TOPS 는 Trillion Operation Per Second, 초당 일조개의 작업, 초당 1테라의 작업을 의미한다. 최근엔 NPU 의 속도를 이야기할 때 주로 사용한다. 1 TOPS 의 속도는 GPU 로는 진작에 넘은 상태고, 요즘엔 CPU 에서도 넘어간 상태다.
윈도11에 곧 업데이트될 Copilot+ PC 를 사용하기 위해서는 40 TOPs 이상의 속도가 필요하다고 한다. 이 속도를 GPU 의 도움 없이 구현해야하는데, 현재 나와있는 CPU 로는 아직 안된다. 2024년 3분기에 출시될 CPU 에서는 가능해진다.
40 TOPs 라는 성능은 GPU 라면 현재 가장 낮은 성능인 RTX 4050 에서도 지원되는 속도다. 노트북용인 RTX 4050 의 AI TOPs 는 194 TOPs 이다. RTX 3060 이 101 TOPs 이다. GPU는 아직 Copilot+ PC 에서는 지원되지 않지만, 당연히 nVidia 에서는 지원되도록 MS 와 협력중이다. 따라서 조만간 될것으로 생각되긴 하지만, 발열이나 전력부분에 이슈없길 바란다.
필자가 사용하는 RTX 2060 12G 는 AI TOPs 수치가 나와있는게 없는데, 이런 경우 보통 INT8 성능 수치를 보면 된다. TOPs 와 수치가 비슷하다. 2080Ti 가 215.2 TOPs 이므로, 2060 은 대략 절반정도인 100 TOPs 정도 될 거라 생각한다.
https://blogs.microsoft.com/blog/2024/05/20/introducing-copilot-pcs/
