"FastSD CPU" CPU 만을 사용해서 이미지를 생성한다. LCM 이나 OpenVINO 를 사용하는듯.
예전에 한번 써보고 관심 없었는데, 갑자기 CPU 로 사용하는건 어떨까 해서 찾아봤다.
스텝은 4 이하로 설정하는게 핵심이다. 4 이하로 설정해도 품질이 좋은 이미지를 생성하기 위해 여러가지 작업을 한다. 물론 그렇지 않은 모델보다는 떨어지지만, 속도가 매우 중요한 경우에는 이 방법밖에 없다.
i7-7700K 에서 1장 생성하는데 약 30초 정도 걸린다. 품질도 생각보다는 좋다.
아래와 같이 LCM-LoRA 모델을 사용했다. OpenVINO 로 사용해도 속도는 크게 달라지지 않았다. OpenVINO를 사용해 성능을 향상시키려면 최신 CPU가 필요한것 같기도 하다. 예를 들어 AVX-VNNI 를 지원하는 CPU 말이다. (OpenVINO 는 AVX2 를 지원하는 CPU 에서 사용할 수 있다)
CPU 사양은 i7-7700K 인데, 결론은 계속 못 돌릴것 같다. 발열이 너무 심하다. TDP 91W 라는 수치가 믿기지 않을 정도의 발열이다. 80°C 넘는건 기본(80°C 는 CPU 의 1차 발열 제한 수치다) 이고 100°C 에 육박한다. 스로틀링 걸린거 같은데 7700K 가 망가질까봐 더이상 돌려보지 않았다.
105°C 넘어가면 아예 CPU 가 종료(시스템 종료)되는걸로 알려져있다. T JUNCTION 이 사용하기에 안전한 CPU 의 온도이기 때문에 100°C 까지 버틴다는 의미다. 단 CPU 온도가 100°C 부근이라면 쓰로틀링 걸리는 중일 수 있으니 성능도 같이 확인해보자.
Stable Diffusion 를 CPU으로 돌린거라 코어 4개가 모두 사용중이고 AVX, AVX2 를 사용하고 있다. 원래 AVX 를 사용하면 발열이 심해진다거 알려져 있기 때문에, 어느 정도 온도가 높을꺼라고, 한 80 도 정도까지는 생각했다. 하지만, 100도 일줄은 몰랐다. SD 는 수시간, 수십시간씩 실행하기 때문에 100도를 유지하면서 몇일씩 실행하는건 무리다. 게다가 현재 달아준건 수냉이기 때문에 코어 히트싱크 부근에 물이 끓어 순간적으로 기포 생길까봐 무서워서 못하겠다. (염려된다는거지 실질적인 문제가 있다는건 아니다)
- 차라리 GT 1030 이라도 쓰는게 좋아 보인다. 이건 발열이라도 없으니 말이다. 에혀. 인텔의 삽질을 내가 느낄줄이야. 나중에 AMD 로도 해봐야 겠다.
Stability AI 의 Stable Diffusion 3 (SD3) 가 주춤한 사이 FLUX.1 이 공개되었습니다. 8월 1일에 공개되었는데 이제 주목하게 되었네요. Stable Diffusion 시리즈를 만든 개발자 중 일부가 나와 Black Forest Labs 라는 회사를 차렸는데, 이 회사의 첫번째 생성형 AI입니다. 독일 회사입니다.
FLUX.1 의 성능이 매우 좋다고 해서 관심을 많이 가지고 있습니다. 전 아직 안 써 봤습니다만, SD3 보다는 좋아보입니다. SD3 는 라이선스에 이슈가 있어서 아직까지는 대중화 될지 안될지 모릅니다. FLUX.1 의 경우 특히 "손"도 잘 그리는것으로 알고 있습니다. 엄청난 성능에 SD3 로는 대응이 안되어서 Stability AI 에서는 SD 3.1 을 내놓을 예정이라 합니다.
현재 SD 는 개발사에서 제공한 모델이 주류가 아닙니다. SD1.5 의 경우 개발사에서 제공한 모델보다는, 수많은 사용자들이 만든 모델들을 사용하고 있고요, Dreamshaper 8 정도가 유명합니다. 저도 제가 병합한걸 쓰고 있습니다. SDXL 의 경우 개발사에서 제공한 모델 보다는, 사용자들이 학습시킨 Pony Diffusion 이나 Animagine XL, JuggernautXL v9 기반의 모델이 더 널리 쓰이고 있죠. 심지어 Novel AI 3 도 SDXL 기반으로 알려져 있고 꽤 성능이 좋죠. 이후에 나온 SD3 나 FLUX.1 도 마찬가지일거라 생각합니다. 사용자들이 학습시키려면 라이선스가 중요한데 일단 SD3 는 사용하기 어렵겠네요. 약 6개월 정도 후면 사용자들이 학습시킨 모델이 나올텐데 이떄쯤에 판가름 되겠죠.
FLUX.1 은 Pro, Dev, Schnell 의 3가지로 제공되는데 Pro 는 유료고, 공개된 건 Dev 와 Schnell 입니다. 120억개 파라메터를 가지고 있습니다. "Schnell"은 4스텝 고속 추론 모델이라 성능이 더 좋은 "Dev" 모델이 주가 될겁니다. 약어로 "FLUX.1 D"라고 부르네요. 아직 Stable Diffusion WebUI (SDUI) 에서는 지원이 안되고, Stable Diffusion WebUI Forge (SDF) 에서 지원된다고 하네요. SDF 는 예전에 VRAM 이 낮은 기기에서도 느리지만 이미지 생성이 되어서 한때 잘 썼었는데요, 다시 보니깐 반갑네요. (물론 같은 파라메터를 주어도 SDUI 와 유사한 이미지를 만들지 않습니다. 내부 알고리즘이 호환이 안되는거라서요)
FLUX 라는건 "선속"이라는 의미입니다. 특정 공간에서의 어떤 물리량의 "흐름"을 의미합니다. 주변에서 흔히 볼 수 있는 FLUX 라는 용어는 광선속을 이야기할때 주로 사용합니다. 광선속의 단위가 루멘, 칸델라, 럭스이고, 조명 기구의 밝기를 나타냅니다. 단위 면적당 광자의 흐름을 나타내죠.
싱크클로즈 취약점은 AMD CPU 에서 발견된 취약점으로, ring 0 모드 (커널 모드)에서 SMM (System Management Mode) 락이 활성화되어있어도 SMM 설정을 변경할 수 있는 취약점이라고 합니다. SMM 설정의 변경은 주로 AGESA 설정을 변경 (버전 변경) 할 때 사용합니다.
게스트 메모리 취약점, SMM 락 바이패스 취약점이라고도 합니다. IOActive 라는 보안 업체에서 발견했고, Sinkclose 라는 이름을 붙였습니다.
Skylake / Kabylake 에서 32GB 메모리 모듈 및 128GB 메모리 사용하기
필자가 보유하고 있는 Kabylake 마더보드인 H270 마더보드에 32GB 메모리 모듈을 설치했다. 결과적으로 잘 작동했다.
Skylake/Kabylake 지원 보드인 H270 보드에 32MB 메모리 모듈 사용했다.
스펙상으로, i7-7700K 는 최대 64GB 메모리를 지원하고, 마더보드에서도 최대 64GB 메모리를 지원한다고 되어있긴 하지만, 32GB 메모리 모듈 2개를 지원하는지는 확실하지 않았다. 지원될 것이란 생각은 했었지만 말이다.
i7-7700K 의 메모리 사양
ASUS PRIME H270-PLUS 마더보드의 메모리 사양. 최대 64GB 으로 써 있다.
설치해보니 잘 인식된다. 부팅도 이상 없이 잘 되었다. CPU는 i7-7700K, 마더보드 바이오스는 최신 버전인 2001 을 사용했다.
----
2025.04.04
128 GB 는 아니고 96GB (64 GB + 32 GB) 에 도전했다. 결과적으로는 성공했고 부팅도 잘 된다. (Ubuntu 24.04 사용) 이 정도면 128GB 도 될 거라고 생각하지만 이걸 테스트 하려면 메인 PC의 메모리를 빼야 하는 큰 작업이라서 안하려 한다.
H270 보드에 96GB 메모리를 설치했다.
위에도 나와있듯 Skylake / Kabylake 에서 128GB 메모리 지원이 공식 지원은 아니기 때문에, 반드시 마더보드의 바이오스를 최신버전으로 설치하고 해야 한다. 즉 안되면 어쩔 수 없는 셈. 하지만 아마도 ASUS 보드 사용하고 최신 바이오스 사용하면 다 될것 같다. 다른 제조사의 마더보드도 바이오스 최신버전 사용하면 될것 같다.
마더보드 제조사의 BIOS 배포 내역을 보다보면 어느 시점에 메모리 관련 호환성/안정화 관련 바이오스가 업데이트되는 경우가 있다. 예를 들어 아래와 같은 릴리즈 노트 말하는 거다. 이런 BIOS 는 반드시 업데이트 해야 한다.
ASUS PRIME H270-PLUS의 BIOS 릴리즈 노트중, 2018/04/12 에 메모리 호환 개선 업데이트가 있다.