▲kaydash 8달전 | parent | ★ favorite | on: GPT-OSS-120B, 8GB VRAM만으로도 훌륭하게 구동가능(old.reddit.com)실제로해봤는데 너무 느려요 gpu 클럭은 거의 안쓰고 gpu 전용메모리 8GB, 물리메모리64GB를 가득 사용하고, 16vCore는 절반만씁니다. 그냥 돌아간다에 의미를 두어야지 모든 리소스를 다 사용하는 형태는아니였어요. 질의 한번에 6~8분걸렸습니다.
실제로해봤는데 너무 느려요
gpu 클럭은 거의 안쓰고
gpu 전용메모리 8GB, 물리메모리64GB를 가득 사용하고,
16vCore는 절반만씁니다.
그냥 돌아간다에 의미를 두어야지 모든 리소스를 다 사용하는 형태는아니였어요.
질의 한번에 6~8분걸렸습니다.