私有化部署：4090 跑 32B 模型，量化到多少能流畅？

公司内网要私有化部署，显卡只有 4090。32B 模型量化到 INT4 能跑吗？推理速度大概多少 token/s？