总的来看,一般电脑比较适合部署14b版本,也算能用,毕竟是蒸馏版本,参数量在这放着呢,虽然是蒸馏版本,但也基本都保留了核心的推理能力。如果想跑更高版本的,硬件配置很多人吃不消的,个人的建议14b玩玩就行了。有台式机可以搞到128G运存的,可以尝试下32b/70b的版本的。专业可靠的还得是官方的满血版本,硬件配置要求太高了。还是不成功的请访问chatbox的帮助。1、安装Ollama。