标签

gpu

共 1 篇

1. 2024.03.02十分钟在带 GPU 的 Amazon EC2 上部署 Ollama 服务适合个人或小团队在云上自建开源大模型服务的一份指南：选带 GPU 的实例和预装驱动的 AMI，安装 Ollama，跑 llama2，用 Nginx 做反向代理对外提供服务，再用 open-webui 做个界面。