今天看到别人发了跑 llama2:7b 模型的体验，速度还不错。自己也尝试了下，的确还可以，不需要显卡。 安装 Ollama 及下载模型 从 Ollama 官网下载，我家 All in Boom 主机装的是 Windows Server 系统，下载 Windows 版本安装即可。 … 继续阅读“使用 ollama 无需显卡本地体验大模型”
以为自己是安迪，其实是瑞德。
今天看到别人发了跑 llama2:7b 模型的体验，速度还不错。自己也尝试了下，的确还可以，不需要显卡。 安装 Ollama 及下载模型 从 Ollama 官网下载，我家 All in Boom 主机装的是 Windows Server 系统，下载 Windows 版本安装即可。 … 继续阅读“使用 ollama 无需显卡本地体验大模型”