Ollama 后台留言问答（1）

如何升级Ollama

macOS和Windows上的Ollama会自动下载更新。单击任务栏或菜单栏栏中的ollama图标，然后单击“重新启动更新”以应用更新。也可以通过手动下载最新版本来安装更新。

在Linux上，重新运行安装脚本：

curl -fsSL https://ollama.com/install.sh | sh

如何指定上下文窗口大小

默认情况下，Ollama使用的上下文窗口大小为2048个token。

要在使用 ollama run 时更改这个设置,请使用 /set 参数:

ollama run /set parameter:value

其中 parameter 是你要设置的参数的名称,value 是你要为该参数设置的值。例如：

/set parameter num_ctx 4096

使用API时，指定num ctx参数

curl http://localhost:11434/api/generate -d '{
  "model": "llama2",
  "prompt": "Why is the sky blue?",
  "options": {
    "num_ctx": 4096
  }
}'

如何配置Ollama服务器

Ollama服务器可以单独配置环境变量。

设置Mac环境变量

如果Ollama作为macOS应用程序运行，则应该使用launchctl设置环境变量：

1. 对于每个环境变量，调用launchctl setenv。

   launchctl setenv OLLAMA_HOST "0.0.0.0"
   

2. 重启Ollama应用程序。

设置Linux环境变量

如果Ollama作为systemd服务运行，则应该使用systemctl设置环境变量：

1. 通过调用 systemctl edit ollama.service 编辑 systemd 服务。这将打开一个编辑器。
2. 对于每个环境变量,在 [Service] 部分下添加一行 Environment:

   [Service]
   Environment="OLLAMA_HOST=0.0.0.0"
   

3. 保存并退出。
4. 重新加载 systemd 并重启 Ollama:

   systemctl daemon-reload
   systemctl restart ollama
   

设置Windows环境变量

在windows上，Ollama继承用户的系统环境变量。

• 首先,你需要退出当前正在运行的 Ollama 实例。在 Windows 上,你可以通过点击任务栏中的 Ollama 图标来实现这一点。
• 接下来,你需要编辑系统环境变量。在 Windows 上,你可以通过控制面板来完成这个任务。搜索”环境变量”,然后点击”编辑系统环境变量”。
• 在”用户变量”部分,你可以编辑现有的变量或创建新的变量,如 OLLAMA_HOST、OLLAMA_MODELS 等。这些变量将在你的用户账户下生效。
• 点击”确定”或”应用”保存你的更改。
  • 最后,打开一个新的终端窗口(命令提示符或 PowerShell),导航到 Ollama 的安装目录,并运行 ollama 命令启动 Ollama。新的环境变量将在这个新的终端会话中生效。

Was this helpful?

YesNo

0 / 0