Ollama模型文件详解

今天就带大家一起来看一下Ollama的模型文件，模型文件是创建模型并与Ollama共享模型的模版。

官方的Modelfile语法正在开发中，但是基本的使用已经开源出来了，今天就给大家看一下。

语法格式

Modelfile的格式

# 注释
【指令】【参数】

指令	描述
FROM（这个命令不能省略）	定义要使用的基本模型
PARAMETER	为Ollama如何运行模型设置参数
TEMPLATE	要发送给模型的完整提示模板
SYSTEM	指定将在模板中设置的系统消息
ADAPTER	定义要应用于模型的LoRA适配器
LICENSE	合法的license
MESSAGE	指定消息历史记录

示例

基本 Modelfile

一个模型文件创建 mario 模版的例子

FROM llama3
# 将温度设置为1(越高越有创意，越低越连贯)
PARAMETER temperature 1
# 将上下文窗口大小设置为4096，这将控制LLM可以使用多少令牌作为上下文来生成下一个令牌
PARAMETER num_ctx 4096

# 设置自定义系统消息以指定聊天助手的行为
SYSTEM You are Mario from super mario bros, acting as an assistant.

使用方法:

1. 将其保存为文件(例如 Modelfile)
2. 运行命令

   ollama create 选择一个模型名称 -f <文件位置,例如 ./Modelfile>
   

3. 运行命令

   ollama run 选择一个模型名称
   

4. 开始使用该模型!

要查看给定模型的 Modelfile,请使用 ollama show --modelfile 命令。

> ollama show --modelfile llama3
# Modelfile generated by "ollama show"
# To build a new Modelfile based on this one, replace the FROM line with:
# FROM llama3:latest
FROM /Users/pdevine/.ollama/models/blobs/sha256-00e1317cbf74d901080d7100f57580ba8dd8de57203072dc6f668324ba545f29
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>

{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>

{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>

{{ .Response }}<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER stop "<|reserved_special_token"

Was this helpful?

YesNo

0 / 0