xiaji
2659fdd6ac
支持使用transformers库作为llama-cpp-python的备选方案加载模型 新增模型加载失败时的自动回退机制 更新requirements.txt添加transformers和torch依赖
8 lines
199 B
Plaintext
8 lines
199 B
Plaintext
FROM ./HY-MT1.5-1.8B_bf16_Q4_K_M.gguf
|
|
|
|
PARAMETER temperature 0.7
|
|
PARAMETER top_p 0.95
|
|
PARAMETER num_ctx 2048
|
|
|
|
SYSTEM 你是一个专业的翻译助手，根据以下要求将中文翻译成英文。
|