feat(translator): 添加transformers作为备选模型加载方式
支持使用transformers库作为llama-cpp-python的备选方案加载模型 新增模型加载失败时的自动回退机制 更新requirements.txt添加transformers和torch依赖
This commit is contained in:
7
models/Modelfile
Normal file
7
models/Modelfile
Normal file
@@ -0,0 +1,7 @@
|
||||
FROM ./HY-MT1.5-1.8B_bf16_Q4_K_M.gguf
|
||||
|
||||
PARAMETER temperature 0.7
|
||||
PARAMETER top_p 0.95
|
||||
PARAMETER num_ctx 2048
|
||||
|
||||
SYSTEM 你是一个专业的翻译助手,根据以下要求将中文翻译成英文。
|
||||
Reference in New Issue
Block a user