feat(translator): 添加transformers作为备选模型加载方式

支持使用transformers库作为llama-cpp-python的备选方案加载模型
新增模型加载失败时的自动回退机制
更新requirements.txt添加transformers和torch依赖
This commit is contained in:
2026-01-16 11:08:34 +08:00
parent 1e7755f8e7
commit 2659fdd6ac
3 changed files with 107 additions and 33 deletions

7
models/Modelfile Normal file
View File

@@ -0,0 +1,7 @@
FROM ./HY-MT1.5-1.8B_bf16_Q4_K_M.gguf
PARAMETER temperature 0.7
PARAMETER top_p 0.95
PARAMETER num_ctx 2048
SYSTEM 你是一个专业的翻译助手,根据以下要求将中文翻译成英文。