39 lines
1.2 KiB
Markdown
39 lines
1.2 KiB
Markdown
按照心流的原则，确定AI是辅助而不是加重负担
|
||
|
||
个人制作小游戏：<https://forum.trae.cn/t/topic/16148>
|
||
|
||
trae+godot+DeepSeek v4 写小游戏，成本 80
|
||
|
||
个人开发：我也给媳妇开发了一个在客厅用电视练舞的app，左边是视频画面，右边是摄像头画面，跟跳练舞挺方便
|
||
|
||
<br />
|
||
|
||
AI错误类型
|
||
一本正经胡说八道
|
||
顺着用户说话
|
||
知道但说不出
|
||
顺序一翻就懵
|
||
长上下文中段塌陷
|
||
该答的不答
|
||
学界术语
|
||
Hallucination (幻]觉)
|
||
Sycophancy(谄媚)2
|
||
Under-trained Token3(训练不足词元)
|
||
Reversal Curse (反转13诅咒)
|
||
Lost in the Middle (14段遗失)
|
||
Exaggerated Safety (15度拒答)
|
||
简明定义
|
||
输出与事实或上下文不符
|
||
输出向用户偏好倾斜，牺牲准确性
|
||
表征中存在但生成端无法稳定输出
|
||
学过“A是B”却答不出“B是谁”
|
||
长输入里关键信息位于中段时性显著下降
|
||
安全微调过紧，对显然安全的提问也拒答
|
||
训练流程定位
|
||
预训练知识与生成机制之间的偏差
|
||
RLHF偏好建模偏差
|
||
后训练阶段token暴露不均
|
||
自回归训练的方向性约束
|
||
注意力分布在长上下文中的偏置
|
||
RLHF安全对齐过紧
|