2026-05-23 22:11:48 +08:00
|
|
|
|
按照心流的原则，确定AI是辅助而不是加重负担
|
|
|
|
|
|
|
2026-05-29 17:28:03 +08:00
|
|
|
|
个人制作小游戏：<https://forum.trae.cn/t/topic/16148>
|
2026-05-23 22:11:48 +08:00
|
|
|
|
|
2026-05-29 17:28:03 +08:00
|
|
|
|
trae+godot+DeepSeek v4 写小游戏，成本 80
|
2026-05-23 22:11:48 +08:00
|
|
|
|
|
2026-05-29 17:28:03 +08:00
|
|
|
|
个人开发：我也给媳妇开发了一个在客厅用电视练舞的app，左边是视频画面，右边是摄像头画面，跟跳练舞挺方便
|
2026-05-23 22:11:48 +08:00
|
|
|
|
|
2026-05-29 17:28:03 +08:00
|
|
|
|
<br />
|
2026-05-23 22:11:48 +08:00
|
|
|
|
|
2026-05-29 17:28:03 +08:00
|
|
|
|
AI错误类型
|
|
|
|
|
|
一本正经胡说八道
|
|
|
|
|
|
顺着用户说话
|
|
|
|
|
|
知道但说不出
|
|
|
|
|
|
顺序一翻就懵
|
|
|
|
|
|
长上下文中段塌陷
|
|
|
|
|
|
该答的不答
|
|
|
|
|
|
学界术语
|
|
|
|
|
|
Hallucination (幻]觉)
|
|
|
|
|
|
Sycophancy(谄媚)2
|
|
|
|
|
|
Under-trained Token3(训练不足词元)
|
|
|
|
|
|
Reversal Curse (反转13诅咒)
|
|
|
|
|
|
Lost in the Middle (14段遗失)
|
|
|
|
|
|
Exaggerated Safety (15度拒答)
|
|
|
|
|
|
简明定义
|
|
|
|
|
|
输出与事实或上下文不符
|
|
|
|
|
|
输出向用户偏好倾斜，牺牲准确性
|
|
|
|
|
|
表征中存在但生成端无法稳定输出
|
|
|
|
|
|
学过“A是B”却答不出“B是谁”
|
|
|
|
|
|
长输入里关键信息位于中段时性显著下降
|
|
|
|
|
|
安全微调过紧，对显然安全的提问也拒答
|
|
|
|
|
|
训练流程定位
|
|
|
|
|
|
预训练知识与生成机制之间的偏差
|
|
|
|
|
|
RLHF偏好建模偏差
|
|
|
|
|
|
后训练阶段token暴露不均
|
|
|
|
|
|
自回归训练的方向性约束
|
|
|
|
|
|
注意力分布在长上下文中的偏置
|
|
|
|
|
|
RLHF安全对齐过紧
|
