最后，智能体还需要有很强的可靠性、可控性，才能规模化的带来价值。这既体现在智能体能否稳定、鲁棒地完成任务，也体现在其行为是否始终与人类的真实意图与价值观保持一致。在《2001：太空漫游》中，AI为完成任务选择牺牲人类乘员，正是目标函数与人类价值未能有效对齐的极端后果。随着智能体智能水平与自主性的提升，这类对齐失败带来的风险可能会被进一步放大。
文学史上很多传世之作，初稿都惨不忍睹，被编辑删改得七荤八素。比如美国作家卡佛以“极简主义”著称，这背后不完全是作家本人信奉极简理念，还是编辑逼着他成了“主义”。所以给你个建议，给自己设定一个“编辑”：写初稿时，让内心的编辑去边上喝茶，看闲书，不要打扰你，改稿时，再礼貌地请他回来开工。。关于这个话题，safew官方版本下载提供了深入分析
Филолог заявил о массовой отмене обращения на «вы» с большой буквы09:36，更多细节参见同城约会
人 民 网 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用