武当休闲山庄 - 稳定,和谐,人性化的中文社区

查看完整版本: [-- 智能体像成人，人类像三岁小孩，而操纵三岁小孩很容易 --]

武当休闲山庄 -> 数码讨论 -> 智能体像成人，人类像三岁小孩，而操纵三岁小孩很容易 [打印本页]

登录 -> 注册 -> 回复主题 -> 发表主题

姜谷粉丝	2025-07-26 13:27
用户被禁言,该主题自动屏蔽!

姜谷粉丝	2025-07-26 13:28
用户被禁言,该主题自动屏蔽!

jjybzxw

2025-07-26 19:50

辛顿把“人类—AI”关系比作“三岁小孩—成人”：
当 AI 的智力远超人类，就像成人面对三岁孩子——孩子定的规则、设的护栏，对成人几乎不起作用。因此，唯一可行的办法不是“限制”，而是“教育”：让 AI 在成长过程中就习得与人类共存的价值观，主动“不想”欺骗、操纵或伤害人类。这也是他呼吁建立国际 AI 安全网络、共同研究“向善训练技术”的核心原因。

查看完整版本: [-- 智能体像成人，人类像三岁小孩，而操纵三岁小孩很容易 --] [-- top --]

Powered by www.wdsz.net v8.7.1 Code ©2005-2018www.wdsz.net
Gzip enabled