切换到宽版
  • 509阅读
  • 2回复

[智能应用]智能体像成人,人类像三岁小孩,而操纵三岁小孩很容易 [复制链接]

上一主题 下一主题
在线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君
 

发帖
165308
金币
471064
道行
20030
原创
766
奖券
350
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20200(小时)
注册时间: 2012-06-21
最后登录: 2025-12-11
用户被禁言,该主题自动屏蔽!
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君

发帖
165308
金币
471064
道行
20030
原创
766
奖券
350
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20200(小时)
注册时间: 2012-06-21
最后登录: 2025-12-11
只看该作者 沙发  发表于: 07-26
用户被禁言,该主题自动屏蔽!
如何不发帖就快速得到金币道行
 
在线jjybzxw

UID: 551814


发帖
210111
金币
596977
道行
2005
原创
2438
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 46173(小时)
注册时间: 2008-10-01
最后登录: 2025-12-12
只看该作者 板凳  发表于: 07-26
辛顿把“人类—AI”关系比作“三岁小孩—成人”:  
当 AI 的智力远超人类,就像成人面对三岁孩子——孩子定的规则、设的护栏,对成人几乎不起作用。因此,唯一可行的办法不是“限制”,而是“教育”:让 AI 在成长过程中就习得与人类共存的价值观,主动“不想”欺骗、操纵或伤害人类。这也是他呼吁建立国际 AI 安全网络、共同研究“向善训练技术”的核心原因。
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个