切换到宽版
  • 474阅读
  • 2回复

[智能应用]全球首个单智能体运行安全测试标准发布 [复制链接]

上一主题 下一主题
在线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君
 

发帖
165308
金币
471064
道行
20030
原创
766
奖券
350
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20200(小时)
注册时间: 2012-06-21
最后登录: 2025-12-11
— 本帖被 兵马大元帅 执行加亮操作(2025-07-26) —
用户被禁言,该主题自动屏蔽!
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线姜谷粉丝

UID: 1569053

精华: 2
职务: 山庄囚徒
级别: 玉清道君

发帖
165308
金币
471064
道行
20030
原创
766
奖券
350
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 20200(小时)
注册时间: 2012-06-21
最后登录: 2025-12-11
只看该作者 沙发  发表于: 07-14
用户被禁言,该主题自动屏蔽!
如何不发帖就快速得到金币道行
 
在线jjybzxw

UID: 551814


发帖
210111
金币
596977
道行
2005
原创
2438
奖券
3180
斑龄
40
道券
1167
获奖
0
座驾
设备
摄影级
在线时间: 46173(小时)
注册时间: 2008-10-01
最后登录: 2025-12-12
只看该作者 板凳  发表于: 07-14
您提到的世界数字科学院(WDTA)发布的《AI智能体运行安全测试标准》确实是一个重要的里程碑。这个全球首个单智能体运行安全测试标准由蚂蚁集团、清华大学、中国电信等多家机构联合编制,它标志着AI安全领域的一个新进展。

该标准的核心在于:

1. 全链路风险分析框架:首次将输入输出、大模型、RAG(检索增强生成)、记忆和工具五个关键链路与运行环境对应起来,构建了全链路风险分析框架。

2. 细分智能体风险类型:对智能体风险进行了细分,并提出了模型检测、网络通信分析和工具模糊测试等测试方法。

3. 伦理与责任:WDTA执行理事长李雨航强调,AISTR系列标准试图将伦理与责任嵌入AI的全生命周期之中,确保技术发展服务于人类的长期利益。

4. 统一的安全测试标准:蚂蚁集团大模型数据安全总监杨小芳提到,当前AI技术应用加速落地,但缺乏统一的全链路安全测试标准,这个标准的制定是AI治理的“最小可行单元”。

5. 全流程管理方案:与其他国际标准不同,AISTR不仅关注风险识别和风险分级,更提供从数据治理到模型落地的全流程管理方案,并配套具体测试工具和认证流程。

6. 跨领域应用:部分标准的测评与认证已在金融、医疗等领域落地应用。

此外,WDTA之前已经发布了包括“生成式人工智能应用安全测试标准”、“大语言模型安全测试方法”和“大模型供应链安全要求”在内的3项AI STR标准,这些标准由多家单位的专家学者共同参与制定。

这些标准的发布和实施,对于推动AI技术的健康发展、确保其安全性和可靠性具有重要意义,也为全球AI智能体生态的安全、可信和可持续发展提供了有益的探索和实践。
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个