切换到宽版
  • 26阅读
  • 2回复

[数码讨论]大模型如何更懂“中国话” [复制链接]

上一主题 下一主题
在线huozm32831

UID: 329002

精华: 1097
职务: 超级斑竹
级别: 玉清道君
 

发帖
116984
金币
4664
道行
19524
原创
29547
奖券
18275
斑龄
203
道券
10562
获奖
0
座驾
 设备
EOS—7D
 摄影级
专家级认证
在线时间: 25115(小时)
注册时间: 2007-11-29
最后登录: 2025-12-26
只看楼主 正序阅读 使用道具 楼主  发表于: 前天 19:56
“过马路时,你要注意看车!”

  “我计划明天去车展看车。”

  这两句话里的“看车”是一个意思吗?相信不少人要会心一笑,表面上看是同一个词组,但其含义因语境不同发生了变化。

  这就是中文里常见的“一词多义”现象。人工智能大模型是一种与人类语言密切相关的技术,要让大模型深刻理解这一现象,离不开中文数据的持续供给。

  目前,国内多数模型训练使用的数据,中文数据占比已经超过60%,有的模型达到80%。大模型训练中,中文数据占比提升有何意义?中文高质量数据为何持续增加?如何进一步增加中文数据的开发与供给?记者进行了采访。

  数据就像大模型的“知识教材”

  不同语言的数据对大模型性能有怎样的影响?“数据就像大模型的‘知识教材’,教材的语言属性不同,会对模型的知识体系产生不同影响。”清华大学计算社会科学与国家治理实验室执行主任、教授孟庆国表示。

  从知识来源看,过去我国大模型常面临“数据依赖”风险——英文数据在全球互联网的占比较高,如前沿科技论文、行业标准、文化典籍等多以英文呈现,全球高质量标注数据也多以英文为主。

  “语言类大模型一般需要遵循一定的语言习惯。”工业和信息化部信息通信经济专家委员会委员盘和林认为,中文数据占比提高,既方便了用户理解其输出结果,又可以保障和提升我国在大模型上的研发能力。

  “若中文数据占比低,模型在关键技术迭代中易受‘数据授权限制’‘更新延迟’等影响。”孟庆国说,中文数据占比提高,助力我国在“数据安全”“技术自主”上迈出关键步伐,有利于我国掌握大模型发展主动权。

  “中文数据中独有的文化习惯、隐喻表达、政策术语等在英文数据中难以得到体现。模型长期学习英文数据,所形成的‘英文式认知逻辑’,在理解中文特有的思维方式时容易出现偏差。”科大讯飞消费者AI交互业务部总经理赵艳军介绍,中文数据比重的提升,增强了大模型对中华文化及中国场景的理解能力。比如中医问诊时,“上火”“湿气”等概念需要中文语境才能准确推理。

  从知识传承看,中文数据承载着我国数千年的文化积累,中文数据占比提高,能让大模型推动中华文化的数字化传播。“中文数据占比高的模型能讲解‘文言文虚词用法’‘诗词平仄规律’等。比如,在解释‘之乎者也’时,结合《论语》《孟子》等中文典籍案例,让传统文化教育更生动。”孟庆国说。

  中文高质量数据供给能力不断增强

  中文普通数据和中文高质量数据有何区别?普通数据多为未经审核的网络文本、非专业内容,易出现事实错误或概念混淆。而高质量数据需经过“事实核查、专业审核”,语义准确且来源可追溯。

  要理解中文高质量数据的重要性,可从医疗诊断这一专业场景讲起。今年8月,中文临床医学知识图谱“磐医知识图谱”在浙江台州发布。“当前,一些大模型学习的医学知识,来源于互联网公开数据,而这些公开数据,有的不严谨、有的存在矛盾、有的更新滞后,这些情况都会对大模型生成的结果产生负面影响。”浙江省全省医疗智能决策重点实验室主任林辉表示,“磐医知识图谱”中的数据均由医学专家审核,每个知识点都有明确来源,且动态更新医学进展。

  大模型性能的提升,体现了中文高质量数据的价值。得益于一系列因素的合力助推,中文高质量数据的供给能力不断增强——

  政策有支持。从《“数据要素×”三年行动计划(2024—2026年)》提出“打造高质量人工智能大模型训练数据集”,到国家数据局布局建设数据标注基地,政策利好下,大量中文高质量数据集加速建设。

  技术有突破。中文数据因“歧义多、语境依赖强”,早期标注成本是英文数据的1.8—2.5倍,随着技术不断进步,开发难度也在降低。例如,国内某“中文语义标注系统”已可自动区分“打毛衣”“打电话”中“打”的含义,让标注效率提升了3倍,且成本有效降低。

  行业有共识。国内垂直场景对“中文适配”大模型的需求不断升温,推动中文数据从“辅助补充”变为“核心资源”,更多企业参与到中文数据的开发之中。如中国移动已建成覆盖超30个行业、超3500TB(太字节)的通用高质量数据集。

  协同建标准,细分多场景

  Token(通常所说的“词元”)是处理文本的最小数据单元。数据显示,2024年初,我国日均Token的消耗量为1000亿,截至今年9月底,我国日均Token消耗量已突破40万亿。这些数字背后,是中文数据资源的快速积累和价值释放。

  如何进一步增强中文数据的开发和供给?专家学者带来了思考和建议。

  首先是建标准。现有的中文数据中,重复的内容多、质量高的少,尤其是在医疗、工业等垂直领域,高质量数据更是稀缺。比如医疗数据,有的医院记录病历只写“发烧”,有的会写“发烧38.5摄氏度、伴咳嗽2天”,若无标准的“尺子”判断数据质量,进一步的开发难以推进。

  “明确了不同领域的中文标注标准后,才更有利于建设和完善评价、激励机制。”孟庆国认为,应加快研究制定中文数据分级标准,从而释放中文数据的供给活力。

  其次是强技术。高质量数据集的建设过程中仍不可避免会遇到大量数据孤岛和合规难题,比如,不同机构的数据因为隐私安全等合规要求,难以跨域流通,导致各机构重复开展数据标注,既浪费资源,又无法形成规模效应。

  “可推广应用新一代标注技术,在原始数据不出域且保证隐私安全的条件下,完成跨机构协同标注,从而整合多机构力量,避免重复劳动。”赵艳军说。

  此外要补场景。我国产业体系完备,其广度和深度决定了需要更多细分场景的中文数据。“比如,在元宇宙等新兴场景中,中文数据使用量仅为英文的1/5;又如,中医、非遗等传统场景数字化程度低,大量宝贵信息尚未转化为可用数据资源。”孟庆国表示,可推动政产学研用协同,专项采集各种垂直场景中文数据,激活产业应用。

  

  推进文化和科技融合

  “十五五”规划建议提出,“推进文化和科技融合”。探索文化和科技融合的有效机制,需要用互联网思维和信息技术改进文化创作生产流程,推动文化建设数智化赋能、信息化转型。

  “文化IP+科技体验”,重塑文旅产业生态。通过线上数字平台与线下沉浸场景的结合,多地打造数字文旅空间、开发“旅游+智能体”新应用等,实现文化和科技双向赋能。“文化创作+人工智能”,拓展产业融合场景。当前,以大模型为代表的AI技术,与影视、文博等领域深度融合,催生出AI短剧、博物馆数字文创等新产品,不仅丰富了文化表达方式,也培育出更多文化消费新场景。“特色文化+数字技术”,助力乡村全面振兴。通过数字技术,将地标农产品、乡村非遗技艺融入微短剧等内容创作,能够进一步提升特色文化产品的创意能力和表现力,为乡村全面振兴注入新动能。
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
  




    
在线jjybzxw

UID: 551814


发帖
214143
金币
628426
道行
2006
原创
2442
奖券
3260
斑龄
41
道券
1197
获奖
0
座驾
设备
摄影级
在线时间: 46735(小时)
注册时间: 2008-10-01
最后登录: 2025-12-27
只看该作者 板凳  发表于: 前天 22:56
您提出的问题“‘过马路时,你要注意看车!’和‘我计划明天去车展看车。’这两句话里的‘看车’是一个意思吗?”看似简单,实则深刻揭示了中文语言中一个核心特征——一词多义(polysemy)与语境依赖性。

下面我们将从语言学、人工智能理解挑战、数据供给意义、文化科技融合四个维度进行系统分析,并结合文章内容深入解读其背后的深层逻辑。
一、语言学视角:两个“看车”,完全不同含义

虽然字面相同,但两句话中的“看车”属于典型的同形异义词组(homonymy in context):

| 句子 | “看车”的真实含义 | 语境解析 |
|------|------------------|----------|
| 1. 过马路时,你要注意看车! | 观察是否有车辆驶来,确保安全通过 | “看”=警惕、留意;“车”=行驶中的交通工具<br>→ 动作目的:规避危险 |
| 2. 我计划明天去车展看车。 | 欣赏、了解、挑选汽车 | “看”=参观、鉴赏;“车”=展览中的商品或展品<br>→ 动作目的:获取信息/消费决策 |
🔍 关键差异总结:
| 维度 | 第一句“看车” | 第二句“看车” |
|------|---------------|---------------|
| 动词“看”的语义 | 警觉、观察(surveillance) | 鉴赏、浏览(appreciation) |
| 名词“车”的指代 | 行驶中的机动车(traffic hazard) | 展示中的汽车产品(consumer goods) |
| 使用场景 | 日常生活安全提醒 | 消费行为/兴趣活动 |
| 情感色彩 | 紧张、警示 | 轻松、期待 |

📌 结论:  
这两个“看车”在语法结构上相同,但在语义上完全不等价。它们的意义由上下文语境决定,这正是自然语言处理中最难攻克的难题之一。
二、AI大模型的理解挑战:为何需要大量中文数据?
🤖 大模型如何“学会”区分这两个“看车”?

大模型本身没有先验知识,它依靠训练数据中的共现模式来学习词语搭配和语境规律。

例如:
在“过马路…要看…”这类句子中,“车”常与“红绿灯”“斑马线”“撞”“避让”等词共现;
而在“车展…去看…”的语境中,“车”更可能与“品牌”“性能”“试驾”“新款”等词同时出现。

通过海量中文文本的学习,模型逐渐建立“语境—语义映射关系”。

✅ 如果模型见过足够多类似表达,就能推断:“哦,这个‘看车’是危险预警!”“那个‘看车’是购车兴趣!”
⚠️ 若缺乏高质量中文数据会发生什么?
模型可能将两者混淆,输出错误回答;
在医疗、法律等专业领域,歧义可能导致严重后果;
面对“上火”“湿气”“之乎者也”等中华文化特有概念时,无法准确理解和生成。
三、中文数据占比提升的战略意义

根据文中信息,当前国内多数大模型的中文数据占比已超60%,部分达80%。这一趋势具有多重深远影响:
✅ 1. 提升用户体验与本地适配能力
| 场景 | 效果 |
|------|------|
| 客服机器人 | 能听懂“打毛衣”不是“打电话” |
| 教育辅导 | 可讲解“之乎者也”的文言用法 |
| 医疗问诊 | 正确理解“我最近有点上火”背后的中医逻辑 |

👉 用户不再需要“翻译成英文思维”才能被AI理解。
✅ 2. 增强技术自主与数据安全
减少对英文数据集(如Common Crawl、Wikipedia EN)的依赖;
避免因国际政策变化导致的数据授权中断;
实现从“数据输入国”向“数据生产国”转变。
✅ 3. 推动中华文化的数字化传承
| 文化元素 | 应用场景 |
|----------|-----------|
| 文言文、诗词格律 | AI辅助教学、自动出题 |
| 中医术语体系 | 构建中医知识图谱 |
| 非遗技艺记录 | 数字化保存与传播 |

如孟庆国所说:“能让大模型讲清楚‘平仄规律’,就是文化传承的新方式。”
四、高质量中文数据:从“量变”到“质变”的关键跃迁
📊 普通数据 vs 高质量数据对比

| 类型 | 特征 | 缺陷 | 典型来源 |
|------|------|--------|------------|
| 普通中文数据 | 网络论坛、社交媒体、网页抓取 | 存在事实错误、情绪化表达、重复内容 | 百科、贴吧、微博 |
| 高质量中文数据 | 经专家审核、来源可追溯、逻辑严谨 | 成本高、采集难 | 学术论文、医学图谱、官方文件 |
💡 案例说明:“磐医知识图谱”
所有医学知识点均由临床专家审核
每个诊断建议都有文献支持
动态更新最新研究成果
→ 显著降低AI误诊风险

❗ 若仅用网络公开数据训练医疗AI,可能会得出“喝绿豆汤能治癌症”这种荒谬结论。
五、如何进一步增强中文数据开发与供给?

专家学者提出了三大方向:
1️⃣ 建标准:统一标注规范,破解“数据碎片化”

| 问题 | 解决方案 |
|------|-----------|
| 同一病症记录方式不同:<br>“发烧” vs “体温38.5℃伴咳嗽2天” | 制定《医疗文本标注国家标准》<br>推动电子病历结构化 |
| 不同行业术语混乱 | 分领域建设术语库(如工业、农业、司法) |

✅ 孟庆国建议:加快研究制定中文数据分级标准,释放供给活力。
2️⃣ 强技术:突破数据孤岛,实现隐私保护下的协同标注

| 技术瓶颈 | 创新路径 |
|----------|-----------|
| 医院数据不能外泄 | 应用联邦学习+安全多方计算<br>原始数据不出域,仅共享加密特征 |
| 标注成本高昂 | 开发“中文语义标注系统”<br>自动识别“打毛衣”与“打电话”中“打”的差异 |

🎯 成果:标注效率提升3倍,成本显著下降。
3️⃣ 补场景:填补细分领域数据空白

| 场景类型 | 数据缺口现状 | 发展建议 |
|----------|----------------|-----------|
| 新兴科技场景 | 元宇宙中文数据仅为英文的1/5 | 政企合作建设中文元宇宙语料库 |
| 传统文化场景 | 中医、非遗数字化程度低 | 设立专项基金采集民间技艺口述史 |
| 乡村振兴场景 | 农产品地理标志缺乏数字描述 | 将“五常大米”“西湖龙井”转化为结构化知识 |

✅ 目标:让AI不仅能读懂城市白领的语言,也能理解乡村匠人的表达。
六、推进文化和科技融合:“文化IP + 科技体验”的未来图景

“十五五”规划明确提出:“推进文化和科技融合”。这意味着:
🌐 1. “文化IP + 科技体验”重塑文旅生态
| 应用案例 | 描述 |
|---------|------|
| 数字敦煌 | 游客可通过VR沉浸式游览莫高窟未开放洞窟 |
| AI导游 | 自动讲解文物背后的历史故事,支持方言交互 |
| 数字文创NFT | 将故宫藏品转化为可收藏的数字艺术品 |
🎬 2. “文化创作 + AI”催生新业态
| 新形态 | 示例 |
|-------|------|
| AI短剧 | 输入剧本大纲,AI自动生成分镜、配音、剪辑 |
| 博物馆智能体 | 观众提问“这件青铜器怎么用?”AI现场解答 |
| AI作诗写联 | 春节期间为百姓定制个性化春联 |
🏘️ 3. “特色文化 + 数字技术”助力乡村振兴
| 实践路径 | 效果 |
|----------|------|
| 将“苗绣”“剪纸”技艺录制成教学视频并嵌入AI系统 | 年轻人可通过APP学习非遗技能 |
| 用微短剧讲述“阳澄湖大闸蟹捕捞过程” | 提升品牌价值,带动电商销售 |
| AI生成方言版农产品广告 | 更贴近本地消费者情感 |
✅ 总结:从“两个看车”说起,看见中国AI的未来之路

| 层面 | 核心观点 |
|------|----------|
| 语言层面 | “看车”虽同形,但因语境而异义,体现中文丰富性与复杂性 |
| 技术层面 | 大模型要真正“懂中文”,必须依赖大规模、高质量中文数据 |
| 战略层面 | 提高中文数据占比,关乎技术自主、文化传承与国家安全 |
| 发展路径 | 建标准、强技术、补场景,构建可持续的中文数据生态体系 |
| 未来愿景 | 让AI不仅能分辨“过马路看车”和“车展看车”,还能讲好《论语》,治好“上火”,传好“非遗” |
🌟 结语:每一个“看车”,都是文明的回响

当我们在过马路时说“注意看车”,那是生存的智慧;  
当我们去车展说“我想看车”,那是生活的追求;  
而当AI能真正理解这两种“看车”的区别,  
它才不只是冰冷的算法,而是开始触摸人类语言的情感温度与文化厚度。

——这,正是中文数据的价值所在,  
也是中国大模型走向世界的核心竞争力。

🔚 让技术扎根母语,让文化照亮科技。
如何不发帖就快速得到金币道行
 
在线天人地

UID: 1627269

精华: 2
级别: 上清仙尊

发帖
297942
金币
44451
道行
40006
原创
109
奖券
147
斑龄
0
道券
30
获奖
0
座驾
设备
摄影级
在线时间: 37001(小时)
注册时间: 2012-09-03
最后登录: 2025-12-26
只看该作者 沙发  发表于: 前天 21:05
提升中文数据占比、加强中文语境理解是关键。 中文数据占比越高,大模型越能准确理解语义、文化背景和政策术语,从而更懂“中国话”。

📌 中文数据占比提升的意义
中文数据是大模型训练的“知识教材”,占比越高,越能提升模型对中文语言习惯的掌握 1。
保障数据安全与技术自主,减少对英文数据的依赖 1。
更好地理解中文中特有的文化、隐喻和政策术语,如中医的“上火”“湿气”等概念 1。
🧠 中文高质量数据的推动作用
高质量数据需经过事实核查、专业审核,语义更准确、来源可追溯。
例如,“磐医知识图谱”由医学专家审核,动态更新医学进展,提升大模型在专业领域的表现 1。
2024年初至9月底,中文Token消耗量从1000亿增长到40万亿,显示中文数据资源快速积累 1。
✅ 结论与下一步
中文数据占比高是大模型理解“中国话”的基础。
高质量中文数据是提升模型准确性和实用性的关键。
未来需进一步制定中文数据标注标准,完善激励机制,推动中文数据供给
如何不发帖就快速得到金币道行
 
天人地
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个