警惕“数字分身”越位

2026-09-04 14:45
北京

AI应用越是便利,越需警惕价值解读偏差、育人主体偏移和治理规则滞后

从“十五五”规划强调“全面实施‘人工智能+’行动”,到教育部等五部门印发《“人工智能+教育”行动计划》,生成式人工智能(AI)正加速融入教育。思政教育关系青年的价值观塑造,影响干部教育培训和成人继续教育的成效,应及时关注AI技术发展并警惕潜藏的风险。

目前,用户可自主配置、平台可快速分发的AI应用(依托大模型,通过预设指令、知识库或工具调用完成特定任务的可配置应用),以及基于个人语料、知识库和表达风格构建的数字分身(模拟特定个体知识结构、表达方式和交互风格的拟人化智能体),正进入校园和各类学习场景。它们可以将经典文献、党史脉络和时政热点整理为差异化的“理论学习包”,也可以充当“随身导师”,缓解工学矛盾。但其嵌入的往往是师生互动和价值引导的中间环节,越是便利,越需警惕价值解读偏差、育人主体偏移和治理规则滞后。为此,应从规则细化、平台管理、素养提升和资源支撑等方面协同发力,构建安全可控的AI应用生态。

一是细化规则供给。一些AI应用依赖的底层模型训练语料庞杂,对中文政治理论语境的理解可能存在偏差。现行规则已对深度合成服务和生成合成内容标识作出规范,但针对教育场景中的用户自定义技能、人格模拟智能体及技能分发机制,还需进一步细化。可按照应用内容和使用对象划分敏感等级,对涉及政治文献、党史国史、革命文化、宗教内容和人格模拟的高敏感应用,加强准入审核、授权管理、内容标识、过程留痕和责任追溯;对一般知识辅助、专业训练类应用,则实行差异化管理,避免“一把尺子量到底”。

二是压实平台全过程管理责任。当前,部分平台对AI应用的审核仍偏重上架环节,对教学资料、谈话记录等敏感数据的授权使用,规则还不够细。应落实《“人工智能+教育”行动计划》关于“强化人工智能进校园管理”的要求,对面向学生的AI应用设置专项审核和显著标识,对面向党政干部、专业技术人员继续教育的相关应用加强资质核验,对技能创建者实行实名管理并依法承担相应责任,推动平台治理由“上架审核”向全过程管理延伸,防止数字分身悄然替代育人主体的真实在场。

三是提升师生人工智能素养。研究表明,借助大模型完成任务虽能降低认知负荷,但可能导致论证深度下降、观点更趋同质化和价值判断能力的缺失。从马克思主义认识论的“由感性认识到理性认识再到实践”,到中华优秀传统文化“博学之、审问之、慎思之、明辨之、笃行之”等思辨精神,均强调在知识积累的基础上,还要从实践中汲取智慧。AI可以整理讲义、归纳案例,但无法替代价值理解、情感认同和实践转化。因此,教师既要善用AI减负增效,也要具备识别价值偏移、逻辑错误和伦理风险的能力;学习者则应养成核查技能创建者、辨析内容出处,警惕“权威外衣下的偏向解读”。成人继续教育面对的对象差异较大,应从工具操作培训延伸到信息核验、风险辨识和责任意识培养,防止独立思考和价值判断被悄然外包。

四是建设专属语料及内容资源。把关键知识资源和价值解释能力掌握在自己手中,是避免“用别人的模型”消解育人主动权的根本之策。可依托高校马克思主义学院、党史研究机构和国家智慧教育公共服务平台,建设权威思政语料资源;依托国家开放大学、各级党校(行政学院)和行业职业教育平台,建设面向成人学习者的权威内容资源池。同时,在知识来源、推荐排序和答案生成等环节建立权威内容优先、信息出处可查、价值导向可审的机制,使模型输出不仅表述准确,而且解释可靠。

归根到底,AI应用、数字分身只是工具,可以成为育人助手,却不能充当育人主体。语料可以“蒸馏”,知识可以复制,但教育责任不能外包。把新工具用在切实减负增效的地方,把育人责任牢牢掌握在人的手中,方能在数智时代践行好为党育人、为国育才的初心使命。

(作者:魏健系北京市西城经济科学大学党委书记)

    特别声明
    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问https://renzheng.thepaper.cn。