人工智能技术在方便学校教学和管理时，也面临个人隐私保护等争议——

AI进校园，边界在哪里？

变化：人脸识别“潜入”校园

新学期伊始，中国药科大学的学生们发现，熟悉的校园出现了新的改变——校门口、宿舍和图书馆都安装了人脸识别门禁。

对此，学生们的接受度还挺高。不少学生认为，门禁识别准确、速度快，不用再担心忘记带校园卡，确实比较方便。而且采集了学生出入宿舍、图书馆等信息的系统，还能帮助学校统计学生的回寝时间、晚归次数等，提高了宿舍的安全性。

而在学校的教室里，也在尝试使用人脸识别系统。中国药科大学图书与信息中心主任许建真说：“之前有的同学点完名就跑掉了或者请别的同学代(点名)，但是有了人脸识别就没这个问题了，只要你进教室那一刻起，它就对你全程进行识别。你低头多长时间，你是否在玩手机，你是否在发呆，你是否在看别的书，都能感知到。”

在校方看来，这能有效解决传统考勤方式中管理难度大、效率低的问题，从而方便教务管理者实时掌握班级学生考勤情况，是在“探索泛在、灵活、智能的教育教学新环境建设与应用模式，努力提升技术能力和服务水平”。

当前，为引领推动教育信息化转段升级，《教育信息化十年发展规划（2011—2020年）》《教育信息化2.0行动计划》《中国教育现代化2035》《加快推进教育现代化实施方案（2018—2022年）》等政策文件相继出台。在业内专家看来，信息技术与教育教学深度融合已是大势所趋。为此，不少学校都在积极探索利用AI技术服务于教育教学以及日常管理，人脸识别类技术就是该探索的一种。

安全是人脸识别技术在校园应用的最初方向。据记者了解，在山东、上海、河南等地的一些幼儿园和小学，已经开始探索运用人脸识别技术进行校园智能安防。这类智慧型校园安防系统，能对校园及周边一定距离的安全区，进行实时监控。当学校有大型活动时或者学生集中放学时间，校园大门口会聚集大量人员，该系统将自动进行“非安全身份识别”，一旦有陌生人靠近，系统监视屏会自动报警提醒，学校安保人员可及时处置。

除了应用于安防，一些学校也开始“试水”用人脸识别来保证出勤率和提高听课效率。去年4月份，重庆二十九中在教室内启用了一套人工智能分析评估系统，该系统通过观测学生细微的表情变化，来判断学生对所学内容的理解程度。“专注度高的学生占比35%”“思考学生占比29%”“疑惑学生占比18%”“不理解学生占比3%”，课堂两侧，两个电脑屏幕滚动着由大数据实时分析出的学生学习效果图。

杭州十一中的“智慧课堂行为管理系统”，则会每隔30秒进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合高兴、伤心、愤怒、反感等表情识别，分析出学生们在课堂上的状态。

还有一些学校开始尝试将人脸识别技术应用于学生的日常管理。去年11月，贵州11所中小学校开始推广使用“智慧校服”项目，利用“RFID（射频识别）+人脸识别”科技集成智能校服考勤系统，当穿着“智慧校服”的学生通过人脸识别进出校园后，系统内会自动记录学生进出校园和宿舍的精确分秒时间，同时保存前后20秒的实时视频。

一旦学生在上课时间内未经允许离开校园，GPS定位芯片会记录学生位置并激活门禁闸机自动语音报警器，提醒有学生离开校园。假如学生互换校服，警报会响起，它也能发送准确的具体位置，帮助学校和家长快速定位。

争议：是“危”还是“机”

人脸识别系统刚开始进入中国药科大学课堂，该校就有学生担忧，此举识别有侵犯个人隐私之嫌，一举一动都被人脸摄像头监视，“让人后背发凉”。校方表示，学校之前已向公安部门和法务部门咨询，由于教室属于公开场所，因此不存在“侵犯隐私”的说法。

对此，北京志霖律师事务所副主任赵占领说：“我国法律对于隐私权没有特别明确的界定，严格来看，教室属于公共场所，安装人脸识别摄像头，虽然不违法，但需要明确告知学生，给学生知情权和选择权。”

利用人脸识别类技术，无论是进行课堂管理还是教学效果分析，都不可避免要收集海量数据。首都师范大学基础教育发展研究院教授苏尚锋认为，教室内使用人脸识别的初衷是对学生学习行为进行个性化追踪，而其目的在于经分析生成个性化的学习方案，以帮助学生提高学习效率，在这种理想情况下，是符合“人工智能+教育”未来趋势的。

在使用目的的正当性上，中国基础教育质量监测协同创新中心网络平台部主任张生认为，用人脸识别类技术来对学生进行管理，不能本末倒置，“学校应回归教育本身，多反思课堂的教学效果”。

人脸识别作为一项技术，其本身并没有什么问题，关键在于如何运用。同样的人脸识别技术，帮助幼儿园和小学建立智慧安防系统，用来寻找丢失的幼童或监护老人，就很少陷入争议。赵占领说：“在这些场景里，个人隐私让位于人命关天的安全需求，这也符合人们心中牢固的共识。”在很多家长看来，对校园及周边实时严密监控，智能身份识别，严进严出，将危险扼杀在“摇篮”中，也大大降低了歹徒闯入校园作案的可能性，学生安全有保障。

人脸识别类技术的潜在危险还有数据泄露风险。赵占领告诉记者：“人脸识别监控课堂的行为会产生大量的隐私数据，如果没建立相应的数据安全规范或未尽到妥善保管义务导致数据发生泄露，这些数据一旦被恶意使用，就会侵犯老师和学生的相关隐私权利，情节严重的可能会导致违法行为的产生。”

在业内人士看来，如果从教育教学发展等长远角度以及公共利益的立场来考量，在使用人脸识别类等AI技术的抉择上，不能因噎废食。

北京师范大学智慧学习研究院副院长曾海军说，包括人脸识别在内的AI技术广泛而有效地应用于教学、管理和服务，是未来学校教育发展的必然趋势，“规模化教育和个性化学习相结合的AI技术,具有更强的灵活性、包容性，可以助力重塑学校教育，进一步提升教学的效果、效率和效益，以适应现代信息化、数字化、智能化的学习型和创新型社会的需要”。

面对教育场景内不甚成熟的人脸识别类技术应用，以及个人隐私、数据安全等风险和争议，教育部科学技术司司长雷朝滋表示，希望学校非常慎重地使用这些技术软件，“包含学生的个人信息都要非常谨慎，能不采集就不采，能少采集就少采集，尤其涉及个人生物信息的”。雷朝滋还表示，目前教育部已开始关注这一情况，已组织专家进行论证研究。

共存:坚守教育本位,合乎法律伦理

技术发展得太快，一个不留神，人脸识别类技术已经进校园、进课堂了，而我们关于其带来的复杂的伦理、法律和安全等问题的讨论，似乎慢了些。

不可否认的是，AI已成为扩大优质教育资源覆盖面和实现新型智能教育服务模式的重要一环。曾海军认为，抱着“鸵鸟”心态，完全拒绝此类技术在教育场景内的应用，按照传统的思维方式和模式来应对新变化，并不现实。

业内专家的共识是，AI是信息化发展的新阶段，面对其衍生出的复杂的安全、隐私等问题，仍需要进一步规范，提前布局，谨慎应对。

不管AI如何与教育耦合，都必须坚守教育本位的定位，将以人为本放在首位。张生说，“学生的生命成长能否得到促进，是衡量技术在教育领域中应用有效性的唯一标准，在技术应用中，学生、家长、教师的体验和满意度都是需要考察的重点”。

AI技术能否促进教与学也是重要的评判标准。苏尚锋认为，AI技术在教育场景内大规模推广使用之前，需要由教育专业人士所组成的团队进行评估与鉴定，要经过严格的科学实验和论证，要对该技术在教育教学工作中所处的位置有明晰的分辨与判断，并对其使用制定一套明确的程序与规范，从而切实做到技术服务于教育、服务于育人工作。

隐私权是一项基本的人权，现代社会对个人隐私的保护已经形成共识。目前学界主要将隐私分为信息隐私、空间隐私、自决隐私等领域，当下，在教育场景内，上述三种隐私均存在被AI类产品侵犯的风险。因此，在应用AI技术时，除明确法律红线以外，还要做到尊重学生和程序透明化，由当事人及家长来做选择。苏尚锋建议：“使用的基本原则，应该是被监控者知情同意和最大程度的隐私保护。在不违法的条件下，如果用于中小学生，理应得到其法定监护人以及学生本身的认可，如果用于大学生，理当做到明确告知并获得许可。”

2017年6月1日起正式施行的《中华人民共和国网络安全法》，明确规定了要对非法收集、买卖用户数据的行为进行处罚。面对可怕的数据泄露风险，专家建议，应规范和明确数据所有权、数据隐私和服务之间的关系，将公共利益的数据可用性放在法律和伦理框架下运行，通过相应的机制确保AI应用的安全、合乎伦理和注重隐私。

“应构建预警机制，一旦发现类似于隐私泄露、数据安全、病毒传播、系统不稳定等情况，应及时预警和进行相关处置，确保整个系统的可信、可靠、稳定。”曾海军说。

在教育场景内使用AI技术，需要进一步推进法治化进程，建立相关法律法规，做到有法可依。张生认为，这是确保技术不被滥用、限制技术的负面影响、真正发挥其促进教育教学作用的关键所在。他还呼吁各级各类政府要加强监管，在为新业态发展留足空间的前提下守住底线。

可喜的是，好的改变已经发生。目前欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。2019年国际人工智能与教育大会达成的《北京共识》重点聚焦了安全和伦理问题，关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”，为未来打造负责任的、有益的人工智能。（中国教育报记者 于珍）

对待AI进校园，应留空间守底线

技术是中立的，关键在于如何应用。为引领推动教育信息化转段升级，教育部2018年发布《教育信息化2.0行动计划》，并将坚持育人为本作为首要原则，提出“面向新时代和信息社会人才培养需要，以信息化引领构建以学习者为中心的全新教育生态，实现公平而有质量的教育，促进人的全面发展”。在这种以学习者为中心的全新教育生态中，信息环境的构建与应用必然是重点和核心，但也要谨防对技术的滥用、误用。

毋庸置疑，有效的、个性化的教学质量评价以大量精准、完整、规范的数据为基础。从数据采集、分析、整理的角度看，人脸识别以及其他一些技术手段的引进，对于促进教育教学评价都是有益的。但数据的增加并不必然带来教学质量分析与评价水平的提升，评价背后的理念才是关键。

我们必须首先构建具有正确导向、经过科学设计的评价指标体系，再结合数据的支持将评价指标变为有质量的常模和标准，而不能仅重评价数据的采集和简单的应用，忽视建立科学的、面向学生全面发展的评价理念和指标框架。

另外，简单的人脸识别和监控技术并不能完全适配教与学，技术只能是采集分析课堂数据，而数据的理解和应用还是应由学校和教师来处理。《教育信息化2.0行动计划》里面提到了学校教师应培养信息素养，另外，数据素养、科技素养等也属于未来教育中非常核心的素养和能力。

人脸识别技术可以从课堂视频数据中挖掘生成很多信息，如何从这些数据中挖掘出学生认知、情绪、情感和核心素养的发展变化情况，还需要大量的研究和实践。

近来，国家先后发布了《关于引导规范教育移动互联网应用有序健康发展的意见》《儿童个人信息网络保护规定》等一系列法律法规，以规范对学生个人信息的使用行为，强调的是促进健康发展而非限制发展，这些举措对促进“互联网+教育”发展具有重要意义。

在技术应用中，学生、家长及教师的体验、满意度都是需要考察的重点。技术应用能否促进教与学则是另一个重要的评判标准。值得注意的是，这种是否促进教学的价值判断不能仅仅依据传统的学业考试分数、升学率，而应当经过专业、严谨的程序来进行判定。这也要求各级各类政府加强监管，在为新业态发展留足空间的前提下守住底线，在对AI技术应用的事中、事后监管中坚守符合教育和学习规律这一准则。

首先，不论是什么技术与教育的结合，都必须坚守教育本位的定位，将以人为本放在首位。学生的生命成长能否得到促进是衡量技术在教育领域中应用有效性的唯一标准。其次，人工智能技术在大规模推广使用之前，须经过严格的科学实验和论证，以确保有效性。最后，不能用人工智能代替教育中“人”的因素。

固然教育机器人等一些人工智能产品可以作为学生学习的助手或者伙伴，甚至可以在师资不足等情况下承担起教师的角色，但教育本质上是人与人的交流和相互影响，人类虽然存在很多思维和认知上的缺陷，但也具有很多当前技术难以企及的能力，可以说当代技术与人类大脑在处理事务方面各有擅长。因此在教育领域，如何让人类系统与人工智能系统协同发挥作用，是需要进一步探索的问题。这种协同工作机制的建立，也是未来人工智能在教育领域应用中的一项重要工作。

总之，我们还是应以开放的心态拥抱科学技术的发展，推进人工智能等新型技术在教育中的应用，多措并举促发展，制定行业规范保底线，促进教育的深度变革。（作者 张生 系中国基础教育质量监测协同创新中心网络平台部主任）

文章来源：中国教育新闻网-《中国教育报》2019年10月24日第4版

原标题：《AI进校园，边界在哪里？》