原文首发于496期《法治周末》12版
提要
在缺乏必要的技术可靠和伦理安全评估的前提下的大规模使用，尤其是将其用于校园教育控制方面，都将不可逆地伤害教育的核心价值：自由与创造
“教育”为每一个人提供了自我提升的重要机遇，教育也是促进社会阶层有序流动的重要工具，具有非凡的意义。然而，令人担忧的是，作为国民教育主阵地的中小学校园，正在遭受一些所谓“人工智能教育产品”的入侵。
1
“人工智能教育产品”层出不穷
其中之一，便是一种“人工智能校服”。据媒体报道，年初，一种能够在下课后定位学生精确位置、全方位监控学生的“人工智能校服”在贵州和广西高中校园推广开来。但凡学生有“不得体”行为，比如，穿着智能校服未经许可走出学校、上课打瞌睡，警报都会响起。
这种校服打着“为你好”的旗号和“可视化”的诱惑，让教师和家长难以拒绝，有人甚至很喜欢其带来的操控感。而学生们的感受则是：“总有一双眼睛盯着我，上厕所也不例外。”
9月初，某科技公司还推出了一款“课堂监控概念产品”，自称将自主研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机和行为分析服务器中。通过对课堂视频数据进行实时的结构化分析，反馈学生行为、表情、专注度、前排上座率等多维度课堂数据。
然而，人们所忽视了的是，这一教育人工智能产品带来的恐怕是海量垃圾数据。更何况，此类“数据泡沫”会导致使用产品的教师过度关注行为的次数而忽略行为的背景和质量，也易于导致对学生个体差异的忽视。
诸如此类打着“人工智能”旗号的产品层出不穷。前不久，一款号称有助于提高儿童学习成绩的“智能头环”出现在某地的小学课堂。随着红、橙、蓝三色前额灯的明灭，某小学五年级的学生们“是否集中注意力”的数据开始被收集起来传递到电脑后台，供教师评阅、供家长“围观”，很快又因社会各界的广泛关注而被赶出了教室。
2
过度的教育控制相当有害
实际上，许多此类“人工智能教育产品”，都存在原理不科学、技术不可靠、伦理不合规的严重问题。合理的教育控制是必要的，然而过度控制则相当有害——哪怕出于“好”的目的。
资本逐利的本性无需多论，“人工智能”+“教育产品”的故事实在过于诱人，以至于普遍处于“教育焦虑”之中的中产阶层家长们趋之若鹜。
以前述的“智能头环”为例，其在传感器数据采集上纯属“银样镴枪头”——该头环1赫兹左右的低频采样率远低于人类脑波频率，儿童眨眼、张嘴说话等头面部肌肉运动会对传感器产生极大影响，遑论整个头箍只有3个用于采样的电极。以一种“高大上”的方式呈现不仅并没有意义、而且可能有害的一大堆的数据，这就是此类人工智能产品的通用伎俩。
3
“似乎有效”何以成立
值得人们反思的是，事件发生后，有家长在儿童使用“智能头环”后表示：“似乎有效”。其实，确实“有效”——打着“人工智能”旗号昂贵而“高大上”的这款产品，很可能对使用者产生“安慰剂效应”。也就是说，“智能头环”虽然对提升儿童注意力无效，但他们或者是购买“智能头环”的家长们却相信它是有效的，从而让儿童注意力分散的情况得到些许程度的改善。
需要指出的是，此款“智能头环”产品进校园时，缺乏证明其有效所必须的“安慰剂平衡设计”实验，亦即证明其全部效果是否来自于“安慰剂效应”。在许多严格对比试验中，“安慰剂”的平均有效率高达25%。仅“头戴东西”这一做法本身就足以引起可观察的行为改变——人类就是这么容易接受各种暗示的生物。值得一提的是，在电商平台上，“智能头环”销量可观，诸多家长很可能只是缴纳了一笔几千元的“智商税”。
“似乎有效”的另一个原因在于，儿童正处于认知和自我控制能力发育的关键时期，其注意力和自控力正在飞速提升。我们并不能指望每一对普通父母都具有专业水准的儿童认知心理学知识，或是了解儿童注意力发展曲线。实际上，学生——特别是小学生的注意力的集中性、持久性、选择性以及自制力随着年龄的增长会有显著的提升。这时，如果孩子恰好使用头环，那么本应归于孩子正常生物成长、归于“爸爸的陪伴”和“妈妈的早餐”的功劳，就全被称“改善注意力”的头环抢走了。讽刺的是，付出巨大代价的父母还经常“私心窃慰”——你看，“人工智能”就是好，高科技就是好，孩子的注意力提升得多明显呀!
“似乎有效”可能存在的第三个原因，在于一种“期待效应”。这一效应是美国心理学家罗伯特·罗森塔尔于1966年通过课堂实验发现的。课堂里学生们已经非常明白，他们带上头环之后“被期待”怎样去做，他们于是就那样做了，教师也获得了他们想要的结果。
教育兹事体大，人工智能技术在教育领域的应用自然要慎之又慎。笔者想要再三强调的是，在缺乏必要的技术可靠和伦理安全评估的前提下的大规模使用，尤其是将其用于校园教育控制方面，都将不可逆地伤害教育的核心价值：自由与创造。
仅仅在今年，人们就看到了一出又一出的“人工智能教育产品”闹剧在中国校园里频繁上演。对此，笔者呼吁：“教育人工智能”，且慢进校园。
笔者建议，组建省级和国家层面的教育人工智能产品技术和伦理评估委员会，对所有意在进入我国教育领域的人工智能产品和应用进行先技术、后伦理的审查，只有经过双重审查的产品和应用才能获得教育领域的准入资格。
否则，商业利益的巨大驱动、人情社会的广泛联结以及时下家长们的“教育焦虑”，足以使孩子们的课堂沦为最荒谬的闹剧剧场。
(作者系浙江大学科技与法律研究中心博士后)
