利用人工智能技术，可以对学生实行精准教学、个性化教学，这是很多推崇“人工智能+教育”的教育者的一致理念。事实上，我国有的中小学已经在课堂教学中引入了人工智能技术，实时监控学生的表情、动作，并通过监控采集的学生信息，分析学生的学习行为习惯。反对者则认为，把学生置于监控之下采集学生信息，涉嫌侵犯学生的隐私，也影响学生的人格发展，让学生养成表演性人格。此外，依赖人工智能的监控信息而非课堂教学观察学生，也可能会导致教师能力退化。
从人工智能在教育中的使用看，必须承认的事实是，一些实践不是被利用来解放学生、发展学生，而是用来监控学生、约束学生。这一方面与教育评价体系有关，在单一的分数评价体系中，学校的教育教学必然存在应试倾向，使用人工智能，就会被置于这样的倾向之中。另一方面则与学校的办学理念与教育理念有关，“人工智能+教育”必须做真的教育，不是应试教育，更不能反教育。
举例来说，大数据在学生评价中的使用，有的学校迷恋技术手段，在校门、教室、食堂等多个场景中等都安装人脸识别或打卡系统，以此记录学生全周期的活动轨迹及信息，并对学生进行评价。这种做法，让学生毫无隐私可言。而有的学校的大数据赋能教育的实践是，通过老师对学生的写实、个性化日常评价以及学生自己上传的学习生活记录来采集相关信息，之后用大数据系统进行分析，该种做法坚持了基本教育伦理，强调教师与学生在评价中的作用，而非把评价都交给机器。
在今年因疫情而进行的停课不停学教学中，一些高中要求所有学生必须安装监控摄像头，由学校教师对学生的居家学习情况进行监督，这种做法是为了督促不自觉的学生提高居家学习效果。不过，这种做法却忽视一个根本问题，要提高在线学校效果，必须培养、提高学生的自主学习、自主管理能力，这是教育的根本所在。没有自主学习、自主管理能力的学生，一旦离开监督的环境，就不知道该怎么学习。教师不关注培养学生的自主能力，而过度关注用手段监控学生，是“短视教育”，也是只培养“考生”、不育人的表现。
在关于“人工智能时代哪些职业最不可能消失”的相关预测中，教师被列为其中一种。这只因为人们普遍认为，教师是有灵魂和情感的职业，对学生进行因材施教，主要应该依靠教师的个性化指导。培养未来教师，推进教师的职业化和专业化发展，要培养学生掌握在线教育、人工智能教育技术，但不能夸大人工智能在教育中的作用，甚至滥用人工智能。大学成立AI教育学部，这是必须首先厘清的问题。
