别让AI“跑偏”，伦理重置不可缺

鹄鄉

全国著名语文教育专家、复旦附中语文特级教师黄玉峰，多年来一直致力于对学生进行君子养成教育，但最近却遇到了一个新问题——在人工智能时代，人形机器人将会越来越多地走入家庭、走进课堂、走向社会，在“它”面前我们是不是还要做个谦谦君子？是不是也要让“它”遵守起码的君子之道呢？这样的疑问在日前举行的第九届君子养成大会上引起了很多与会者的好奇。

AI不懂小我与大我

几天前，现任复旦五浦汇实验学校校长的黄玉峰在备课苏轼的《后赤壁赋》时，就文中的最后一句话“道士顾笑，予亦惊寤。开户视之，不见其处”，向大语言模型提了两个小问题：一是“惊”是什么意思，二是“其”又是指谁。“没想到人工智能的回答都是不准确的。比如对‘其’字的解释，显然人工智能是识别不了文章的本义，它既不会懂得这个‘其’代表的正是‘我’，更不能理解和表达‘我从哪里来，要到哪里去’这样的哲学命题。”黄玉峰说，君子的一个重要特征是善于学习，尤其是要具有“博学而笃志，切问而近思”的精神素养，但无论是AI搜索工具还是人形机器人，它们在“笃志”“切问”和“近思”上都不具备君子品质。一个不懂小我与大我，没有自信力的机器人，最终只是一个人类使用的工具而已。

“全知老师”只是“助教”

“人类是由各种行为实践上升到道德层面的，而机器人是依赖人类输入的指令来行事和‘思维’的，它需要依靠大量的例证才能学习人类的道德规范，这就是人与机器的差别所在。”华东师范大学教育学部教授吴刚说，人形机器人也不会具备人类所特有的温情，所以，就算它将来能大量地走进教室，充其量也只会是个“助教”的角色，类似一个拥有大数据库的“全知老师”，它会告诉学生现成的答案，会输出已有的知识，但它代替不了主讲教师传道授业的职责。因为，师生之间、同学之间的思想交锋、亲切交心和情感互动，是任何大语言模型数据库所不能做到的。

伦理操守需“双向奔赴”

上海市儿童发展研究中心主任杨雄提出了一个警醒：不要随意向DeepSeek、豆包之类的大语言模型输入无价值问题，如果喂给它的都是些乱七八糟的东西，AI不断接收后也会产生“幻觉”，认为“事情就该如此”。比如，当很多人不约而同地向它提问要不要去买某个股票时，它很可能会认为这个人人都在追问的股票应该就是“绩优股”。因此，当人与AI互动时必须遵守一个基本的伦理规范，就是要维持正向的、高级的对话内容，防止它“一本正经胡说八道”。人形机器人只是个外挂学习工具，成不了具有批判精神的君子。

有与会专家表示，开发者在模型训练和算法部署的每个环节，都应融入透明性和可验证性机制，从根源上防止虚假信息的产生和传播。例如，在数据收集阶段，必须明确数据来源和用途，确保数据的真实性和可靠性；在模型训练过程中，必须采用可解释性的算法，使模型的决策过程能够被理解和监督，一旦出现虚假信息生成的情况，可以追溯到问题产生的环节。同时，应加快推出相关的法律法规，对利用AI制造并传播虚假信息的行为予以惩治。这就需要人与人工智能工具在基本的伦理操守上完成一次“双向奔赴”。

“当人形机器人开始进入我们的现实生活和真实工作场景时，就需要提前对整个社会的伦理规范进行一次重置，让AI工具也要遵守人类的公序良俗。”浙江之江实验室智能社会治理实验室副研究员吕明杰表示，就拿智能汽车来说，一旦在行驶过程中发生了事故，那么责任该怎么认定呢？所以说，人形机器人等智能工具正面临着伦理的重置与重塑，这是它们回避不了的，也是我们亟需重视和解决的问题。


来源：新民晚报
记者：王蔚