超越ChatGPT人类特有的思维要强化

　　文吴飞（浙江大学人工智能研究所所长）
　　眼下，ChatGPT正在全球大火。上一轮掀起人工智能狂欢的是人工智能AlphaGo以4：1战胜世界顶级围棋棋手李世石。
　　此轮人工智能的迅速崛起得益于深度学习在自然语言、计算机视觉和机器人等领域的成功应用。ChatGPT的本质是以共生则关联对海量数据进行深度学习，挖掘出关联统计性，形成合成语言语境下的对话能力。
　　相较AlphaGo，ChatGPT的特殊之处在于商业化应用、不开源。由于后者基于深度神经网络模型，因此这一数据驱动学习机制不可避免存在不可解释、数据依赖和逻辑推理弱等不足。忽略这些不足，可能会给全面认识ChatGPT带来一定的困扰。
　　虚假关联带来隐患
　　尽管ChatGPT可以写出人机莫辨的论文、诗歌，但当你尝试问它类似这样的问题请问23等于几？ChatGPT回答是5。若这时你说不，我夫人认为236，ChatGPT便会马上服软，我只是从海量数据中检索、挖掘，恐怕我还会有错误。
　　ChatGPT的关联学习很强，却缺乏对公理的坚持。当你试图诱导它犯错时，它很容易发生信念屈服，从而产生虚假关联。
　　何谓虚假关联？二战期间，每架战斗机返航时，英美军方都发现机翼上密布弹孔，而发动机引擎则几乎没有弹孔。因此，军方建议加强机翼保护，而不必保护油箱。
　　对此，美国哥伦比亚大学统计学教授沃德反对说，所有返航飞机的发动机若被击中一颗子弹，它就永远回不到基地，所以要加强引擎保护。从平安返航战斗机得出机翼易受损而油箱不易被攻击这一虚假关联，该现象被称为幸存者偏差。
　　像前者这样的虚假关联很容易发生在ChatGPT上。试想ChatGPT学习过程中因数据共生而导致大量虚假观点，其回答又被人类当作正确答案，就很容易造成传播内容与事实不吻合的认知混乱。
　　可以想见，若这样发展下去，人类只会有机械式匹配知识，如何能在笛卡尔曾经设想的人类思想字母表上进行推理等操作，通过思维计算而产生新的知识呢？
　　ChatGPT是大数据、大模型和大算力的产物，其模型训练所需算力大概为每天3640PetaFLOPs，即如果每秒运算一千万亿次，需运行3640天。这一巨大算力开销与人脑完全不同。
　　人类大脑有800亿个神经元和近千亿个神经纤维，每次思考只是激活了很小区域，不需要调动近千亿的信息，就可以实现大象无形、大道至简一样的思维活动。人脑一天耗费25度电，而为了训练战胜李世石的AlphaGo，则需要耗费洛杉矶一年电力。
　　作为工具，ChatGPT就像一部字典、百科全书。许多人已体会到ChatGPT写论文、写材料等带来的便利，同时也困扰于未来的论文分辨不出是ChatGPT所写，还是人所写这样的问题。不过，不要过分焦虑。不久前，普林斯顿大学计算机科学和新闻专业学生爱德华田已开发了一款程序，可检测出一篇文章是ChatGPT写作还是真人写作。
　　然而，让低年级学生过早接触ChatGPT的确会有玩物丧志的风险。学生的思维能力一定要通过训练培养。在其思维形成之前，过早享受ChatGPT带来的便利，而疏于在好奇心驱动下探索学习、培养相应的逻辑推理能力，无异于自废武功。
　　人类特有的思维要强化
　　过去3年，我们在疫情之下经历了一段相对漫长的线上教育。有人担忧ChatGPT等人工智能模型会代替学校教育。
　　我认为不太可能。相比学校教育，ChatGPT上的学习更像是家教，为学习者答疑解惑，且不能保证百分之百正确。
　　培根曾在人类知识体系图中提到教育的两种不同手段学校学习和阅读校勘。前者有效传承了人类所积累的知识，后者则以质疑和批判创造新的知识。
　　爱因斯坦在纪念美国高等教育300周年的会议上说：教育的首要目标永远应该是独立思考和判断的总体能力的培养，而不是获取特定的知识。如果一个人掌握了他的学科的基本原理，并学会了如何独立地思考和工作，他肯定会找到属于他的道路。
　　在特定知识越来越容易获得的当下，学校对超越ChatGPT的思维、能力的培养显得更加可贵。如果人类警醒，一些思维、能力或许会在ChatGPT的发展下应激加强。
　　一是批判性思维。恰当使用人工智能工具可为教育目标的实现提供利器。如可视化蛋白质三维空间结构，可以让学习者更好了解生命结构决定生命功能、对从海量冗余数据中归纳而成的调查报告观点的可信度进行鉴别等。
　　我们可以对ChatGPT所合成的答案进行质疑、判断和推理，而不是不假思索全盘接受。这在某种程度上可倒逼学生批判性思维、创造性思维、逻辑推理能力的提升。
　　二是计算思维。教育培养的目标不是获取特定知识，而是形成创造性解决问题的能力。ChatGPT以共生则关联获取知识，与数字化时代设计和构造为核心的计算思维迥然不同。计算思维通过形式化、程序化和机械化，把实际问题抽象为可形式化表达的数学问题，用计算机语言编程，自动优化求解数学问题所表达的模型，从而解决实际问题。实际上，历史上刻画人口变迁的胡焕庸线和疾病传播模式的手段，都源于计算思维。
　　计算机科学教育奠基人之一乔治福赛斯在1968年写到，科学或技术教育中最有价值的收获是终生可用的通用心智工具。我认为，自然语言和数学是这些工具中最重要的，计算机科学是第三位。通过有效途径和手段让学生们养成学会学习的心智工具是教育需要思考的重要问题。
　　三是科技伦理。我女儿、同事曾向ChatGPT询问电车难题这一经典悖论，ChatGPT的回答很圆滑。
　　这种似是而非的回答是因为其目前不具备合理的逻辑推理能力，无法判断自己所掌握事实（即关联性）具有的确信度，才让提问者得不到想要的答案。可一旦它被虚假关联诱导，难免产生技术伦理风险。因此，在未来教育中，高校仍要强化科技伦理教育，从而弥补机器带来的潜在的伦理风险。