聊天机器人会影响文明发展吗？环球今热点

2023-03-15 14:42:33来源：天津日报

原标题：ChatGPT火爆背后的思考（引题）

聊天机器人会影响文明发展吗？（主题）

(资料图片仅供参考)

天津日报记者孙瑜

时下，由人工智能公司OpenAI研发的通用聊天机器人ChatGPT，以强大的文字处理和人机交互功能迅速成为炙手可热的新一代人工智能产品。与此相关的多个话题持续登录各种热搜头条。种种迹象表明，以ChatGPT为代表的人工智能已经逐步影响到人类生产和生活的方方面面。从古至今，科技的发展促使人类文明发生了翻天覆地的变化。那么，人工智能将对人类的文化和文明产生何种影响？我们人类该如何应对？都是我们将要面对的课题。

会接话茬儿的机器人

它真的拥有“智慧”吗？

2月24日上午，科技部部长王志刚在国新办新闻发布会上谈及ChatGPT时表示：“ChatGPT本质上是一个大模型。什么叫大模型？大数据，大的计算力，还有一个强的计算方法。ChatGPT确实有它的优势，有它进步的点。我们要看到这一点，同时要在算法、数据、算力上怎么样能够有效结合。”

ChatGPT，从字面出发可以分为2个部分，“聊天应用”和“GPT模型”。其实ChatGPT并不神奇，神奇的是他后面的通用语言模型GPT。以第三代GPT模型GPT-3为例，已经拥有前代1000倍的数据量和100倍的参数，达到了3000亿词汇的数据量和1750亿的参数。

天津大学智算学部副教授王博表示，对于多数用户来说，ChatGPT是一种可以进行问答或者对话的机器人。从常见的使用方式上来看，这么说没有问题，但是实际上ChatGPT不是专门被设计用来回答问题和跟人聊天儿的。它就是一个会接话茬儿的机器人。所谓接话茬，就是用户输入给它一些文字，而ChatGPT则接着这些文字，尽量合理地往下说。而当用户给它的这些文字是一个问题的时候，它要想合理地往下说，说出来的内容就会是问题的答案。

“现在，很多人认为ChatGPT具有一定通用人工智能的能力，能回答和解决各种不同的问题。”王博副教授坦言道，“其实原因就是完成这些任务的具体形式都是根据语言指令输出正确的文字。因此，只要ChatGPT能够根据用户的指令把话说对，就能完成这些任务。是语言这个载体将这些不同的任务变成了同一件事。只要我们所问的问题经过合理的设计，ChatGPT就能够给我们合理的回答。”

王博还提到，由于ChatGPT只是在字面上进行续写，而没有将说话的内容和背后的客观事实联系起来，所以我们并不认为它真正理解用户的问题和自己所说的话。

“我们了解到，国外的一些学生用ChatGPT做作业，写出的作业查重率很低，这说明ChatGPT并不是像传统搜索引擎一样直接选取互联网或数据库中已有的内容，而是通过掌握语言词汇之间的组合规律，来生成全新的内容。”王博说，这从根本上说明ChatGPT不是“大号的搜索引擎”。通过学习词汇的组合规律，它能够间接地“掌握”由词汇组合表示的知识。由于这个学习是需要时间来训练的，所以ChatGPT还不能实时学习从网上直接搜来的东西。目前，ChatGPT使用的是2021年之前的信息。

ChatGPT可能在概念上被高估

人工智能在“模拟人类”上走了多远？

人机对话是人工智能发展的一个重要方向。科技部高新司司长陈家昌表示：从发展趋势来看，人工智能有两个非常明显的特点。首先，人工智能对社会经济的发展具有渗透性、扩散性和颠覆性的作用。特别是在科研端，人工智能为生物科学、材料科学、能源科学的一些研究提供了新方法和新途径，正在引领科研范式的变革。这个影响非常大。其次，在互联网、大数据、超级计算、智能计算、脑与认知相关的技术的共同驱动下，人工智能领域加速发展，日益出现出一种群体性突破的态势。特别是“智能+”的这种范式，在先进制造、交通、医疗等领域，都得到了广泛的应用。

王博说，在世界范围来看，目前国内的人工智能发展基本上跟国际是同步的。当前的人工智能技术主要体现为用算法来解决问题。其中，主流的算法被称为机器学习。机器学习已经有二三十年的历史了，它依靠统计方法从历史数据中发现规律，然后用于解决新的问题。

目前机器学习当中的主流算法叫做深度学习，其核心是模拟人脑结构的深度神经网络。现在许多前沿的人工智能技术都采用了深度学习算法，包括目前火爆全网的ChatGPT，都是深度学习的各种变体。

王博副教授进一步解释到，从对人类模拟的深度来看，当前的人工智能技术可以分为认知智能和感知智能。认知智能较为深刻，它模拟人脑的认知能力，最典型的就是ChatGPT所代表的自然语言处理技术，专门理解和生成人类自然发展出来的语言。因为语言是人类文化的载体，也是人类思维的工具，所以语言的处理一直是人工智能的核心技术之一。

例如，法律就是一个以语言为主要形式的复杂领域。在法律领域，AI已经能够参与调研、立法和裁判等多个环节。天津大学与北京大学等单位合作承担的国家重点研发计划项目《面向法治调研的立法规划、计划的意见特征智能识别技术》就成功的实现在立法工作中利用AI技术自动判断法律文本中的核心信息和观点，显著提高立法意见搜集和整理的效率。

而感知智能旨在模仿人类感知客观世界的能力，其中典型的技术是图形图像处理。王博副教授说，图形图像处理要比自然语言处理相对简单一些，技术发展也更加成熟，在我们当前的生活中已经有普遍应用。另一种广为应用的感知智能技术是语音的识别和生成。就是将人说话的声音转化成文字，或者将文字转化成声音。

其他的一些人工智能技术还包括了单智能体或者多智能体的控制，比如扫地机器人、智能制造工厂里面的机器人，下围棋或者象棋的机器人等都是单智能体，多智能体比如无人机阵列，智能驾驶多辆车互相协调，防止互相碰撞。

不仅如此，大数据、区块链和物联网等技术也与人工智能有着密切的联系。王博坦言，与这几种技术相比，ChatGPT在诞生之初的成熟度要更高，在很多领域已经开始成为实实在在的生产力。

王博认为，对于大众而言，现阶段ChatGPT可能在概念上被高估，而在应用中被低估。什么意思呢？在概念中被高估，就是说人们甚至把它想象成流浪地球电影中的人工智能机器人一样，可能拥有自由意志了，实际上它远未达到这种水平。而在应用中被低估则是指人们还并没有真正在生活中充分发挥它的能力。

新技术在推动人类文化发展同时

不可避免会带来伦理与文化的碰撞和冲突

南开大学科技哲学教研室主任贾向桐教授认为，以ChatGPT为最新进展的人工智能本身就是当代人类社会文化或文明发展的重要产物，当然它也会对整个社会文化产生极为深远的影响，而且这种影响会随着科技与社会的融合发展而更加明显。

这种全方位的影响是包含正负两个层面的：即，发展机遇与风险并存。一方面，人工智能技术推动了人类认识世界和影响世界的能力，它为社会文化的发展提供了更有力而强大的物质技术基础，也为人们的文化交流与传播提供了更加便捷、丰富的途径和载体。而且更为至关重要的是，人工智能等新技术的应用事实上是在不断拓展着传统的文化空间，进而有利于推动社会文化的创新与进一步变革。可以说，在21世纪这个信息革命的时代，以人工智能为代表的新技术构成人类文化发展的重要动力，它们在丰富人们的物质和精神文化生活的同时，也在提高着人们的精神文化水平，从而引领整个社会的文化进步与发展。另一方面，相应的消极或负面影响是非常需要我们特别去关注的，新技术在推动人类文化发展的同时，也不可避免会带来一系列的社会与文化问题。无论是人工智能产品的设计、安全系数风险，还是在价值观、社会公平以及伦理挑战等生活与文化方面的碰撞和冲突，势必都成为人们不得不面对的重要现实问题。

贾向桐表示，须知，人工智能的运行方式是以人—机的交互模式为中心的，工具化和形式化构成人们实践活动的基本特征。具体而言，这种新技术的优势更在于能够满足人们的工具性、实用性认知与交往活动方面的要求，但这种快速与便捷是基于人的情感性和体验性等维度被压缩为前提的。因此，新技术产品带来的往往是人与人交往的工具性、便捷以及功用性方面的收获，而问题则是缺少了传统交往本身人性的温情和情感关怀。例如在学生利用ChatGPT完成论文或作业的过程中，全面而实用性的知识可以迅速摆在面前，但这也使得教育本身的完整意义被极大拆解了，教书育人的形式和结果导向偏离了教育的初衷，这也是许多大学禁用ChatGPT完成作业的重要原因。

近代以来随着科学、技术和社会的融合进入一个新的阶段，科学技术成为引领社会与文化的发展的重要引擎。科学技术的发展在不断丰富和扩展着社会文化的内容与形式，其实很多社会文化领域本身就是科学技术发展的产物，诸如动漫、影视文化均是如此，科技创新亦成为社会文化创新与发展的关键推动力。而且，新的科技创新成果应用，也就是它们与社会紧密融合的过程，其中蕴含的价值与观念，同样会在有意无意中融入人们的思想行为。这意味着人们的传统文化价值和观念也会逐渐随着科技变革而发生相应的转变，这一过程既有润物细无声的融合和更新，又有新旧观念与思想的冲突和对立。伦理与文化的碰撞和冲突势必成为科技推动社会文化发展过程中人们绕不开的重要问题。

主动面对新的文化与伦理挑战

是人类社会发展的一个重要使命

“怎么做到推动发展的同时，兼顾科技成果的两面性，加强伦理规范。”科技部部长王志刚说，“我们国家对于任何一个新的技术，包括AI技术出来以后，在伦理方面都采取了一些相应的措施，对科学技术发展趋利避害，让利更好地发挥出来。”

说起ChatGPT会造成大量人员失业，王博副教授认为，严格来讲，一种新技术会不会造成大量人员的失业，不仅取决于技术本身，也与我们的政策有关，是可以进行调节的社会问题。随着简单的工作被逐步替代，人类往往会“水涨船高”地被推到更具创造性的工作中去，不过这需要一个过程。

ChatGPT及它背后的GPT模型能取代脑力劳动甚至人类吗？鉴于这个问题，ChatGPT给出了自己的答案：“……我并不能完全取代人类，因为人类有很多方面是我无法做到的。”无法取代人类，还真不是ChatGPT的谎言。因为在ChatGPT的算法中，AI被禁止进行自我探索。

王博说，自我探索，可以理解为我们日常生活当中说的反思，这种反思是以自我意识为前提的。人一旦有了这种反思，某种程度就代表着有了自我意识。而自我意识则是诱发自主行为，即自由意志的重要前提。我们一般不希望人工智能具有自由意志。目前我们还不能够让AI具有自由意志，事实上，如何确定一个AI是否具有自由意志都是一个挑战。

对于AI是否会取代人类这个话题，贾向桐教授说，其中既包含了人们对人工智能技术发展本身的深深忧虑，又隐含了一种人们对其未来命运、人类智能的本质与发展的好奇。但客观而言，当前科学的进展，还不足以回答这个问题。这里的一个关键环节在于人类智能（包括人工智能）的本质还未得以完全揭示，在没有理解人类智能本质和规律的情况下，去讨论人工智能是否能够取代人类智能的问题，这与其说是解答，不如说是一种基于经验的预测或推测。

从目前人工智能与认知科学、脑科学等领域的发展情况来看，人工智能完全赶上甚至取代人类（智能）还存在一定的距离。总体来看，当前的机器智能与人的智能之间还是存在明显的不同，人工智能的重要优势表现为信息的存储和高速的运算能力，它在精确性和持续的高效性等方面远超人类的大脑。但是，基于低消耗的人类脑力活动的推理能力、丰富的想象力和创造力等，也远非当前人工智能所能比拟的。

其实，任何一种新兴事物突然介入到社会之中，总会或多或少带来一些在伦理与文化层面的冲突，这是再自然不过的现象。也就是说，这并非人工智能技术所特有的情况。

近年来以人工智能为代表的科学技术的飞速发展，正在全方位构建着人们新生活方式以及相应活动模式。颠覆传统社会的生活方式，由此产生的个人隐私、信息安全等问题，成为以人工智能为中介环节的社会交往活动的新隐患。而且，这些由新技术革命引起的伦理和文化问题将在今后的社会发展中变得更为突出，人工智能融入社会而触动传统伦理规范和价值观的变革，并推动着新的伦理规范不断出现以适应新的生活空间。

主动面对新的文化与伦理挑战，构成当代社会发展的一个重要使命。首先，我们要强化科技工作者的相关伦理责任与意识，人工智能技术的发展已经超出了普通公众的理解，这一情况为这些科技工作者提出了更高的伦理责任要求，其技术和功能各方面的设计规划，必须考虑到应用到社会之后可能产生的诸多负面效应问题。其次，我们要完善人工智能的技术伦理评估系统，在组织成员方面要集科学家和工程师共同体、公众和伦理学家于一体，实现不同社会群体的充分交流与沟通，达到普遍性的社会共识是处理好问题的关键。此外，我们应该在心理和心态方面做好准备，这方面的客观做法是“持谨慎的开放态度”，提升伦理预判的前瞻性能力。

ChatGPT惊艳的对话和超强的检索能力在使人大开眼界的同时，不免也会让人心生困惑：未来教育又需要做出怎样的改变呢？

贾向桐教授说，毫无疑问，人工智能技术的飞速发展的确在迅速改变着传统的社会生产与产业结构，世界各国也普遍意识到这种新的变化，从而开始制定新的发展战略和规划。比如，我国制定的《智能制造发展规划（2016—2020年）》就明确指明了未来几年智能制造的基本发展方向、重点和指定思想等关键问题。人工智能的核心驱动力对社会产业结构、劳动力结构等的变革升级、转型和调整等都具有关键的导向作用，它直接影响着整个社会经济结构的良性运行。特别是大数据、人工智能技术与商业化发展的有机结合，有效推动了智能商业的兴起和完善，智能购物和无人超市等对人工智能最新技术的广泛应用，对社会资源与产业的升级与调整意义重大。

更具体而言，在人工智能与社会生产、市场资源的配置之间，需要清晰区分资本要素和与劳动力要素二者的差异性，进而均衡两条配置路径的协调统一。人工智能技术的良性发展本身就是协调市场配置的重要环节，其带动的新兴产业领域更多是在调配人力资源的新平衡，新的产业空间可以回避结构性市场可能出现的问题。两种资源要素的配置对应于智能制造的发展特点，因地因时制宜，将产业升级和劳动就业结构的优化相匹配，如果能够处理好人工智能技术的产业冲击，也就保证了资源配置要素的有效健康流通，对整个社会生产的有序运行意义重大。

标签：

聊天机器人会影响文明发展吗？ 环球今热点

相关阅读

精彩推荐

阅读排行

相关词

推荐阅读

聊天机器人会影响文明发展吗？环球今热点