郑永年×黄铠×袁晓辉×刘磊×刘少山:人工智能社会的机遇与挑战|IPP国际会议圆桌实录

B站影视 2025-01-13 20:17 3

摘要:在首日会议的圆桌讨论环节,香港中文大学(深圳)荣休讲座教授黄铠,华南理工大学公共政策研究院学术委员会主席、香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年,腾讯研究院资深专家袁晓辉,百度高校合作部高级经理刘磊四位专家学者,从技术革

IPP评论是华南理工大学公共政策研究院(IPP)官方微信平台

导语

9月21日至22日,以“人工智能与未来世界”为主题的华南理工大学公共政策研究院(简称“IPP”)第十一届国际会议在广州南沙举行。

在首日会议的圆桌讨论环节,香港中文大学(深圳)荣休讲座教授黄铠,华南理工大学公共政策研究院学术委员会主席、香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年,腾讯研究院资深专家袁晓辉,百度高校合作部高级经理刘磊四位专家学者,从技术革命、全球治理到社会伦理等多个角度,深入探讨了人工智能时代的机遇与挑战。深圳市人工智能与机器人研究院(AIRS)具身智能中心主任刘少山博士主持圆桌讨论。

以下为圆桌论坛环节嘉宾对话实录,内容略有删减:

圆桌讨论:AI与工业革命‍‍

刘少山:欢迎四位嘉宾参与圆桌讨论,我们讨论的主题是“AI与工业革命”。首先有一个问题想请教“祖师爷”黄铠老师。从您50年教学生涯的经验与观察来看,您觉得AI对人才教育培养有什么影响?会给往后的高等教育带来什么样的改变?作为高校教育者,又应该如何适应这种改变?

深圳市人工智能与机器人研究院(AIRS)具身智能中心主任刘少山博士主持讨论

黄铠:我认为,目前的AI已经发展到了这样一种程度,即未来它将成为主要的工具。如果谁不能熟练地使用这些工具,那他就将难以生存。

所以,我们的大学教育要做彻底的改变了,尤其是对需要使用这些工具的学生而言。教育部已经提出了一项重大改革,即“新工科”教育课程。我们必须做出改变,但这种改变仍需要时间。

香港中文大学(深圳)荣休讲座教授黄铠回应提问

目前在中国有三个AI中心:北京、上海和粤港澳大湾区。这三个AI中心正在竞相构建自己的专业能力与优势,培养更多的学生,聚集更多的AI人才和专家,形成足够大的规模,去形成一个足够大的临界点。这三个AI中心也各自拥有一些AI研发机构。相关部门希望能够在这三个地区的中心城市各自打造一个一流的人工智能学院。

所以我也和我的同事说,我们必须大幅度调整课程设置了,不能再按照过去的方式进行教学,变革是必须的。当然,变化肯定会带来挑战——这就是我对这个问题的回应。

刘少山感谢黄铠教授的回答,接下来请教郑永年老师。AI被称为“第四次工业革命——前三次分别是蒸汽机、电力和信息科技——它将极大地提升社会的生产力。那么,从国际政治的角度来看,人工智能对国际政治的影响是什么?中国的机会在哪里?

郑永年:谢谢少山。这是一个重大的问题。

首先,我认为“第四次工业革命”正在发生。当然,“第四次工业革命”的核心技术、内涵和外延仍在不断发展。但正如黄铠老师所说,人工智能无疑是其中的核心技术。尽管我们讨论人工智能时会涉及它的积极面和消极面,但一旦这项技术诞生,它必然会持续发展,没人会将它弃之不用。

我个人认为,这一次的人工智能与前三次产业革命的技术相比完全不同。

我曾与王赓武教授讨论过一个现象:在人类几千年的历史中,都是年轻人向年长者学习。然而,自从互联网尤其是社交媒体出现后,情况发生了逆转,变成了年长者需要向年轻人学习。

这里有一个非常关键的问题:如果说在以往的三次工业革命中,年轻人向掌握技术的年长工匠学习,似乎意味着年长者比年轻人更聪明、更有智慧。而如今,随着社交媒体的兴起,提倡年长者向年轻人学习,是否也意味着年轻人现在变得更聪明了呢?

华南理工大学公共政策研究院学术委员会主席郑永年

我的观察是,对一部分人来说,人工智能确实让他们变得更聪明了。然而令人遗憾的是,人工智能时代并不总是意味着“智能”。因此,我创造了一个新词,叫做“人工智残”(Artificial Ignorance),即人工的无知和愚昧。无论是在美国还是中国,当前社交媒体上的“人工智残”(Artificial Ignorance)现象普遍存在,许多人的视野不但没有得到拓展,反而变得越来越狭窄——以前说“信息茧房”还是轻的。

而我最担心的是教育领域的危机。年轻的时候我读到《美国历史中的反智主义》,这种现象背后主要受到宗教、政治权力和资本的影响。然而,现在的人工智能时代,知识分子反而成为了反智主义的主力,至少在中国是这样。

当然,第四次工业革命已经在发生了,它对社会的影响在不同的政治体制下会产生不同的效果。前几天《纽约时报》发表了一篇文章,讨论了人工智能对传统民主的影响。文章认为,人工智能正在削弱民主(

我个人非常担心的是“智能的不平等”趋势——少数人变得越来越聪明,大部分人变得越来越愚昧。前面的嘉宾也提到人工智能的数字鸿沟(Digital Divide)正在加剧社会不平等,既然如此,又该怎么处理“智能的不平等”呢?可以说,现在的工业文明就是思考的结果,如果人不思考了,我们会怎么样?因为社交媒体和人工智能的出现,人在很多方面又退步了,我个人比较悲观,我认为我们确实需要对人工智能对社会影响做一个全面的清单。

刘少山:感谢郑老师。刚刚我们从两个宏观问题展开讨论,先是讨论了教育,然后讨论了国际政策形式,下面想请来自百度以及腾讯的两位嘉宾回答一个相对微观的问题:百度和腾讯都是在互联网时代崛起的科技巨头。目前,AI对生产力和效率有极大提升,两家公司是否已经感受到了市场压力?两家公司如何面对AI时代,以保持两个巨头在市场上的领先地位?

袁晓辉:从腾讯自身来看,一方面我们在大模型研发方面投入了大量资源,并且正在进行基础大模型的研发。现在我们的混元大模型(Tencent Hunyuan)虽然面世时间不算早,去年9月份才向公众展示,但在内部已经接入了700多个业务应用,比如大家经常使用的腾讯会议、腾讯文档以及更多提高办公效率的产品,实际上都已经接入了AI助手。

例如,我们在常用的腾讯会议中嵌入了AI小助手。如果参会迟到,可以询问小助手代办事项,或者让它帮助做会议纪要。事实上,我们已经在APP内部实现了AI功能的嵌入。常用的腾讯文档也是如此,AI工具可以帮助进行头脑风暴、协作润色、翻译等。腾讯的AI战略以应用为先,旨在为更多用户提供更多智能服务。

腾讯研究院资深专家袁晓辉博士分享腾讯在AI应用开发的进展

另一方面,在AI原生应用方面,以前在互联网时代不可能产生类似的产品,只有在AI出现之后才得以实现。例如,对话机器人,你可以选择不同的角色进行对话。“腾讯元宝”APP也是一个全新的应用,探索了许多功能。

比如,在学术研究方面,它有一个深度研究功能,可以结合你的问题,在点击之后帮助你全网索引研究报告和研究内容,甚至不仅仅是针对这个问题,还会提前梳理上下游的相关问题和答案,这是在助力研究方面的应用。

另外还有深度阅读功能。以前我们阅读英文文章时,如果英语水平较高,速度可能会快一些,但英语水平较差的话就会非常吃力。我上次演示了一下,五分钟内可以阅读三篇不同领域的论文,即使没有学术背景也能理解。这种原生应用也正在不断探索和发展。

我们在内部使用AI工具来帮助大家提升工作效率,并且进行了很多探索。例如,程序员在编程时使用了AI支持的工具,腾讯内部也有直接应用AI助力编程的案例。另外,在研究工作中,或者在每个部门的知识库应用方面,我们也在探索。知识库能否通过对话式的方式被调用?新人入职之后可以问AI,可以在哪里获取信息,或者怎么助力接下来的工作。这相当于在内部知识的数字化转型中,AI也发挥了重要作用。

所以我觉得无论是腾讯自己大模型研究还是对外提供的第三方服务,还是说我们自己内部员工提效方面,都发生了显著变化。我们也在思考是否有一个词能够概括这种变化?比如说“AI转型”。一方面是企业的转型,另一方面是社会的转型,包括社会教育、治理和社会的接受度,这都是一个转型过程。

刘磊:我想从企业角度分享一些个人理解。比如,百度在AI领域的研发,可能是国内最激进的公司之一。举个例子,百度在国内10年前就建立了全球第一个深度学习研究院。众所周知,深度学习技术可以说是AI时代的操作系统,百度在10年前建立了这个研究院,最终衍生出了百度研究院,以AI为基础打造了这样一个研发体系。

百度高校合作部高级经理刘磊介绍百度AI产品开发投入情况

历经十多年的大力投入,百度在AI技术研发领域投入了近1700亿人民币,研发强度可以说在全球头部高科技企业中名列前茅。投入之后有没有效果?技术不是为了秀肌肉,AI是要赋能数字经济发展,为社会谋取福祉。

百度有很多产品大家正在使用,比如文心一言,今年9月份“文心一言”移动端刚刚改名为“文小言”App,文心一言累计用户规模已达3亿。文心大模型日调用量超过6亿次,日均处理Tokens文本超1万亿,均为国内最高。

还有百度地图和小度音箱,在我们住的酒店或家里常见的“小度小度”,可以控制开灯、空调温度、窗帘开关等,这些简单重复的劳动通过语音指令就能解决。这些正是为智慧家庭、智慧生活赋能并提供服务的应用。

百度正在用大模型AI重构百度的所有产品,不是简单的改造,而是彻底的重构。我们通过在AI领域的研发和投入,让AI为经济社会发展和生活提供便利。

刘少山:感谢两位。我们从微观角度可以看到,AI正在改变社会。从提升互联网公司内部效率开始,我们可以预测到AI的渗透率将会有很大的进展。AI渗透率的提高必然会带来正面和负面的问题,我们先探讨正面问题。

到2035年,中国将有4亿人步入60岁以上,占总人口的30%。全球到2030年将有14亿人口进入60岁以上,大部分人群集中在经济发达地区。接下来的问题我想请教黄铠教授,您认为AI在医疗和老年康养方面,如何帮助即将进入老龄化的人群?

黄铠:我今天早上的报告强调的是全民医疗与保健。中国现在最不公平的是:大城市里有最好的医院、最好的医生,但乡下的医疗条件实在差得很远。如果住在深山或沙漠里得了重病,那么就真的非常危险。AI必须普及到全国,不管住在多偏远的地方,都要能得到医疗照顾。我今天早上的报告就提到,一定要建设通信网络,以确保互联网服务覆盖全国,并利用云计算建立医疗大数据。以后医生看病时,病人可以通过大数据及时得到诊断。

我带领学生在做联邦机器学习(Federated Machine Learning)。比如,现在有400家医院,有的医院擅长肾脏病,有的医院擅长骨科,各有所长,患者很多,这样就可以制定诊疗方案,吸收不同医院的优势,组成一个特别的医疗小组,还可以找到最好的开拓性解决方案(open mind solution)。刚才我提到的公平性,就是这个意思,城乡差距必须缩小。

除了依赖大数据和医生、医院的联盟外,云计算中还包含了许多诊断软件环境(diagnostic software environment),这些都是非常宝贵的资源,必须加以发展。

当然还有普及的问题。我感觉城市里的人训练得足够好,可以利用大模型进行初步诊断,甚至可以组成一个同病相联的小群体,互相交换意见。但在乡下,由于普及率较低,谁去培训乡下的人使用这些工具呢?

AI的发展是向前推进的,刚才我提到中国AI的发展可能会与美国AI的发展产生冲突,而且这个冲突可能会加大。现在中美双方有一个特别小组正在进行磋商。我举个例子,互联网的路由访问(route access)由美国控制,如果他们切断了,中国的互联网接入就会中断。美国人目前没有这么做,因为这样做也会伤及美国自身,美国企业在中国的生意也会受影响。美国人有顾忌,中国人也有顾忌,至于最终如何让双方都安心,这还需要进一步商量。

郑永年:我补充一下关于医疗这一点。最近几年我做了很多调研,发现中国主要是城市之间的不平等。刚才蒋余浩博士提到,中国人工智能具有高度集中的特点,长三角还有粤港澳大湾区,包括北京,因为高校很多,也有很快的发展。

但其他地方的发展还是非常不平衡,这也表现在医疗领域。我去浙江下面一个县,他们的数字医疗在浙江全省范围内都做得不错。但如果去西北看一看,情况就不一样,因为他们没有钱。受教育程度也不一样。中国要实现基本公平还有很长的路——理论上可以做到,但是实际操作非常难。

中国不像美国那样是市场导向——只要能赚钱,无论东部还是西部都可以发展。中国主要的问题是行政分割太厉害,每个省就像一个独立的国家,省与省之间的谈判非常难。就像这次二十届三中全会所说的,如果中国要利用AI发展来实现医疗公平化,全国层面需要进行很多体制改革——这不是技术问题,而是行政体制改革的问题。

刘少山:感谢郑老师提出了一个很好的论点,我们整天都在讨论AI会把这个社会撕裂得很严重,贫富差距很大,但AI同时也在医疗教育方面,可以把差距拉平。如果互联网基础架构足够好,以后在农村条件相对差的小朋友可以得到更好的教育,也可以得到更好的AI医疗,这个观点相当正面。

回到宏观层面,再请教一下郑永年教授:生产制造业是一个国家的经济基石,美国现在也开始喊出“生产制造业要回到美国”。想请郑教授评价一下,在AI重塑全球工业链的这个过程中,中国的机会在哪里?

郑永年:从理论上讲,人工智能确实能够优化供应链和产业链的运作,就像过去几十年超级全球化(Super Globalization)时期,各国在全球化分工中各取所需、互惠共赢。然而,当前问题的核心在于地缘政治的紧张局势。事实上,中国和美国在经济发展上具有很强的互补性,但正如黄铠教授所说,每个国家在国际事务中都以自身利益为重,中国和美国都不例外。

你刚才说美国为什么会“去工业化”(De-Industrialization),因为他们把一些制造业放在中国和印度,自己保留着“0到1”的高端制造业。在市场经济的条件下,本来这就是分工合作、互补流通。然而,现在美国试图通过再工业化(re-industrialization)来实现“自给自足”,不再依赖外部供应链,什么都要自己生产。

美国建国以后一直强调的是发展,安全并不被放置在优先位置,但是现在第一次把安全放在发展前面,就是什么都是自己做。但实际上,美国很难做到把所有东西拉到美国去。

现在,他们试图把高科技芯片放在自己的国家里面生产,所以他就要日本、韩国和中国台湾的企业到美国去设厂生产高端芯片。中低端的东西,美国倾向于放在“近岸友邦”,比如墨西哥、加拿大。但是,这个成本其实还是很高的。美国以前一直反对产业政策,批评中国实行“国家资本主义”的产业政策,其实美国的产业政策比中国更厉害——白宫可以决定是否将钱补贴给台积电还是韩国或日本的公司。

一个糟糕的情况就是所有国家都变得很自私,这对我们的影响非常大。在地缘政治优先的情况下,以后每个国家什么都自己生产,供应链、产业链的定义就可能发生变化。如果没有交换、没有交易,我们的世界就又会回到绝对主权(Absolute Sovereignty)的时代,文明有可能不是在进步而是在倒退。

刘少山:感谢郑老师的分析,AI确实给地缘政治带来了很多影响,同时也对社会本身带来了很多影响。

下面的问题请教袁晓辉老师,腾讯拥有中国最大的社交媒体平台,也是中国第一的社交媒体公司。我比较好奇腾讯研究院在伦理和AI对社会影响这方面有没有什么研究?有没有什么建议?随着AI对社会的撕裂越来越严重,我们应该如何面对和处理这些问题?

袁晓辉:我觉得这个问题应该分层讨论。一方面,AI对社会的影响其实不仅仅包括伦理问题,还涵盖了经济、社会、政治等多个层次。如果我们分层来看,我们所在的研究中心目前主要还是关注AI对经济产业和社会就业劳动的影响。

今天的演讲中我也分享了一些想法,我们常提到的就业替代或者就业增强,实际上,人工智能所引发的岗位替代并不是短期或者直接的,而是在短期内对就业市场带来一些冲击。一方面是相关岗位的减少,另一方面是对从业者的工作流程产生影响,同时也带来了新增的职业。最近我们观察到,国家劳动部正在认证微信平台上出现了私域运营增长师这样的职业。类似的新职业正在不断出现。

但我们也要思考一个问题:新增就业岗位的数量是否足以弥补因大规模出租车司机失业带来的岗位损失?新增岗位数量是否能匹配失业岗位的数量?推演下来,我们认为UBI(全民基本收入)是一个必选项,它相当于社会福利和社会保障。在社会逐渐转型、劳动力逐渐转型的过程中,可能不会很快看到一个清晰的图景。一方面,我们需要加强培训;另一方面,我们也必须认识到社会转型是有成本的,使用新工具也是有成本的,甚至会引发抵触心理。

像郑老师刚才提到的“人工智残”(Intelligence Ignorance)现象。在技术进步的过渡期间,我们是否应该考虑提供一些类似于保障基本生存的措施?有一种观点是前向思考和后向思考:我们是应该往前看,还是往回看?固然可以提供很多像保安这样的职位,但如果新技术出现,而大众没有掌握,也没有创造出新机遇,反而产生了大量无法进入经济循环的职位,这对于经济发展并没有帮助。社会应该如何应对这一挑战?这是一个很重要的问题。

至于AI伦理问题,去年我们参加了世界经济论坛峰会,大家也在讨论AI安全,尤其是随着AI智能体的出现,它能够自主执行任务,我们该如何应对?刚才教授也提到了自主性的问题。我个人认为,主动权仍然掌握在人类手中。我们依然可以将AI视作我们的助手,有点像《钢铁侠》电影里的贾维斯一样,我们可以做出最终决定,选择让它执行还是不执行。

对于这个问题,我保持相对乐观。当前的AI治理和安全问题实际上主要集中在透明性、过程公开性,以及使用过程中确保水印等方面。我们必须确保虚假信息不会通过AI传播。这些底线问题如果能够得到有效管控,其他问题可能就会转化为应对策略的问题。

刘少山:感谢袁老师。下面一个问题请问刘磊老师,百度也是国内领先的AI公司,您在第一线能看到AI对就业市场和教育方向的改变,从您的角度,这里也有很多年轻学生,以后掌握什么技能可以在AI统治的世界里还保留一席之地?

刘磊:谢谢少山博士,这也是我非常感兴趣的话题,恰好我也在这一领域专注了很多年。从技术革命倒逼人才培养的大时代背景来看,黄铠教授提到教学大纲需要改变,这是一个必然的趋势。许多学校的教学大纲每四年更换一次,这远远落后于技术迭代的速度。技术可能每几个月就会出现新的突破,至少每半年都有一次技术更新的周期螺旋式上升。但是,教学大纲的更新速度并不是这样。大多数情况下,教学大纲每四年更新一次,稍微灵活的可能一年更新一次。这种改变必须加快,这是当前的大背景。

因此,我们面临这样的情况:许多毕业生进入企业或就业岗位后,无法立即适应工作状态,仍需进行新员工培训。教师也同样面临类似问题。培训讲师也面临同样的问题——不仅仅是他们的学校,国内许多双一流高校也存在类似困境。虽然这些是双一流的顶尖高校,但教师的授课水平仍存在短板,这是我们调研得出的结论。

在这种情况下,我们能做些什么?企业可以通过提供实战教学和应用场景来弥补这一不足。例如,百度公司的飞桨星河社区目前已有1000多万学习者,教师可以在上面批改作业、发布竞赛,利用企业提供的免费算力、平台和案例进行科研教学、竞赛和实训实战。企业在这一过程中可以发挥优势,帮助弥补高校教学大纲更新缓慢的问题,实现企业与学界的互动交流与互相促进。

通过这个过程,企业也能从中受益,丰富企业生态。比如,我们从2018年开始推出星河社区,最初从零起步,如今已有1000多万开发者和学习者,包括来自高校、企业、事业单位的人员,大家都在上面学习成长。这实际上形成了一个多元化的正向循环过程。

刘少山:谢谢刘老师,刚才的时间虽然很短,但是已经覆盖了AI宏观到微观对社会的影响、地缘政治到社会的变革、医疗到教育,相信在座同学也有很多不同的问题,现在开放提问。

现场听众:我想请教郑永年教授关于人工智能对未来生产方式与生产组织的影响。尽管我们说生成式人工智能是一种通用技术,但它与以往的通用技术不同。AI工具让一个人就能够形成一个团队,不再依赖于周围人的帮助。

然而,事实上中国有几百万个生产团队只使用了一两个人工智能模型,这意味着这是高度集中和同质化的逻辑。人工智能对未来的生产和组织将产生什么样的影响?从规制的角度来说,我们可以期待怎样的人工智能生态?

现场听众提问

郑永年:现在的讨论不仅仅是发展区域集中的问题,而是集中在美国的几家公司的问题。其他国家都在追赶——现在新加坡也在发展人工智能,一个大模型的研发需要上百亿美金,中国因为体量大,或许可以试一试,但一般的中小国家根本无法考虑。

这完全是一个全新的世界,就像近代工业化发生后进入了新世界一样。比如,以前美国认为公司太大了,就通过反垄断将它们分解,但现在分解互联网公司和AI公司可能不是办法,因为它们需要互联。用开放取代分解,使得这些公司变得越来越大,越开放越大。我觉得,如果这个世界继续这样下去,我们以后可能会变成几家美国公司的附属。在这种情况下该怎么办?这是经济学家需要思考的问题,这完全是另一种情景。

少山刚才说这是“第四次工业革命”,我个人认为这次工业革命与之前的完全不同,更加高度集中化。表面上看起来是扩散的,一个点一个点连起来,但实际上是更加集中化的。这对人类社会的整体结构,包括政治结构,都会产生深远的影响。

黄铠:我观察到大家对大模型有一些误解,需要澄清一下。大模型需要不断地训练,我举一个最简单的例子你就明白了:你买一本字典,如果这本字典是20年前出版的,20年前的内容都能在里面找到答案,但之后的内容就没有了。它是一个累积趋势(accumulates trend),哪怕是一天后的新事物都不会在里面。比如,大英百科全书每两年更新一次,主要的作者只有200人。现在很少有人看大英百科全书了,更多人看《Wikipedia》,它有6000个作者,每两周更新一次。《Wikipedia》提供的信息更新速度更快,大模型面临同样的问题。

为什么美国不允许我们训练大模型?因为如果不能训练,很多大模型将逐渐失去效用。大家要了解这一点,这就是所谓的人工通用智能(artificial general intelligence)。如果你希望它具备感知和认知能力,能够解决通用的应用问题,它就必须不断更新。否则将来大模型将无法正常运行。

袁晓辉:我也补充一点,刚才提到的大模型中心化程度较高,是否意味着大家都在使用同一个模型?实际上有两种回应:一是开源模型,很多中小企业可以结合自己的场景使用开源模型进行训练。二是行业大模型,行业中使用行业数据训练的大模型专注于解决特定行业的问题。它的泛化能力不如通用大模型,但针对性很强,参数量较小,不需要消耗大量算力资源。在目前的工业领域,许多场景下可以使用行业大模型,而且大家普遍认为行业大模型可能是中国的一个机遇,因为它不需要过多的算力就可以运作。

刘磊:从技术革命的角度来看,我个人也相对乐观。在大模型领域,有许多基础大模型,也有行业大模型,还有很多垂直领域的大模型。例如,面向行业的医疗大模型、交通大模型,甚至一些非常小型的模型。多种类型的大模型汇聚成一个“大模型矩阵”,这是大模型的大家庭。

郑教授提到我们正在进入一个越来越中心化的世界,但在某种意义上,这也是中心化和去中心化不断博弈的过程。小模型、中模型和大模型结合在一起形成了一个生态。如果只有大模型而没有小模型和中模型,大模型也不过是一堆耗电耗芯片的机器。因此,即便在中心化的过程中,去中心化的张力和博弈也在其中,最终会形成一种平衡。没有任何人可以掌控一切,因此我对这个问题保持乐观。

中国还有一个独特的优势,就是拥有庞大的用户市场,这在全球是独一无二的。我们最大的优势就是拥有14亿人口的规模,相当于欧洲加日本的总和。我们可以利用这个优势,在预训练、监督学习和无监督学习的过程中,通过不断的版本升级迭代,相信我们的大模型有非常光明的前景。

郑永年:黄铠教授提到行业数据的问题,我想补充一点。我曾参观过深圳的一些行业数据收集机构。我们发现,美国的数据资源远远优于中国——世界上所有顶尖的科研论文,尤其是在科学技术领域,几乎都是用英文写的,中文写的论文相对较少。包括中国的科学家和工程师,都在用英文发表论文。美国的数据资源远远优于中国,这是一个事实。大家可以看到,绝大多数科研论文都是英文的,中文的质量较差。数据量不足,导致模型效果也不一样。

黄铠:很多同事问我,中国和美国在AI领域相差多少年?我可以给出去年的数字,来自斯坦福的AI数据。去年全球有150个大模型系统出现,其中超过一半是在美国发展出来的。其中65个是由工业界主导的,有20多个是工业界和学术界合作的,而真正由学术界独立开发的只有大约10个,因为这需要大量投资。我早上提到马斯克投资了40亿美元,而去年中国只有15个大模型系统。所以在投资方面我们已经落后了,因为我们缺乏大型数据中心。尽管我们有很多人才,但开发出来的系统数量不足。因此,关于相差多少年,我的简单回答是,我们目前在大模型系统的产出上较为落后,距离实现通用人工智能(general AI)还有一段距离。

郑永年:我个人认为,中国数据不足有两个主要原因。与美国相比,中国的产业结构是最齐全的,几乎涵盖了所有行业。

但中国面临的两个问题是:一是数据整合不足,存在数据孤岛现象。市与市的数据无法整合,一个市下面各个区之间的数据也整合不起来,大学之间的数据更是如此,省与省之间的数据整合更是遥不可及。工业部门也是一样,数据难以整合,大家各自为政,像一个个土豆。这个问题需要解决。

二是,美国能够收集全球的数据,而我们由于互联网不够开放,一方面我们自己的数据出不去,另一方面外部的数据也进不来,这需要改革。数据的数量和质量不足是可以改善的,但如果不进行改革,我认为很难赶上。如果能够推动改革,我们还是有机会赶上来的。

黄铠:当然还有一点,美国人批评中国,说中国不分享数据。我的数据给了你,但你的数据却不给我,这也是一个切实存在的问题。很多数据在中国是不透明的,而在美国是透明的。所以我感觉双方在制定新规则方面还有很长的路要走。

观众提问:有两个相对抽象的问题想请在座几位简要回应。第一,黄铠老师非常乐观,认为人类可以完全掌控人工智能和机器人的发展,而我个人相对悲观。比如说,现在确实有大量的“数据民工”在为人工智能提供数据材料,但未来人工智能的发展是否会走向能够完全解决问题的阶段?甚至有可能部分人类能够将人工智能与自己融合,成为一种“新人类产物”,那时我们谈论的控制权就很难明确了。或许我们可以思考这个问题。

现场听众提问

二是,或许人工智能还没有完全掌控人类的工作、行为和思想,但我们已经看到它在一些工作领域开始替代人类。理想的人工智能发展应该是帮助人类,而不是替代人类。然而,客观情况是人工智能确实在替代人类,并且这一趋势还在加速。起初我们认为它只会替代出租车司机、快递员等劳动力密集型行业的岗位,但如今它在智力劳动领域的替代速度更快,行业危机非常大。再过若干年后,是否人类会走向一个越来越失去“人性”的时代?人工智能越来越具有人性,甚至有一天可能比人类还聪明。届时,人类是否会认为自己不需要劳动,甚至不需要存在?

我们曾经说“劳动创造人”,但如果不再需要劳动,人类又该如何定义?在这种情况下,我们应该如何重新界定人工智能时代下人类的价值?这些问题让我感到困扰,借此机会想请教各位专家。

郑永年:我个人觉得这个问题既有悲观的方面,也有好的方面。人工智能和人类其实差不多,人有善的一面,也有恶的一面,一半是魔鬼,一半是神。我想人工智能也是如此,关键在于你如何使用它。如果人工智能变得比我们更聪明,目前我们还能控制AI,但如果有一天被AI控制,那会怎么样就不得而知了。

袁晓辉:这个问题最终还是可以回归到人类自身。什么东西最能打动你?你的热情、冲动在哪里?你希望成为一个怎样的人?这个命题才是更重要的。如果一个人没有欲望,无欲无求,那是一种状态;但如果你真的想改变什么或实现一些目标,AI就会成为你的工具,助力你的发展。所以我认为未来的理想状态是,人类借助AI来增强自己。尽管AI的智能可能会超越人类,但在这个时代找到自己的价值感是最重要的事情。

刘磊:对这个问题不必过于惊慌,首先我们的态度应该是主动拥抱。技术革命是一个进化的过程,不以人的意志为转移。这是第一点:要拥抱大趋势,拥抱AI。第二点,这个过程并不是一蹴而就的,它是一个渐进式、过渡性的过程。即使有些重复性的劳动会被替代,但这恰恰解放了人类的双手。比如在一些简单的翻译或工业质检领域,AI可以解放我们的双眼双手。

而且在这个过程中,它会为我们创造更多新的职位。就像刚刚这位老师提到的数据工厂,我们现在有很多数据标注师这样的新职业,已经需要成千上万的人来训练AI、为AI打标签、提供数据服务。这只是一个例子,实际上还有很多。

在大模型时代到来后,出现了一个新的职业——提示词工程师。人工智能是为我们服务的工具,首先需要提示词才能行动,而不是毫无提示就能自主行动或控制人类。这条发展道路非常漫长,所以完全不必因此感到惊慌。迭代和渐变的过程会给我们足够的智慧去解决所有问题。

国际会议首日综述

关于IPP国际会议

每年一届的国际学术研讨会是IPP国际学术交流的重要平台。IPP围绕中国及世界的治理与改革问题,邀请国内外学者齐聚广州,讨论重大公共政策议题,共谋中国与世界改革发展之路。从2013年至今,IPP国际学术研讨会已成功举办十届,目前已是中国南方最具社会影响力的国际学术盛宴之一。

关于IPP

华南理工大学公共政策研究院(IPP)是一个独立、非营利性的知识创新与公共政策研究平台。IPP围绕中国的体制改革、社会政策、中国话语权与国际关系等开展一系列的研究工作,并在此基础上形成知识创新和政策咨询协调发展的良好格局。IPP的愿景是打造开放式的知识创新和政策研究平台,成为领先世界的中国智库。

来源:IPP评论

相关推荐