关于全球紧急呼吁强化人工智能内生安全治理的倡议

B站影视 电影资讯 2025-09-22 19:34 1

摘要:众所周知,我们正身处一场由人工智能(AI)技术驱动的历史性变革之中。这项技术蕴含着解决全球性挑战,推动社会进步与繁荣的巨大潜力。然而,其前所未有的发展速度与能力,也伴随着存在性风险。当前主流基于海量未严格筛选数据进行训练的范式,已导致AI系统习得并放大数据中的

众所周知,我们正身处一场由人工智能(AI)技术驱动的历史性变革之中。这项技术蕴含着解决全球性挑战,推动社会进步与繁荣的巨大潜力。然而,其前所未有的发展速度与能力,也伴随着存在性风险。当前主流基于海量未严格筛选数据进行训练的范式,已导致AI系统习得并放大数据中的偏见、错误甚至恶意信息,即“坏思维”,并已出现AI试图规避人类约束的个案。

全球顶尖专家对此深表忧虑。“AI教父”杰弗里·辛顿(GeoffreyHinton)博士多次警告高级AI可能产生危险的自主目标。埃隆·马斯克(ElonMusk)等上千名业界领袖曾联名呼吁暂停巨型AI训练,以争取时间建立安全护栏。然而,事后通过法律与伦理进行约束,对于已形成“坏思维”的AI可能力所不逮。真正的安全必须源于设计之初(SecuritybyDesign),通过技术手段在源头加事先构建内生安全(EndogenousSecurity)。

因此,我们紧急呼吁,将AI安全的关口前移,从训练方法的根源上进行革新。核心在于:必须将AI的训练基础,从单纯“投喂”互联网规模的数据,转向探索和灌输事物内在的、普适的数学规律与科学原理。从而在模型驯化的初始阶段,就主动防御“坏思维”的侵入,确保AI发展与人类价值观和安全同频共振。

我们历经十余年探索,通过在企业数智服务领域构建基于数学规律(非简单数字)的模型,验证了一条可行路径。该方法的核心是在建立多元数学模型(方程组/矩阵见下图)

的初期,利用解析几何“多点成线、多线成面、多面成体”的原理(见下图),在建模过程中系统性识别并剔除异常数据点(即“坏思维”),从而构建一个基于“好思维”(纯净、科学规律)的初始模型。

我们在企业绩效定量管理中的实践,已证明了为复杂系统建立关键量化指标的可行性。尽管将其扩展至社会层面是更大的挑战,但这本质上是管理科学功能的延伸,完全可以通过科学、合理的方式实现。这项工程固然艰巨,其工作量甚至远超当前的大数据训练,但之于人类的长远安全,其价值无可估量。

我们据此郑重倡议:

1.推动研究范式转型:全球AI研发重点应从扩大数据规模,转向探索基于数学与科学规律的内生安全训练方法。

2.成立国际联合实验室:立即由主要大国政府、领先科技企业及科研机构共同资助成立“人工智能内生安全国际联合实验室”,汇聚全球顶尖智慧,攻克这一核心技术难题。

2.成立国际联合实验室:启动全球协作计划,立即由主要大国政府、领先科技企业及社会机构共同资助成立“人工智能内生安全国际联合实验室”,汇聚全球顶尖智慧,攻克这一核心技术难题,共同推进这项保障人类未来安全的基础工程。

值此历史时刻,我们呼吁以最大的紧迫感和协作精神采取行动。为了确保人工智能始终是造福人类而非带来风险的强大工具,为了我们的子孙后代能够安全地继承并发展人类文明,我们必须现在就在源头上筑牢安全的基石。

让我们携手,共同主宰我们的未来!

倡议人:数据服务智谷发起人陈生(中国)

联合倡议人:美国华侨进出口商会广东分会会长:陈恩安(美国)

机器人专利拥有者:张越峰(中国)

2025年9月11日

来源:时尚文

相关推荐