演讲 | 人工智能、伦理与武装冲突

摘要：首先，请允许我感谢中国红十字会、中国红十字基金会、红十字国际学院、红十字会与红新月会国际联合会以及中国红十字会的慈善领域合作伙伴，共同举办以“人工智能时代的人道行动：连接与韧性”为主题的第四届苏州国际人道论坛。

9月5日，为期两天的以“AI时代的人道行动：连接与韧性”为主题的第四届东吴国际人道论坛在苏州开幕。

在主论坛上，红十字国际委员会东亚地区代表处人道事务与政策主管菲奥娜·巴纳比就“人工智能、伦理与武装冲突”为题发表了主题演讲。

各位阁下，

女士们、先生们：

首先，请允许我感谢中国红十字会、中国红十字基金会、红十字国际学院、红十字会与红新月会国际联合会以及中国红十字会的慈善领域合作伙伴，共同举办以“人工智能时代的人道行动：连接与韧性”为主题的第四届苏州国际人道论坛。

今天，我想谈谈人工智能、伦理与武装冲突。

正如红十字国际委员会主席米里亚娜·斯波利亚里茨近期在一次公开发言中所示：现实已不容忽视——我们正处在一个被战争定义的十年。

结合本次论坛的主题，我想进一步补充：我们正处在一个将被人工智能定义的十年。

日益数字化和互联的世界为社会、经济、发展、人道、信息及通信领域带来了机遇。这一进步

可以在武装冲突中帮助拯救生命，改善生存条件。

可以为受影响人群提供物资和服务，比如医疗服务；帮助社区获取能挽救生命的重要信息，并在武装冲突中重建或维持家庭联系。

红十字国际委员会的中央寻人局和家庭联系网络正利用数字工具来帮助家庭团聚。“寻找面孔”（Trace the Face）就是这样的一项举措，在这个网站上，寻找失踪亲属的人可以上传和查看照片，以便相互找到对方。

毫无意外，数字技术的进步持续带来诸多益处，也让不愿落后于时代的人道工作者唯恐错失良机。然而，这些技术进步也为受冲突影响的人群及试图帮助他们的人道组织带来了若干风险。我列举三个趋势：

用于网络行动的人工智能针对平民或民用基础设施发动袭击，破坏此类基础设施提供的基本服务。

冲突环境中有害信息的传播（例如利用“深度伪造”技术制作逼真却虚假的音视频内容），可能对受冲突影响人群造成严重冲击，引发流离失所，加剧冲突激烈程度，其后果远不止于此。

人工智能被用于支持军事决策，包括在无人工干预的情况下操控战争。

欢迎来到数字化、高速化、自动驾驶模式的战争新纪元。

“

事无善恶，思想使然。

人工智能本身无对错，是人类的思维与抉择赋予了其价值属性。

事实上，人工智能的价值无法通过简单的二元对立思维来体现。人类开发人工智能，并决定在武装冲突中何时以及如何使用该技术。因此，红十字国际委员会认为，任何新技术，以及任何新武器，都必须符合人道规则或伦理。

规制各方战争行为的规则并未就人工智能、自主武器或数字空间做出具体规定。就此而言，历经时间锤炼的战争规则，即国际人道法，涉及三个特定作战领域——空中、海上和陆地。随着时间的推移，随着新领域（如外层空间、数字空间甚至低空空间）的出现，红十字国际委员会的信条始终如一：国际人道法适用于任何空间中使用任何武器或作战方式，不存在治理或监管的空白。

“

没有黑洞、灰色地带或不受管制空间。这些规则和伦理力求在武装冲突中维护人性微光，无论武装冲突发生在何领域，无论使用何种数字工具，它们都持续适用。因此，关于如何作战的伦理或规则是“技术中立”的，即使技术本身并非中立。

因此，红十字国际委员会与技术利益相关方，无论是开发者、用户、公司、从业者、爱好者、倡导者甚至反对者，就人工智能和技术的潜在影响进行交流，特别是对受冲突影响的人群和人道行动的影响。

随着数字领域以闪电般的速度发展，人道组织面临的挑战是确保我们被视为中立、独立的人道行动者，并以此身份参与其中。如果数字连接与韧性是地缘政治博弈的一部分，人道工作者就必须妥善应对其在准入、资金及接纳等方面对国家、捐助方和受影响群体的依赖，确保我们能够以中立和独立的方式持续工作。

为此，红十字国际委员会于2024年通过并发布了人工智能政策。这份政策文件将作为愿景工具，支持委员会负责任地使用数字技术并符合我们的人道使命。