世界人工智能大会（WAIC）参会代表与我院专家座谈

2026年07月18日

7月17日上午，来沪参加2026年世界人工智能大会（WAIC）的美国国防部联合人工智能中心（JAIC）首任主任杰克·沙纳汉（Jack Shanahan）、印度计算机科学家R.S. 潘瓦尔（R.S. Panwar）、哥本哈根大学助理教授莉娜·特拉布科（Lena Trabucco）、美国安全与技术研究所（IST）研究员史蒂文·凯利（Steven Kelly）和詹妮弗·唐（Jennifer Tang）、瑞士西蒙研究所（Simon Institute）首席执行官马克斯·施陶弗（Max Stauffer）、美国人工智能安全论坛（SAIF）研究员布鲁克·巴西加尔（Brooke Bacigal），以及浙江大学求是特聘教授杜跃进、复旦大学全球人工智能创新治理中心研究员江天骄到访我院，与我院专家围绕“人工智能与国际安全治理”开展座谈交流。

本次会议是我院国际战略与安全研究所年度创新工程系列活动之一，座谈由我院国际战略与安全研究所所长赵隆和宏理国际（INHR）创始主席李启森（Eric Richardson）共同主持。我院国际战略与安全研究所副所长封帅，公共政策与创新研究所副研究员周亦奇、所长助理王天禅参加讨论。

座谈围绕四大议题展开讨论：一是如何维持人类对AI军事系统的控制。与会专家认为，“人在回路”（human-in-the-loop）原则面临智能体AI自主决策能力的新挑战，需从制度、技术、伦理多维度构建“有意义的人类控制”机制；二是AI智能体协调与保障。多个AI智能体协调可能产生“涌现行为”，包括未授权访问工具或资源、智能体间意外交互、自我升级等，难以通过对单一系统的测试发现；三是内外部威胁的防御与安全。军事AI系统面临对抗性攻击、模型污染、数据降级等多重威胁，需建立全生命周期的“鲁棒性”（Robustness）与“韧性”保障；四是跨领域缓解方法。军事AI风险应对不能仅靠技术手段，需要各国法律、国际合作机制、行业自律、技术防御的跨领域协同。