周末专家河北行系列讲座之：合成世界中的新兴人工智能安全与挑战及机遇

如今，我们所看到、读到和互动的许多内容——文本、图像、代码和自主行动——都由 AI 生成，从而创造出一个“合成世界”。在这个世界里，区分真实与伪造、可信与对抗，已成为我们时代的一项决定性挑战。

本次报告审视这一转变的两面：风险——对抗性攻击、污染软件供应链的幻觉、侵蚀验证机制的深度伪造，以及绕过自身安全保障的自主智能体——以及机遇：同样的生成能力可以增强防御，从自动化威胁检测到智能安全运营。结合当前行业事件以及日益高涨的、要求负责任地把握前沿 AI 发展节奏的呼声，本次研讨会提出：当真实与合成之间的界限日益模糊，我们如何构建足够有韧性的人工智能系统与治理机制，以在二者之间稳健前行？

Muhammad Imran 是澳大利亚联邦大学创新、科学与可持续发展研究所信息技术副教授，拥有20余年高等教育学术与研究经验。他的研究广泛涵盖网络安全、物联网以及移动与无线网络。Imran 曾领导价值超过220万澳元的国际合作研究项目，发表300余篇同行评审研究论文，其研究成果在全球累计被引用超过33,000次。

他的工作在全球范围内获得多项奖项认可。