核心要点
英国国王查尔斯三世将在苏格兰举办的峰会上 ，向英伟达、OpenAI 以及 Anthropic 的高层着重探讨人工智能安全议题 。
白金汉宫表示，周四这场会议的核心议题为如何利用人工智能造福人类社会与自然环境 ，同时磋商制定一套用于技术开发的通用准则 。
根据拿到的国王演讲稿节选 ，查尔斯将在会上表示：“人工智能的技术内核以及发展速度，既让人满怀期待，也令人深感忧虑。”
“我们世界中所有珍视人性及其重要道德内核的人们 ，都迫切希望从各位这里得到一份保证：人类不会失去对自身命运的掌控 。 ”
本次参会者还包括谷歌旗下 AI 实验室 DeepMind 的高层代表 、英国人工智能大臣卡尼什卡・纳拉扬 。会议由国王信托基金会 、国王基金会、可持续市场倡议组织共同召集。
白金汉宫称 ，国王将向与会者提问：如何把安全置于核心，释放人工智能的价值；以及怎样构建世界 合作、凝聚全球共识实现上述目标。
“当下属于人工智能发展的成型关键期 ，此刻做出的抉择 ，将塑造子孙后代所处的世界 。 ” 查尔斯还将讲到，“各位肩负的任务 ，不只是推动技术向前 ，更要确保技术始终服务于人类 、社群与自然界 。”
查尔斯国王曾在 2023 年英国 AI 安全峰会上发表线上讲话，当时他评价 “我们正在见证人类发展史上最伟大的技术飞跃之一 ”。
过去两周 ，关于 AI 安全的争论愈演愈烈 。OpenAI 的山姆・奥特曼 、Anthropic 的达里奥・阿莫迪、谷歌 DeepMind 创始人德米斯・哈萨比斯 、埃隆・马斯克等科技巨头高管纷纷发声 ，呼吁放缓 AI 技术研发，并强化监管约束 。
但也有包括 Meta 在内的部分企业 ，公开反对加强监管的呼声。
不少参与 AI 技术研发的先驱也发出警告 ，警惕 AI 系统能力带来的各类生存风险 。
与此同时，相关讨论在美国华盛顿也愈发激烈 。国会民主党 、共和党内部分议员都主张出台法案管控人工智能发展，但特朗普于周一公开猛烈抨击日益高涨的 AI 监管诉求。
