要点：
- 由于潜在的社会风险，专家呼吁暂停开发人工智能系统；
- OpenAI强大的人工智能系统GPT在国家安全、虚假信息和教育等方面的担忧；
- ChatGPT的发布引发了竞争对手科技公司之间不受监管的AI开发竞赛。
埃隆·马斯克（Elon Musk）和一群人工智能专家及业界高管呼吁暂停开发比OpenAI新发布的GPT-4更强大的系统，他们在一封公开信中提到了潜在的社会风险。
本月早些时候，微软支持的OpenAI发布了其GPT（生成式预训练转换器）AI程序的第四个迭代版本，该程序以其与用户进行人类般的对话、创作歌曲和总结冗长文件的能力而让用户惊叹不已。
“只有在我们确信其效果将是积极的且其风险将可控时，才应该开发强大的人工智能系统，”由生命未来研究所（Future of Life Institute）发布的公开信中写道。
根据欧盟的透明度登记册，根据欧盟的透明度登记册，该非营利机构主要由马斯克基金会、总部位于伦敦的Founders Pledge集团以及硅谷社区基金会资助。
马斯克本月早些时候表示：“人工智能让我倍感压力。”他是行业领袖OpenAI的联合创始人之一，其汽车制造商特斯拉使用人工智能驾驶辅助系统。
马斯克曾对监管特斯拉自动驾驶系统的努力感到沮丧，现在他正在寻求一个监管机构，以确保人工智能的发展符合公共利益。
康奈尔大学数字和信息法教授詹姆斯·格林梅尔曼（James Grimmelmann）表示：“考虑到特斯拉自动驾驶汽车中有缺陷的人工智能问题，马斯克签署此信是极其虚伪的。”
他表示：“暂停（开发）是一个好主意，但这封信含糊不清，没有认真对待监管问题。”
特斯拉上个月不得不召回超过36.2万辆美国车辆以来更新软件。此前美国监管机构表示，驾驶辅助系统可能会导致事故，这促使马斯克发推文称，对于一次无线软件更新来说，“召回”一词“不合时宜而且完全错误！”
“逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们”
OpenAI没有立即回应对这封公开信发表评论的请求，该信敦促在独立专家制定共享安全协议之前，暂停先进的AI开发，并呼吁开发人员与政策制定者就治理问题进行合作。
“我们应该让机器用宣传和不实言论充斥我们的信息渠道吗？……我们是否应该培养可能逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们的非人类智慧？”这封信问道，并表示“这样的决定不应委托给未经选举的技术领袖”。
这封信被超过1000人签署，包括马斯克在内。
OpenAI首席执行官阿尔特曼（Sam Altman）未在签署名单之中。Alphabet和微软的CEO桑达尔·皮查伊（Sundar Pichai）和萨提亚·纳德拉（Satya Nadella）也未在签署者之列。
联合签署人包括Stability AI首席执行官莫斯塔克（Emad Mostaque）、Alphabet旗下DeepMind的研究人员，以及被誉为“AI教父”之一的约书亚·本吉奥（Yoshua Bengio）和AI领域研究先驱斯图尔特·罗素（Stuart Russell）等重量级人物。
这些担忧出现之际，ChatGPT因其对国家安全和教育的影响而引起美国立法者的关注。欧盟警方机构欧洲刑警组织周一发出警告，称该系统可能被用于网络钓鱼、虚假信息和网络犯罪。
与此同时，英国政府公布了围绕AI的“适应性”监管框架提案。
“AI竞赛”
“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果，”纽约大学教授加里·马库斯（Gary Marcus）在签署这封信后表示。
“大公司对他们正在做的事情越来越保密，这使得社会很难防范可能出现的任何危害。”
自去年发布以来，OpenAI的ChatGPT已促使竞争对手加快了类似的大型语言模型的开发，包括Alphabet在内的公司都在竞相将其产品浸入AI领域。
担心依赖单一公司的投资者正在拥抱OpenAI的竞争对手。
微软拒绝就这封信置评，Alphabet也没有回复请求置评的电话和电子邮件。
布朗大学教授、前白宫科技政策办公室助理主任文卡塔苏尼安（Suresh Venkatasubramanian）说：“很多开发这些系统的能力一直掌握在少数拥有资源的公司手中。这就是这些模型的本质，难以构建，难以实现民主化。”
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、谷歌播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。
