谁将驾驭谁：最新版本ChatGPT推出 代价可能大于所想？

据研发此科技的公司称，最新版本的ChatGPT在某些情况下“表现出人类水平的性能”。专家表示，尽管这项技术的进一步发展可能会带来好处，但也会为人类带来生存问题。

AI technology such as ChatGPT-4 could threaten jobs and raise insurmountable social issues, experts warn. Source: AAP / Diego Fedele

要点：

• 科技巨头争相将人工智能工具推向新的水平；
• 一些专家表示，这项技术可以将人类从琐碎的工作中解放出来，并开创一个具创造力的新时代；
• 但也可能威胁到部分工种并引发难以解决的社会问题。

观察员表示 ，在硅谷，通用人工智能的兴起被视为无可避免——将会为世界带来前所未有的数量级的变化。我们准备好了吗？

AGI被定义为具有人类认知能力的人工智能，而不是更狭义的人工智能，例如备受关注的ChatGPT——一些专家称其可以将人们从琐碎的工作中解放出来，并开创一个具创造力的新时代。

但也有专家警告，如此历史性的范式转移，即行为（或思维）方式的改变，可能威胁到就业并引发难以解决的社会问题。

旧金山初创企业Runway的首席执行官Siqi Chen说，以前从电力到互联网的技术进步引发了重大的社会变革。

他向法新社说：“但我们现在关注的是智能本身……这是我们第一次能够创造智能本身并在全宇宙增加其数量。”

OpenAI says its new ChatGPT-4 "exhibits human-level performance" on some benchmarks. Source: AAP / Richard Drew/AP

因此，变革将“比我们历史上任何其他技术变革都要大几个数量级”。

陈思琪说，这种令人既兴奋又恐惧的转变是一把“双刃剑”，例如，试想想使用 AGI 来应对气候变化，但他也警告，这是一种我们希望“尽可能可以控制”的工具。

去年底发布的ChatGPT，使长期以来梦想的AGI想法向现实迈进了一大步。

开发ChatGPT的母公司OpenAI ，在3月14日发布的更强版本的 AI技术，称为GPT-4。据报，这项技术将不仅能够处理文本，还能处理图像，并产生更复杂的内容，如法律申诉或视频游戏。

该公司表示它在某些基准上“表现出人类水平的性能”。

人工智能是否意味“苦差”的终结？

在微软的支持下，OpenAI的成功在硅谷引发了一场“军备竞赛”。虽然各大科技巨头仍然对“ 聊天机器人（Chatbot）”可能失去控制持谨慎态度，但他们仍争相加速对人工智能的研究，希望将人工智能工具推向新的水平 。

目前，微软和谷歌的人工智能数据助理已经可以总结会议、草拟电邮、创建网站、制作广告等等 ，这或能让大家看到AGI未来的能力。

微软全球副总裁施洋（Jared Spataro）表示：“我们花了太多时间在苦差上。”

施洋在上周四微软的发布会上说，希望通过人工智能可以“重新发现工作的灵魂”。

此外，人工只能也被视为可以降低成本。

英国园景设计师柏金斯（Joe Perkins）发表推文表示，他使用GPT-4进行一个编码项目，而一个“非常优秀”的开发人员之前告诉他，这工作需要5000英镑（约6000 澳元）并需时两周。

“GPT-4 在 3 小时内交付了同样的东西，只需 0.11 元，”他在推特上写道，“真是令人难以置信。”

可是，这也引发一个问题——人工智能将威胁人类的工作。Siqi Chen承认，这项技术有一天可以建立像他这样的初创公司——甚至青出于蓝。

他问道：“我要怎样谋生？而不是无家可归？”他指自己期待解决方法出现。

存在的问题

无处不在的人工智能也给原创性打上问号，因为歌曲、图像、艺术等等均由软件而不是人类创造出来。

人类会避开接受教育、转而依赖软件来代替他们思考吗？

而且，谁可以信赖以确保人工智能公正、准确，而且能适应不同的国家和文化？

一家生成式人工智能公司的联合创始人Sharon Zhou 说，通用人工智能“可能来得比我们能够处理得快”。

她对法新社说，这项技术带出了人类存在的问题。

她问道：“如果有东西比我们更强大、更聪明，那对我们意味着什么？”

“我们能驾驭它吗？还是它驾驭我们？”

The success of OpenAI, backed by Microsoft, has ignited an arms race of sorts in Silicon Valley as tech giants seek to push their generative AI tools to the next level — though they remain wary of chatbots going off the rails.

OpenAI表示计划逐步构建AGI以造福全人类，但承认该软件存在安全缺陷。

OpenAI首席科学家苏茨科尔（Ilya Sutskever）在接受《麻省理工科技评论》访问时表示，其安全性（隐忧）是一个“过程”，并说“非常希望”有关公司“能够减慢这些具有前所未有的能力的模型的发布过程”。

可是在目前来说，Sharon Zhou指放慢速度并不是社会风气。

她说：“权力集中在那些可以建造这些东西的人身上，他们围绕这东西做决定，而且他们倾向于快速行动。” 

她又指，国际秩序本身可能会受到威胁。

她说：“中美之间存在巨大压力。”并说人工智能竞赛让人联想起冷战时代。

她问道：“AGI肯定存在风险，假如某个国家更快地解决这问题，他们会占据主导地位吗？”

“所以我认为恐惧在于，不要停下来，因为我们输不起。”

欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、谷歌播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。

请在Facebook和Twitter关注SBS中文，了解更多澳洲新闻。