目 录CONTENT

文章目录

OpenAI 发布联名公开信 警告 AI 给人类带来灭绝风险

ByteNews
2023-06-19 / 0 评论 / 1 点赞 / 4,543 阅读 / 702 字 / 正在检测是否收录...
温馨提示:
本文最后更新于 2023-06-19,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

OpenAI 发布联名公开信 警告 AI 给人类带来灭绝风险

5 月 30 日消息,350 位 AI 行业的高管、研究人员和工程师日前签署了一封公开信,表示担忧 AI 技术将对人类带来生存威胁。这封信由位于非营利组织人工智能安全中心发布,其中仅有一句话:“降低人工智能带来的灭绝风险应该成为一个全球优先事项,与大流行病、核战争等其他社会规模的风险并列。”

OpenAI 首席执行官 Sam Altman、Google DeepMind 首席执行官 Demis Hassabis、Anthropic 首席执行官 Dario Amodei 三位 AI 公司高管,以及 2018 年图灵奖得主 Geoffrey Hinton、Yoshua Bengio 已签署这封信。

自 ChatGPT 掀起 AI 热潮以来,对这项技术潜在风险的担忧持续增加。此次公开信引发了广泛关注和热议,也使得人们对 AI 技术的发展和应用有了更加深入的思考与探讨。

这份声明由总部位于旧金山的非营利组织人工智能安全中心发布,他们认为 AI 对人类构成生存威胁,所以发出了新的警告。整份声明仅有一句话,全部内容如下:

“降低人工智能带来的灭绝风险应该成为一个全球优先事项,与大流行病、核战争等其他社会规模的风险并列。”

AI

此前,马斯克联合超过千名产业界和学术界的大佬们,在“生命未来研究所(Future of Life Institute)”网站上发布联名公告。公开信中主要传达了两个方面的信息:一是警告人工智能存在对人类社会的潜在威胁,要求立刻暂停任何比 GPT-4 更强大的人工智能系统的训练,时间跨度至少 6 个月。二是呼吁整个人工智能领域以及政策制定者们,要共同设计一套全面的人工智能治理系统,对人工智能技术的发展进行监督和审查。

1

评论区