埃隆·马斯克，技术专家要求暂停强大的人工智能开发

不败交易花 • 2024年6月6日 am1:28 • 财经知识 • 阅读 130

埃隆·马斯克，技术专家要求暂停强大的人工智能开发

Elon Musk, Tech Experts Ask For Pause On Powerful AI Development

特斯拉和太空探索技术公司首席执行官埃隆·马斯克加入了包括苹果联合创始人史蒂夫·沃兹尼亚克在内的一群科技专家的行列，敦促世界暂停大型人工智能或人工智能实验的开发，理由是这对社会和文明构成风险。

这封公开信由未来生命研究所发布，包括马斯克在内的1300多人签名，要求所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。它说，如果这种暂停不能迅速实施，政府应该介入并实施暂停。

这些技术专家表示，他们并不寻求暂停人工智能开发，而只是从危险的竞赛中后退一步，转向具有紧急功能的更大的不可预测的黑盒模型。

这封信警告说，人工智能实验室“陷入了一场失控的竞赛，开发和部署越来越强大的数字思维，没有人——甚至是它们的创造者——可以理解、预测或可靠地控制。”

与分析人工智能等前身机器学习方法相比，最近出现的生成式人工智能技术是通用的，而不是专门的用例。它们有能力生成新颖的、类似人类的输出，而不仅仅是描述或解释现有信息，还具有可接近的界面来理解自然语言、图像、音频和视频并做出响应。

由于当代人工智能系统在一般任务方面正变得与人类竞争，技术专家提出了一些问题，比如是否允许机器用宣传和谎言淹没信息渠道，以及是否将所有工作自动化，包括令人满意的工作。他们还提出了对发展非人类思维的担忧，这种思维最终可能会超过人类、超越人类、过时并取代人类，并有可能失去对文明的控制。

这封信警告说，只有在确信强大的人工智能系统的效果将是积极的并且其风险将是可控的情况下，才应该开发这些系统。

在规定的暂停期间，人工智能实验室和独立专家被敦促共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，这些协议由独立的外部专家严格审核和监督。

“与此同时，人工智能开发人员必须与政策制定者合作，大幅加快强大的人工智能治理系统的开发，”它说。

据报道，签署者包括稳定性人工智能首席执行官艾玛德·莫斯塔克、Alphabet旗下DeepMind的研究人员以及人工智能公司Yoshua Bengio和Stuart Russell。

与此同时，据报道，处于开发生成式人工智能前沿的OpenAI首席执行官萨姆·奥特曼没有签署这封信。

GPT-4是由生成式人工智能聊天机器人ChatGPT开发商OpenAI创建的多模态大型语言模型，该公司得到了微软的支持。

马斯克是OpenAI的联合创始人，他此前对人工智能的快速发展表示担忧，最近他警告说，人类文明未来的最大风险之一是人工智能。马斯克在2月份在阿拉伯联合酋长国迪拜举行的世界政府峰会上告诉与会者，人工智能既有积极的一面，也有消极的一面，有着巨大的潜力和巨大的潜力，但随之而来的是巨大的危险。

马斯克的电动汽车公司特斯拉将AI用于其自动驾驶系统。

科技专家发出警告之际，高盛（Goldman Sachs）的一份报告预测，包括非常受欢迎的ChatGPT在内的生成式人工智能技术可能会使全球约3亿个全职工作面临自动化，这加深了人们对就业保障的担忧。

这里有个小tips~1296334825 备注：汇汇圈！

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 1296334825@qq.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.fx002.com/26376.html

埃隆·马斯克，技术专家要求暂停强大的人工智能开发

相关推荐