伶俐谷

  • 首页
  • 机场
  • 流媒体
  • 国外主机
  • AI
工欲善其事,必先利其器
  1. 首页
  2. AI
  3. 正文

人工智能将在10年内“超过大多数领域的专家技能水平”:OpenAI

2023-05-24 618点热度 0人点赞

做好准备:超智能人工智能即将来临。

OpenAI的首席执行官Sam Altman、OpenAI总裁Greg Brockman和OpenAI首席科学家Ilya Sutskever合著的一篇博文警告称,发展人工智能需要严格的监管以防止潜在的灾难性情景。

“现在是开始思考超智能人工智能治理的好时机,”Altman表示,他承认未来的人工智能系统在能力上可能远远超过通用人工智能。他说:“根据我们目前的观察,可以想象在未来十年内,人工智能系统将在大多数领域超越专家水平,并进行与今天最大的企业相当的生产活动。”

三位作者在文章中回应了Altman在最近向美国国会作证时提出的担忧,并概述了他们认为对于战略未来规划至关重要的三个要点。

“起点”

首先,OpenAI认为必须在控制和创新之间取得平衡,并推动达成一项社会协议,“既能确保安全,又能帮助这些系统与社会的顺利融合。”

其次,他们提倡设立一个“国际机构”,负责进行系统检查、执行审核、遵守安全标准的测试、以及制定部署和安全限制措施。他们将这一想法与国际原子能机构进行了类比,并提出了全球人工智能监管机构的构想。

最后,他们强调了“技术能力”对于维护对超智能的控制和确保其“安全”至关重要。具体涵盖了什么内容,即使对于OpenAI来说也还不清楚,但文章警告说不要对技术实施繁琐的监管措施,比如针对低于超智能水平的技术进行许可和审核。

总之,这个想法是将超智能与其训练者的意图保持一致,防止“爆炸情景”发生,即人工智能能力的快速、不受控制的爆发超过人类的控制能力。

OpenAI还警告称,未受控制地发展人工智能模型可能对未来社会造成灾难性影响。该领域的其他专家已经提出类似的担忧,从人工智能之父到AI公司创始人,甚至是过去参与GPT LLM培训的OpenAI员工。对于AI治理和监管的积极应对这一紧急呼吁已引起全球监管机构的关注。

“安全”超智能的挑战

OpenAI认为,一旦解决了这些问题,人工智能的潜力就可以更自由地为善被利用:“这项技术可以改善我们的社会,每个人使用这些新工具的创造能力肯定会令我们惊叹不已。”他们说。

作者还解释说,该领域目前正在以加快的速度发展,并且这种情况不会改变。博文中写道:“要阻止它需要类似全球监控体制的东西,但即使如此也不能保证会奏效。”

尽管面临这些挑战,OpenAI的领导层仍致力于探索“如何确保实现对超智能的技术能力以保持安全?”目前世界还没有答案,但绝对需要一个答案——而这个答案ChatGPT无法提供。

标签: chatGPT OpenAI 人工智能
最后更新:2023-05-24

小谷

这个人很懒,什么都没留下

点赞
< 上一篇
下一篇 >

站长邮箱:cr@clever99.com

最新 热点 随机
最新 热点 随机
索尼电视安装和观看Netflix奈飞 Sony索尼电视安装Clash和Disney+使用教程 ByWave机场怎么样? 最新各平台可用的代理工具 Faston机场怎么样? Windows如何使用NekoRay教程
速鹰666机场怎么样? digitalocean主机怎么样 AI在音乐界的影响:创造与保护的平衡 Nexitally奶昔机场怎么样? 在 Linux下使用clash代理 Surfboard使用教程
标签聚合
机场节点购买 机场推荐 DigitalOcean 机场官网地址 IPLC 美区AppleID Telegram代理 chatGPT clash trojan clash for linux shadowsocks netflix 人工智能 网关设备 ssr v2ray 科学上网 clash for windows clash for android

COPYRIGHT © 2024 伶俐谷. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang