(相关资料图)
关注“凯莉彭”公众号，及时收看更多好文 点击预约，不错过精彩直播
| 撰文：凯莉 编辑：路炀 “在未来十年内，人工智能系统将在大多数领域超越专家的技能水平，并承担今天世界上那些最大的公司一样多的生产活动。” OpenAI 公司网站上今天发表了一篇文章，阐述了关于现在如何做好准备，在将来治理好超级智能。 文章的作者是OpenAI 的三位联合创始人——CEO Sam Altman、总裁 Greg Brockman、首席科学家 Ilya Sutskever 共同撰文探讨了如何治理超级智能（superintelligence）的问题。 人工智能技术近年来进步神速，特别是深度学习的发展使得人工智能系统在各个领域都越来越精进。 在医疗领域，AI 系统可以检测肿瘤、识别疾病，甚至可以进行手术操作。 在金融和法律领域，人工智能可以自动审阅合同、识别欺诈行为。 在工业生产领域，智能机器人可以实现高精度的生产流水线操作。 未来10年，随着算力增强、数据积累以及算法优化，人工智能系统的技能表现将超过人类专家。 届时，人工智能不仅可以完成历史上人类专家才能胜任的复杂任务，还将承担绝大部分生产活动。 人工智能时代，生产线将变得高度自动化，人类工人将主要负责监督性工作。人工智能技术改变人类生产生活方式的潜力巨大。但人工智能也面临一定风险和挑战，比如隐私问题、偏见问题以及自动化导致的就业危机等。 其中人们讨论最多的潜在可能性之一，就是超越人类智慧的人工智能——也就是超级智能的出现，以及它可能对人类造成的存在性风险。 Sam Altman、Greg Brockman 还有 Ilya Sutskever 认为，现在是开始思考超级智能治理的好时机了。 在今天发布的这篇文章里，OpenAI 三位联合创始人提到两个想法，值得跟你分享： 首先，各个国家要在开发中实现一定程度的协调，以确保超级智能的开发能既安全，又能帮助这些 AI 系统与社会顺利融合。 这有许多实现的方法，比如：世界各地的主要政府可以设立一个项目，将AI能力的增长速度限制在每年的一定比例。 其次，我们可能需要类似于国际原子能机构（IAEA）的机构来监管超级智能。 国际原子能机构，诞生在人们发现核能可能摧毁人类之后。在二战后期的1945年，核能的潜力和可能的滥用问题已经变得显而易见。 当时的美国总统艾森豪威尔在联合国大会上发表了一次演讲，称为“原子的和平利用”（Atoms for Peace），在此演讲中，他提出建立一个新的国际机构，来促进和平使用核能，并防止核能被用于军事目的。
在随后的12年里，多个国家的代表进行了一系列的磋商，最终在1957年成立了 IAEA 。
| IAEA
IAEA 的主要目标是促进核能的和平利用，同时防止核材料被用于军事目的。 为了实现这一目标，IAEA 开展了一系列的活动，包括设立核安全标准，进行核设施的检查和审查，提供技术援助和培训，以及进行科学研究和技术发展。 对于 AI 也是一样的，任何超过一定能力（或类似计算资源）阈值的开发工作，都需要能够接受检查、审查、设立安全标准，受到国际权威机构的监管。这样的机构的主要工作，是降低人类的存在性风险。“存在性风险”，说白了，也就是我们人类不要把自己玩灭绝了。 今天的 AI 系统将为世界创造巨大的价值，虽然确实有风险。但是 OpenAI 相信，这些 AI 系统会带来一个比我们今天所能想象的更好的世界。 世界面临着很多问题，这项技术可以改善我们的社会，而每个人使用这些 AI 新工具也会释放我们生命中无穷的潜力与可能。
|图片来源于网络
退一步说，即使我们想要阻碍超级智能的诞生，也几乎不太可能做到。
因为发展人工智能的好处是如此巨大，而开发它的成本每年都在减少，参与的公司数量和人数又在迅速增加。 阻止超级智能的诞生，将需要建立类似于全球监控制度之类的东西，但即便能够建立全球监控，也不能保证我们能百分之百成功。 所以，我们需要现在就开始规划超级智能的治理机制，为其未来的到来做好充分准备。避免当人工智能超过人类智力时，可能会产生的灾难性后果。 但如果我们能够制定出切实可行的政策和安全准则，最大限度地发挥超级智能的优势，同时将风险控制在最低，这样也许超级智能的到来不会成为人类的毁灭，而是推动人类进步的动力。 你怎么看 OpenAI 的提议呢？
在人工智能飞速发展的当下，如果能够在第一时间拥抱前沿信息，和一群热爱学习的优秀伙伴共同成长，你未来的人生轨迹也许会因此发生改变。
这个世界上唯一不变的就是变化，如果想要快人一步掌握新工具，跟上时代步伐，欢迎你加入#AI创作入门课。
27+节视频课+国际化交流社群，期待你的加入。
////// end /////
这是我第227篇原创内容 请点赞、在看、转发为我加油。 关注我 我们互相陪伴，见证成长~
往期推荐
