cogito人工智能，go_人工智能_课程

近年来的大量研究已经证明，具有人类竞争智能的人工智能系统可能会对社会和人类构成深远的风险，许多顶级的人工智能实验室也承认这一点。正如广泛认可的 Asilomar AI 原则所述，高级人工智能可能代表着地球生命史上的深刻变化，应该以相应的关心和资源进行规划和管理。然而，这种规划和管理的程度目前还不足以应对人工智能快速发展的现状。最近几个月，人工智能实验室陷入了一场失控的竞赛，旨在开发和部署更加强大的数字思维，这些思维甚至被创造者自己也无法理解、预测或可靠地控制。

近年来，人工智能系统已经在一般任务上表现出与人类相媲美的竞争力，这一事实已得到多项研究和知名 AI 实验室的认可。然而，这也引发了我们的思考：我们是否应该让机器用虚假宣传和谎言充斥我们的信息渠道？我们是否应该将所有工作都自动化，包括那些对人类来说是具有意义和满足感的工作？我们是否应该继续发展可能最终超越并取代我们的非人类思维？我们是否愿意冒险失去对我们文明的控制权？这些决定不应该被委托给未经选举的技术领导者。因此，只有当我们有充分的理由确信其影响是积极的且风险可控时，我们才应该继续开发强大的人工智能系统。这种信心应该随着系统潜在影响的大小而增强，并需要有充分的依据。

最近，OpenAI 发布了关于通用人工智能的声明，提出在开发未来系统之前进行独立审查可能是非常重要的，同时也建议限制用于创建新系统的计算增长率楷模。我们赞同这一观点，我们认为现在正是实施这些限制的时候。

我们需要深思熟虑地规划和管理高级人工智能系统的发展，特别是要确保这些系统的安全性和可控性。同时，政策制定者和 AI 开发人员也需要积极合作，共同加速发展强大的 AI 治理系统，包括建立新的、能够负责 AI 监管的机构、监督和跟踪高性能 AI 系统和大量计算能力以帮助区分真实和合成、跟踪模型泄漏、建立强大的审计和认证生态系统、明确 AI 造成的伤害的责任、为技术人工智能安全研究提供强大的公共资金、建立应对人工智能带来的巨大经济和政治破坏的机构和资源等。通过这些努力，我们可以更好地享受人工智能带来的繁荣未来，同时也能够更好地应对 AI 带来的风险和挑战。

因此，我们呼吁所有人工智能实验室立即停止训练比GPT-4更强大的人工智能系统，包括目前正在训练的GPT-5，至少6个月。这种停止应该是公开和可验证的，并且应该涵盖所有关键参与者。如果不能迅速实施这种停止，政府应该介入并采取相应的停止措施。

我们应该认识到高级人工智能系统可能对社会和人类构成深远的风险，并且需要制定相应的安全协议以确保系统的安全性。因此，我们呼吁所有人工智能实验室暂停训练比 GPT-4 更强大的人工智能系统，包括正在训练的 GPT-5，至少6个月，并公开和可验证地实施这种暂停。这需要与政策制定者和专家合作，共同开发和实施用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。

这些安全协议应确保系统的安全性，遵守这些协议的系统无可置疑。这并不意味着总体上暂停 AI 开发，只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。我们需要重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。此外，我们需要专门负责 AI 的新的和有能力的监管机构、监督和跟踪高性能人工智能系统和大量计算能力，以帮助区分真实与合成并跟踪模型泄漏，以及强大的审计和认证生态系统等。

我们认为，现在AI开发人员需要与政策制定者紧密合作，以制定强大的AI治理体系。这个系统至少应该包括以下方面：建立专门负责AI监管的机构，该机构应该是新成立的，而且有足够的能力；监督和跟踪高性能人工智能系统和大量计算能力，以帮助区分真实的和合成的内容，并跟踪模型泄漏；建立一个强大的审计和认证生态系统，以确保遵守标准和要求，以及保障系统的安全性和稳定性；建立AI造成的伤害的责任，让技术人员对其开发的系统负起相应的责任；为技术人工智能安全研究提供强大的公共资金；建立资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏。

虽然人工智能为我们带来了繁荣的未来，但在成功创建了强大的AI系统之后，我们需要进行全面的治理，确保这些系统能够为所有人带来利益，并为我们提供适应的机会。我们已经看到其他技术的暂停，以避免可能对社会造成灾难性影响。我们需要确保AI也不会产生负面的影响，而只带来积极的进步。因此，我们需要紧密合作，确保AI系统得到完善的治理，并受到充分的监督和管理。

签名人士包括：

Yoshua Bengio，图灵奖获得者

Stuart Russell，伯克利计算机科学教授

Elon Musk，SpaceX、Tesla 和 Twitter 的首席执行官

Steve Wozniak，苹果联合创始人

公开信链接：Pause Giant AI Experiments: An Open Letter – Future of Life Institute。

创业项目群，学习操作 18个小项目，添加微信：luao319 备注：小项目！

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 fqkj163@163.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.fqkj168.cn/4590.html

cogito人工智能，go_人工智能_课程

相关推荐