分享内容来源公众：【幻影视界】

如果一年前你问大多数美国人是否听说过OpenAI，除了硅谷，很少有人会知道这个名字。现在OpenAI的人工智能聊天机器人ChatGPT每天有超过1亿用户使用。

其中一些人，包括《经济学人》泰勒·考恩的一篇报告中说道：“比谷歌更常使用它。ChatGPT已经成为历史上增长最快的app。”

这个应用程序可以写论文和代码。它可以通过律师考试，写诗和歌词，总结电子邮件。它可以给出建议、信息，并使用一组血液结果诊断疾病，所有这些都在几秒钟内完成。它产生的所有反应都与真实的人类惊人地相似。

对于许多花时间使用这项技术的人来说，感觉我们就在改变世界的边缘。他们表示，chat GPT——以及更广泛的新兴人工智能革命，将是人类历史上最关键、最快速的社会转型。

谷歌首席执行官桑德尔·皮帅说AI的影响会比火的发现更深远。

计算机科学家、Coursera联合创始人吴恩达说人工智能是新的电力。

最近，大西洋发表了一篇报道将人工智能比作核武器。

世界上最聪明的技术专家坚持认为这项技术将会改变世界。

问题是:好还是坏？

人工智能的先驱之一，埃利泽·尤德科斯基声称，如果人工智能继续沿着它的轨迹发展，它将摧毁我们所知的地球上的生命。“如果有人建造了一个过于强大的人工智能，在目前的条件下，我预计人类物种的每一个成员和地球上的所有生物都会在此后不久死亡”他最近写道。你不可能想出比这更像世界末日的场景了。

但是Yudkowsky不是唯一一个有严重担忧的人。成千上万的专家和伦理学家——像埃隆·马斯克和史蒂夫·沃兹尼亚克这样的人，表示他们非常关注这项技术，以至于在3月份，在一封公开信中，他们呼吁立即暂停训练任何比当前版本的ChatGPT更强大的人工智能系统。

那么:到底是哪个？AI是世界末日吗？或者这是一个新时代的开始？

为了回答这个问题，媒体联系了Sam Altman。

Altman是OpenAI的联合创始人兼首席执行官，这使他成为硅谷最有权力的人之一，如果你相信宣传，也许是世界上最有权力的人。

Sam Altman图片

在最近一集的《实话实说》中，媒体问他:

推动ChatGPT的技术会从根本上改变我们所知的地球上的生命吗？如果有，如何实现？人工智能将如何影响我们的工作、我们对智能的理解、我们的关系以及我们的基本人性？掌管这项强大技术的人，像他一样的人，准备好承担责任了吗？

下面是完整采访对话（编辑过的译文）：

BW:在短短几年内，你的公司OpenAI已经从一个硅谷以外很少有人关注的小型非营利组织，发展成为一个价值数十亿美元的公司，其产品如此强大，以至于有些人花在它上面的时间比花在谷歌上的时间还多。其他人正在撰写专栏文章，警告你所监管的公司和技术有可能毁灭我们所知道的人类。对于那些刚刚接触这一对话的人来说，在短短几个月内，OpenAI发生了什么导致了如此大规模的爆炸？

SA:首先，我们还是一个非营利组织；我们有一个利润封顶的子公司。

我们意识到，考虑到这些模型需要训练的计算能力，我们需要的资金比我们作为非营利组织所能筹集的要多得多。但是，我们之所以拥有这种围绕安全和利益共享的独特结构，是因为它现在比过去更加重要。过去七年的研究确实有了回报。我们花了很长时间和大量工作来弄清楚我们将如何开发人工智能AI，我们尝试了很多东西。

他们中的许多人走到了一起，其中一些人被证明是死胡同，最后我们得到了一个系统，这是一个实用的酒吧。有些人可能会争论这个产品是否有智能，但是大多数人会同意它有实用性。在我们开发了这项技术之后，我们仍然需要开发一个新的用户界面。我学到的另一件事是，制作一个适合新技术的简单用户界面很重要，但通常被忽视了。

我们拥有这项技术已经有一段时间了，但我们花了一点时间才发现如何让聊天变得真正简单。我们非常关注语言界面的想法，所以我们想要实现它。

然后我们把它发布给公众，很高兴看到人们发现了使用它来学习东西，更好地工作，更有创造力的巨大价值。

BW:ChatGPT是互联网历史上发展最快的应用。在最初的五天里，它获得了一百万用户。在一月份发布后的两个月里，它积累了一亿用户。从一开始，它就在做惊人的事情。这是所有人都在谈论的。它可以参加AP考试，可以起草电子邮件，可以写论文。。。。最近，在我继续之前比尔·马厄我知道我们会谈论这个话题，所以我向ChatGPT要了一段比尔·马厄的独白，它在几秒钟内就写出来了。听起来很像比尔·马厄！听到这个消息，他并不激动。然而，您曾说过，当ChatGPT-3和3.5(该产品的第一个版本)发布时，您感到很尴尬。这是为什么呢？

SA:在我之前运营Y Combinator的保罗·格拉厄姆是硅谷的传奇人物，他曾对我说:“如果你不推出让你有点尴尬的第一版，那你等了太久才推出。”ChatGPT中的所有这些东西仍然不太好用，我们每周都在做得越来越好。

BW:你现在用ChatGPT做什么？

SA:嗯，这是我一生中最忙的一次，所以目前，我主要用它来帮助处理入境信息。总结邮件，总结松散的线索。我收到一封别人写的很长的电子邮件，它给了我三个要点的总结。这可能不是它最酷的用例，但这是我个人现在如何使用它来帮助我的日常生活。

BW:它最酷的用例是什么？

SA:我每天都收到人们发来的温暖人心的电子邮件，告诉我他们如何用它来学习新东西，以及它给他们的生活带来了多大的改变。我收到了世界各地人们的来信。学习如何使用它不需要太多的努力，它可以成为某人任何话题的私人导师。许多程序员在工作流程的不同部分都依赖它。这就是我的世界，所以我们经常听到。最近有一个Twitter帖子，有人说他们救了他们的狗的命，因为他们在GPT-4中输入了血液测试和症状。

BW:我很好奇你看到ChatGPT往哪里走。你用总结长篇大论的邮件或者总结Slack的例子。这些都是琐碎的任务，比如订购食品杂货、发送电子邮件、付款。但是还有不同的任务——对人类来说更基本的任务。比如模仿人类思维的东西。有人最近发布了一集长达一小时的关于乔·罗根的经历，以你为嘉宾。但实际上不是乔·罗根。其实不是你。它完全是使用人工智能语言模型生成的。

那么，AI的目的是做家务和无脑邮件，还是为了创造新的对话、新的艺术、新的信息？因为这些看起来非常不同的目标有着非常不同的人类和道德影响。

SA：我认为这将取决于个人和整个社会，看他们想如何使用这项技术。这项技术显然具备所有这些能力，而且它显然以非常不同的方式为人们提供价值。我们也不完全知道它将如何发展，我们会在哪里遇到障碍，什么事情会比我们想象的容易，什么事情会非常非常困难。

我希望这能成为我们许多不同任务工作流程中不可或缺的一部分。它将帮助我们创造。它将帮助我们做科学。它将帮助我们经营公司。这将帮助我们在学校和以后的生活中学到更多。

我认为如果我们改变人工智能为软件这个词，这是我一直喜欢做的。所以你可以说，“软件会帮助我们更好地创造吗？”或者“软件会帮助我们更好地做琐碎的工作吗，或者它会帮助我们更好地做科学吗？”答案当然是所有这些事情。如果我们将人工智能理解为真正高级的软件，我认为这是正确的做法，那么答案可能就不那么神秘了。

BW:Sam，在最近的一次采访中，当你被问及对人工智能来说最好和最坏的情况时，你是这样说最好的情况的:“我认为最好的情况好得令人难以置信，我很难想象。”我很想让你想象一下，你认为这项技术有潜力做的不可思议的好事是什么？

SA：我的意思是，我们可以用任何我们想要的比喻。如果我们能够治愈所有的疾病呢？这本身就是一个巨大的胜利。如果地球上的每个人都能接受比现在更好的教育会怎么样？那就太好了。

如果一百年后每个人在主观意义上都富裕一百倍，那会怎么样？也许他们比今天的人更幸福、更健康、拥有更多的物质财富、更有能力按照上天赋予他们的方式过上美好的生活。我认为所有这些事情都是现实可行的。

BW:那么，它的另一面是什么？你说最坏的情况是“我们所有人都熄灯”我相信很多人都引用过这句话。你这话是什么意思？

SA：我明白为什么我在这里只谈论伟大的未来，人们会更舒服，我确实认为这就是我们将要得到的。我认为这是可以控制的。我还认为，我们越是谈论潜在的负面影响，我们作为一个社会就越是共同努力，我们就越有可能处于有利的情况。

但是，如果我们假装这里没有非常严重的滥用情况，只是说，“全速前进！都很棒！什么都不用担心！”我只是认为那不是去教堂的正确方法好的结果。

当我们开发核技术时，我们不只是说，“嘿，这太棒了，我们可以为世界提供电力！哦，对了，别担心那个炸弹。这永远不会发生。”相反，世界真的在努力解决这个问题，我认为我们已经到了一个出乎意料的好地方。

BW:有很多人对人工智能世界正在发生的事情敲响了警钟。最近，数千名领先的科技人物和人工智能专家，包括埃隆·马斯克(Elon Musk)，他是OpenAI的联合创始人，但在2018年离开；苹果联合创始人史蒂夫·沃兹尼亚克；

你在上次选举中支持的杨安泽签署了这封公开信，呼吁至少暂停六个月训练比ChatGPT-4更强大的人工智能系统。

他们写道，“当代人工智能系统现在正在成为人类在一般任务方面的竞争对手，我们必须问自己，我们应该让机器用宣传和虚假充斥我们的信息渠道吗？”

SA：我们已经有了Twitter。

BW: [笑]“我们是否应该发展出非人类的思维，最终可能在数量上超过我们，智取我们，淘汰我们，并取代我们？我们应该冒险失去对我们文明的控制吗？这种决定不能委托给未经选举的科技领袖。只有当我们确信强大的人工智能系统的效果将是积极的，其风险将是可控的，才应该开发这些系统。”

他们就是这么写的。我认为这封信有几种解读方式。一个是，这是想加入竞争的人的愤世嫉俗的举动，所以明智的做法是告诉领头的人暂停。另一种愤世嫉俗的解读方式是，通过围绕这项技术制造恐惧，只会让投资进一步涌入市场。

我也看到了一个纯粹的版本，他们真的认为这项技术是危险的，它需要放缓。你是如何理解那封信背后的动机的？愤世嫉俗还是内心纯洁？

SA：你知道，我不在那些人的脑子里，但我总是相信他们。特别是在这种情况下，我认为很容易理解焦虑来自哪里。我不同意这封信的几乎所有机制，包括试图通过公开信进行治理的整个想法，但我同意这封信的精神。

我听到的一些关于新公司试图赶上OpenAI的故事，以及他们关于在安全方面抄近路的讨论，让我感到非常担忧。我认为，我们需要为这些模型制定一套不断发展的安全标准，在公司开始训练之前，在公司发布新模型之前，对我们所关心的安全问题进行评估。应该有一个外部审计过程。

作为一个社会，作为一套确保这项新技术安全发展的规则，无论我们同意什么，让我们把它们落实到位。例如，飞机有一个强大的系统。但重要的是飞机是安全的，而不是波音公司在六个月或六年内不开发他们的下一架飞机。

BW:有些人觉得这封信写得不够深入。该领域的创始人之一埃利泽·尤德考斯基(Eliezer Yudkowsky)拒绝在这封信上签名，因为他说这实际上低估了事实。

下面是安的几句话他写的文章在信中写道:“许多沉浸在这些问题中的研究人员，包括我自己，都预计，在任何与当前情况有一点相似的情况下，构建一个超人类智能人工智能最有可能的结果是，实际上地球上的每个人都会死亡。不是说“也许是某个遥远的机会”，而是说“那是很明显会发生的事情。”….如果有人建造了一个过于强大的人工智能，在目前的条件下，我预计人类物种的每一个成员和地球上的所有生物都会在此后不久死亡。没有提议的计划我们是如何做这些事情并生存下来的。OpenAI公开宣布的意图是让一些未来的AI做我们的AI对齐作业。听到这个这是计划应该足以让任何明智的人恐慌。另一个领先的人工智能实验室DeepMind完全没有计划。”

你怎么理解那封信？为什么科技界一些最聪明的人对这项技术如此夸张？

SA：看，我喜欢埃利泽。我很感激他的存在。他有点像末日预言家。在此之前，纳米机器人将会杀死我们所有人，而阻止它的唯一方法就是发明人工智能。这很好。人们被允许更新他们的想法，我认为这实际上应该得到奖励。

但是，如果你确信世界总是要结束了，而在我看来，你对技术的细节了解不够，我认为很难知道该做什么。所以，我觉得埃利泽超级聪明。但总的来说，人工智能领域是一个充满惊喜的领域。我认为历史上几乎任何重大的科学或技术项目都是如此。

事情并不像理论所暗示的那样简单明了。你必须面对现实，你必须与系统合作，你必须与技术或科学的形态合作，这可能不是你理论上认为的那样。你面对现实，然后想办法解决这个问题。

许多人从未想过我们能够与像GPT 4号这样智能的系统共存，然而我们却在这里。

因此，我认为答案是，我们确实需要非常谨慎地行动，并继续强调如何建立更安全的系统，并随着这些系统变得更加强大，提高安全保障的门槛。但是坐在真空中从理论上讨论这个问题并没有奏效。

BW:你将OpenAI的野心与曼哈顿计划的野心相提并论。我想知道你是如何处理这种道德困境的，就像发明原子弹的人所处理的那样。我想到的一件事是暂停信。

许多人要求你暂停研究。与此同时，已经在使用人工智能监控其公民的中国表示，他们希望在2030年成为人工智能的世界领导者。他们是没有停顿。

所以，让我们讨论一下你和曼哈顿计划的比较。你认为他们所处理的与人工智能的出现相关的道德护栏和困境是什么？

SA：我认为人工智能或AGI的发展应该是一个政府项目，而不是私人公司项目，就像曼哈顿计划一样。我真的相信。但是鉴于我不认为我们的政府会在短期内做好这方面的工作，我们去做比等待中国政府去做要好得多。所以，我想这就是我所指的比较。我也同意你的观点，那就是我们在新科学的发现和地缘政治的交汇处面临着许多非常复杂的问题，或者深刻的社会影响，我想曼哈顿项目的团队也感受到了这一点。有时感觉我们花在争论问题上的时间和实际从事技术工作的时间一样多，这是一件好事。这是一件伟大的事情。我敢打赌，参与曼哈顿项目的人也是如此。

BW:你肯定知道，在过去的几个月里，有很多关于科技偏见的讨论。但有些人会说，Twitter和AI的区别在于，我们至少可以理解Twitter平台上的偏见。但当涉及到像人工智能这样的技术时，其创造者甚至不完全了解它是如何工作的，这种偏见就不那么容易发现了。没那么透明。如果我们甚至不知道如何寻找偏见，我们怎么知道如何找到它们呢？

SA：我之前提到过，GPT的第一个版本让我很尴尬。令我感到尴尬的一件事是，我确实认为第一版没有充分表现地球上的普通人。但是新版本要好得多。事实上，我欣赏的一件事是，大多数对最初版本最大声的批评者已经公开表示，我们OpenAI听取了这些批评，新版本要好得多。

偏见是不可避免的，但我们确实查看了我们的整个培训堆栈，以了解可以发现偏见的不同地方，找出它在哪里，如何测量它，如何为它设计评估，以及我们需要在哪里给人类标签员不同的指示。

我们在这方面取得了很大进展。我认为它已经引起了注意，人们也很欣赏它。也就是说，我真的相信地球上没有两个人会同意一个人工智能系统是完全公正的。

这里的途径是:A对这些系统的行为设定一个非常宽泛的限制，并就一些需要完全避免的事情达成一致，这些事情需要来自社会，最好是全球性的，然后B在这种情况下，给每个单独的用户很大的能力说，“这是我希望这个软件为我工作的方式。以下是我相信的事情。”

BW:当埃隆·马斯克在谚语OpenAI正在训练软件撒谎，这有什么道理吗？

SA：我甚至不知道他这么说是什么意思。你得问他。

BW:我最近读到你没有OpenAI的股份。告诉我你决定不持有一家可能是有史以来最赚钱的公司的任何股份。

SA：我是说，我非常幸运，做得非常好。我有很多钱。这是我能想象到的最令人兴奋的工作。我认为这对这个世界真的很重要，这就是我想如何度过我的时间。我发现我个人喜欢有非常明确的动机和激励。我确实认为，作为一家公司，我们将不得不做出一些非常非传统的决定。

BW:你是超级富豪，所以你可以决定不这么做，但你认为这项技术如此强大——赚这么多钱的可能性如此之大——以至于对任何执掌这些公司的人来说，在财务上保持禁欲是一种道德要求吗？你提到其他公司已经在偷工减料，以便在竞争中“击败你”。如果没有民主选举的人工智能公司负责人，你如何监管这一点？为了防止人们以危险的方式腐败或受到激励，设置了哪些护栏？

SA：事实上，我确实认为民主选举人工智能公司或主要AGI公司的负责人可能是一个好主意。我认为这很合理。

BW:这可能不会发生，因为掌管这个国家的人似乎甚至不知道子栈是什么。那实际上是如何工作的？

SA：不知道。这一切都还是推测。最近我一直在思考这个方向的事情，但是如果OpenAI的所有用户都选举首席执行官会怎么样呢？它并不完美，你知道，因为它会影响不使用它的人。我们可能还是太小，没有代表。我们还是太小了，没有任何有代表性的样本。但这比我能想象的其他事情都要好。

BW:我们来简单谈谈监管。你说过你可以想象一个全球治理结构，有点像银河联邦，负责监督有关人工智能未来的决策。

SA：我更想要的是一个类似于我们讨论过的全球银河。当然类似于国际原子能机构。你知道，这是一个根据条约拥有真正国际权力的机构，它可以检查实验室，制定法规，并确保我们有一个统一的全球战略。那将是一个很好的开始。

BW:美国政府呢？你认为我们的政府现在应该做些什么来规范这项技术？

SA：我今天希望看到的一件事是政府的洞察力，因为我认为不可能搞砸，他们应该去做。我希望看到政府有能力审计，无论如何，训练运行产生的模型超过一定的计算阈值。超过一定的能力水平会更好。如果我们能从那里开始，那么我认为政府会开始更多地了解应该做什么，这将是一个伟大的第一步。

BW:我对此的反驳是:你相信目前在政府中的人会理解这项技术的本质吗，更不用说去监管它了？

SA：我的意思是，我认为你应该更信任政府而不是我。至少你可以淘汰他们。

BW:假设你是OpenAI的负责人，你会做哪些事情来防止权力腐败？

SA：像我个人在公司被权力腐蚀？

BW:是的，我的意思是，听着。。。多年来，你一直是业内非常有影响力的人物。在我看来，在过去六个月左右的时间里，你已经成为可以说是监管一项技术的最有权力的人之一，许多真正聪明的人都警告说，在最好的情况下，这项技术将彻底改变世界，在最坏的情况下，它将完全吞噬这项技术，或者如你所说，“为所有人熄灯。”我想我是在问一个精神上或者心理上的问题。你是如何处理这些负担的？你如何知道自己做出了正确的选择和决定？

SA：我根本没有股份。我乐意为董事会服务。我用的是传统的方式，董事会可以随时决定更换首席执行官。我确实认为，无论谁负责领导这项工作，都应该通过民主选举产生。不知何故，对我来说，这似乎超级合理，很难反驳，但这并不意味着我对OpenAI有独裁权力，我也不想要它。我认为这真的很重要。

BW:我不是这个意思。我的意思是未来的力量是从这群特殊的人身上散发出来的。而你是那群人中的明星之一。你变成了一颗越来越亮的星星。这给你带来了怎样的改变，你如何看待它？

SA：绝对感觉超现实。我听过一个故事，这个故事一直萦绕在我的脑海中，讲述了这位前宇航员在登上月球几十年后，如何站在他的后院，仰望月亮，觉得它太美了。然后他会随机记起，“哦，他妈的，几十年前我去那里，在那上面走来走去。这太疯狂了。”我有点希望这就是我对OpenAI的感觉。几十年后，当它迎来第十四任民选总统或其他什么的时候，我在这个美好的未来过着美好的生活，惊叹它有多么伟大，我想记住我曾经经营过它。但除此之外，我认为你可能夸大了我作为个人在这个世界上拥有的权力，而我自己可能也低估了这一点。我仍然过着正常的生活，有着正常的人生戏剧和美妙的经历。我也意识到了其中的风险。我对此非常认真。这有点奇怪，但主观上没什么不同。但我感觉到了它的重量。

写在最后

就人工智能革命的风险和责任，媒体与ChatGPT联合创始人兼首席执行官人Sam Altman的对话中，你的思考是什么？

“人工智能AI是世界末日吗？还是一个新时代的开始？”

欢迎留言讨论，或点个赞关注一下我吧！

内容原创来源公众：【幻影视界】