Learn Anything. From Anyone. AI talk with Mckay Wrigley

[音乐] 欢迎来到 FYI，四载创新播客。本节目提供关于技术驱动颠覆的深度探讨，因为投资创新始于理解它。欲了解更多信息，请访问 arc dash invest dot com。

[音乐] Arc Invest 是一家注册投资顾问公司，专注于投资颠覆性创新。本播客仅供参考，不应作为投资决策的依据。它不构成 Arc 提供的任何服务或产品的明确或隐含的承诺。所有关于公司或证券的陈述均严格代表 Arc 或播客嘉宾的信念和观点，并非 Arc 购买、出售或持有任何证券的认可或推荐。Arc Investment Management 的客户可能持有本播客讨论的证券头寸。

大家好，欢迎收听 FYI，Arc 的每周播客，聚焦技术创新与投资的交汇点。在本播客中，我们经常与财富 500 强公司的首席执行官进行对话，我们非常喜欢。有时我们也与刚毕业一两年的人交流。今天的播客就是与这样一位嘉宾。今天我正在与 McKay Wrigley 交谈，他是 Learn From Anyone 的创始人兼首席执行官。Learn From Anyone 是一个正在孵化的服务，可能随时上线。我在 Twitter 上遇到了 McKay，我们互相关注。当 OpenAI 发布其 GPT-3 API 时，它基本上允许计算机以任何人的声音、任何风格写出任何类型的语言。很多人开始利用这个单一 API 构建最小可行产品。McKay 就是其中之一。他构建了一个聊天机器人，能够以历史上著名人物的声音说话，从亚里士多德到柏拉图，再到爱迪生，以及可能还健在的埃隆等当代人物。通过利用 GPT-3 网络，该网络基本上基于互联网上的所有信息进行训练，它知道去年 10 月之前世界上发生的一切，并能以任何人的声音自信而真实地说话。我认为这是一个绝佳的故事，因为 McKay 刚刚完成编码学校，他在一家初创公司工作了一年，现在他正在创办一家公司。我喜欢这个故事，因为它是一个关于乐观和当今世界可能性的故事。我认为在当今世界，很容易被负面新闻淹没，有很多糟糕的事情发生，以至于我们忘记了什么是有可能的，以及在这个时代，一个人可以利用一家公司构建的单一 API 来构建一家公司、建立自己的个人品牌，这家公司本身也是一家初创公司。我认为这是一个非常非常棒的故事。我们讨论了很多话题，包括你如何从完全不会编程到在 18 个月内成为一名熟练的全栈开发人员，这正是 McKay 的经历。我真的很想和他谈谈在 2020 年创业是什么样的。你知道，硅谷和美国一直都在创业，但如今创业的难度或说容易程度比十年前甚至几年前要小得多。当然，我们也谈到了 OpenAI 的 GPT-3 这个令人惊叹的产品，它仍然处于封闭的测试阶段，几乎是一个全能的语言系统。它能做什么，不能做什么？它让我们离通用人工智能更近了吗？这是一期很棒的节目，我最喜欢的之一。希望你喜欢。

所以我们在 Twitter 上偶然相遇。你还记得我们是怎么认识的吗？我会在之后告诉你我的版本。当时情况很混乱，我收到了很多关于 Learn From Anyone 的私信，很多人都在问问题，想了解我正在做什么。我想说你介绍了你自己，并提出了来播客的建议，这很棒，因为我之前听过几期节目。所以听到这个我感觉很开心，我记得就是这样。你对这个想法很感兴趣，并认为这可能是一个有趣的话题。我记得 OpenAI 首先发布了 GPT-3，有一个公告，你知道，天哪，我们有了超级模型，比上一个大了十倍，现在我们有了开放的 API，所以有限数量的人可以尝试一下。然后我不知道，一周之内，你就推出了那个疯狂的 Learn From Anyone 原型，我记得我当时好像是在和柏拉图还是亚里士多德说话。第一个其实是代码生成器，你通过展示就生成了 React 代码。实际上我不是第一个做这个的，有几个人是这样。我转发了几次。做这个的人叫 Shri Shamim，他在一家公司工作，我完全想不起来公司名字了，但他正在做自然语言到代码的工作，这显然是一个非常有趣的应用场景。但你正在使用它，对吧？它还没有公开使用。但我可以说我非常积极地支持它。所以它可能出现在我的时间线上，看起来好像是我在做这件事。但你确实在展示它的能力。是的，我对它的很多能力都非常感兴趣。所以当时我正在浏览很多有趣的项目，因为访问权限有限，所以项目不多。但那绝对是第一个让我大开眼界的项目。

好的，让我稍微回顾一下，以便帮助刚开始收听的听众了解情况。基本上，OpenAI，我可以说它是美国首屈一指的 AI 研究组织，以前是非营利组织。多年来，他们开发了各种非常有趣的算法，例如 Dota 和机器人算法。他们发布了 GPT-3，这基本上是一个语言生成器，在学习了互联网上的所有信息后，它可以模仿你喜欢的任何写作风格。起初，它写了一些关于在安第斯山脉发现的独角兽的奇幻小故事。最新版本 GPT-3 版本 3 是他们的第一个商业产品，他们实际上允许人们使用。一旦他们打开闸门，让一些人进入，人们就疯狂地发挥创意，想出如何使用它。其中一种实现方式是，一个人用英语输入他们想要的网站是什么样的：我想要一个红色的按钮，我想要一个下拉菜单，让这个变得非常大，设计一个看起来像西瓜的按钮。GPT-3 能够将这种非常松散的、几乎像口语的文本转换成准确的 JSX，是的，JSX，基本上是现代 Web 框架使用的代码，并渲染出一个完全有效的语法，没有编译错误，一个网页。以前从未有过这样的事情。更疯狂的是，我想说几天后，它不仅能够可视化地显示登陆页面，而且他们开始构建功能。他们构建了一个小的计数器，我记得它只是一个简单的数字计数器，但它生成了实际起作用的 JSX，而不仅仅是一个可视化的网页。这真是太不可思议了。

哦，我明白了。所以不仅仅是标记，还有功能。是的。我记得后来的版本，你甚至可以通过用英语告诉它来调试代码。是的，这真是太疯狂了。

我们邀请 McKay 来参加播客，因为他是最早获得这个 API 访问权限的几批人之一。我想知道获得访问权限需要什么，因为我无法确定，似乎从财富 500 强公司到刚毕业的学生都有。我们会深入探讨这一点。我想说，McKay 是我在 Twitter 上遇到过的少数几个人之一，而且似乎有一股浪潮，不是浪潮，因为听起来很多，而是一股持续的潮流，人们在毕业后两三年内从零开始建立个人品牌，并以一种我认为世界以前根本不支持的方式达到逃逸速度。所以，我既对这个社会现象感兴趣，也对 OpenAI 构建的技术感兴趣，它能做什么，从我自私的 AI 研究角度来看，以及在当今世界做一个单人公司是什么样的。

是的，你提到了两个有趣的观点。所以也许只是简单地介绍一下我自己。我去年年初才进入科技和创业这个有趣的世界。我还在上大学，我学的是经济学，而且我原本是要去法学院的。我就是在那个轨道上。是的，所以你知道是什么感觉。是的，基本上，很多我不知道该怎么称呼的，也许是“学术派”的孩子们，当他们不太确定时，都会倾向于此。要么是进入劳动力市场，要么是读研究生。出于某种原因，很多人都选择了法学院。我就是走在这条默认的道路上。大二之后，我很快就意识到我不想长期做这件事。它一点兴趣都没有。工作感觉会是一种负担，我不会对我要做的事情感到兴奋。这感觉就像我因为不知道还能做什么而去做。所以结果是，我还在学校待了一段时间。大三之后，我决定我不能这样下去，我需要找到另一个计划。我一直想做的一件事就是学习编程。这从高中中期就开始了。我一直觉得这是一件很酷的事情。显然，一旦学会了编程，你可以做很多事情。但出于某种原因，我一直推迟。所以每年我都会说：“好了，今年就是了。”就像学年开始时，我会说：“好了，我要做了。我每天会花两个小时，长期来看会累积起来，我会做到的。”结果从未实现。

你有没有任何迹象表明你会擅长或者能够擅长这个？我一直对科技很感兴趣。我记得我 11 岁时，我装病以便观看苹果的发布会，重大发布会。这大概能让你了解我的想法。我记得，天哪，当 iPad 发布时，我那天完全装病了，这样我就可以看了。再加上我从小就喜欢玩乐高积木，我一直喜欢摆弄东西，建造东西。这就是我的核心。我就是喜欢制作东西并与人分享。出于某种原因，你知道，你长大了，我却远离了它，我发现自己想回到它。编程之所以如此吸引我，是因为软件就像一个构建块，你可以通过编写代码来构建应用程序。这感觉就像一种非常富有创造力的摆弄，而且它显然也有实际应用，有很多工作机会。所以一切都说得通了。所以结果是，我决定我要休一个很晚的间隔年。我决定休那一年来学习编程。在考虑如何做这件事时，有几个选择。一个是转为计算机科学专业，这又需要三年半的学习时间，那时我做不到。然后是自学，这如今是一条非常可行的道路。你知道，很多人通过这种方式取得了成功，而且现在网上有大量的材料和很棒的教程。这是一个选择。然后是训练营的选择，我真的很想选择这个，因为我认为有一些结构会很好，并且可以将训练营与我自己的自学结合起来，将我推向我真正想去的方向，也就是我在科技领域内的特定领域。当时的一个大问题是，很多训练营收取数千美元的预付款，而我作为一个大学生，根本负担不起。我的预算里没有。结果是，我看到了一个定向广告，竟然是关于 Lambda School 的。对于不了解的听众来说，Lambda School 基本上是一所技术编码学校，完全远程，教你如何编程并帮助你找到一份开发人员的工作，而且在你找到一份年薪至少 5 万美元的工作之前，你不需要支付任何费用。这是一种非常新的方法，可以使技术教育变得易于获得，而且他们的激励机制非常适合学生。所以，我一开始以为这是个骗局。哦，你没听说过他们吗？是的，是的，没有人，这比现在火爆得多。我想，不可能，我直到找到工作之前都不会付钱给他们。我确定他们会让我签一份奇怪的法律协议，会完全把我搞砸。但是，这很有趣。所以我跟一些学生谈了谈，联系了一些工作人员，果然，这非常合法。他们非常友好，非常专业，非常乐于提供信息。所以最后我去了，我从去年 2 月开始，也就是 2019 年，学了大约五六个月，直到我在这里找到了一份软件工程师的工作。我住在犹他州盐湖城地区。

Lambda School 的课程有多长？当时我上的时候，大约是九个月，不，是七个半月，然后他们把它延长到九个月。他们将一些求职内容纳入了课程本身，这有点是可选的，然后他们将它们结合起来。但我的看法是，毕业就是你找到一份让你满意的工作。所以理论上你随时可以退出。我提前了大约八周。我想我得到了工作机会，我参加了几次面试，得到了几个工作机会，这很棒。他们帮了我很多忙，我也利用了 Twitter，我们稍后可以谈谈这个，来帮助我。

你认为你独自学习这么多需要多长时间？我认为至少需要两倍的时间。我非常相信自学，我喜欢自学。但当你在学习技术性东西时，你不想迷失方向。因为突然之间，你可能会学到错误的东西，你可能会学到真正的公司不使用的东西，你可能会走上各种弯路，迷失方向。我想要一个结构化课程的主要原因是我知道，如果有人告诉我，给我一个方向，再加上我的自学能力，我就会更快地达到我想要的地方，至少快两到三倍。我愿意为此支付标价，以换取这种便利。

好的，所以你完成了，找到了这份工作。是的。我在这里犹他州的一家初创公司找到了工作。这是一家种子轮初创公司。实际上，除了三位联合创始人之外，我是第一位员工。我觉得我简直是中了彩票。我知道我想在一家初创公司工作，这是我唯一的选择。这正是我感兴趣的环境。我喜欢高增长，我喜欢承担我无法承受的事情，然后弄清楚一切，等等。所以我加入了一家名为 HiveWire 的公司，他们为非技术人员提供流程和工作流自动化软件。这真是太棒了。我得到了关于初创公司的一年速成课程。我看到了公司如何成长，如何与客户交谈，我做了全栈，他们做前端和后端。对我来说最棒的事情是，我身处一群比我技术更强的人之中，一群非常有才华的高级工程师，他们不仅是才华横溢的工程师，而且是出色的老师。所以我通过拥有非常有才华、非常乐于助人、友好的人，他们愿意稍微照顾我一下，并帮助我加速我的成长，从而大大加快了我的学习速度，这太棒了。也许可以谈谈 Twitter 的事情，我不知道你想不想谈谈。我们继续你的故事吧，你正说得起劲呢。

嗯，我想知道，他们正在创业，他们带来了第一位开发者，而你刚从编码学校毕业，他们怎么会有信心认为这会奏效呢？

是的，这就是 Twitter 的作用。正如我确信你们很多人都知道，科技界的人都在 Twitter 上，科技 Twitter 是一个很大的事情。我开始上 Lambda School 时就意识到了这一点。我看到有些人能够利用它，利用增长，以及在公开场合学习和在公开场合构建的整个想法来帮助他们找到工作。我决定这似乎是一个不错的策略。我最初的意图是我想做公开学习，记录我的成长。我知道，如果我能展示快速的成长，这对雇主来说是一个好迹象，对于一个没有经验的人来说，问题在于你能学多快，你能构建什么。所以结果是，我只有大约 200 个粉丝，其中大部分都是我高中时的朋友。我只是开始发布东西。我开始发推文，我开始参与不同的对话。我开始分享我正在构建的一些东西的视频、图片和进度更新。我把它们也放进了我的作品集里。所以人们可以去 GitHub 看到我写的代码，看到我的进步。就这样持续了一年，我从大约 200 个粉丝增长到大约 4000 个粉丝。最终，Twitter 成为了我巨大的社交机会，我收到了很多主动联系，这些人关注了我的一些动态。你知道，人们会说：“嘿，我们正在寻找一名开发者，我们注意到你做了一些事情，我们喜欢你展示的增长速度，我们很想和你谈谈。”所以，这会变成一次谈话，然后会变成正式的面试过程，其中很多实际上变成了工作机会。所以，果然，我执行了这个计划：我将尝试利用这种曝光来让我在未来更容易找到工作。最终，HiveWire 的人实际上是联系我的 Twitter 用户之一。事情是这样的，你知道，他们看到了一些我做的事情，我安排了几次犹他州的面试。如今这里有一个相当不错的科技行业。我在两三天内完成了所有面试。这个团队给我留下了深刻的印象，我能够向他们推销我的增长速度，而不是“y 截距”之类的东西。你知道，这最终对我们双方来说都是一个很好的契合。所以这很有趣。

太棒了。你在 HiveWire 工作了大约一年，你有了想法，然后 GPT-3 就像凭空出现一样。

所以发生的情况是，我正好休假一周，在那周的星期五，我收到了我的 API 密钥。我知道你提到过你对人们如何获得访问权限很感兴趣。我们申请了 API 密钥，但什么都没有。是的，我申请了等待名单，就在公告发布后的第一个小时内，但什么都没有。你期望什么？我没有什么能让你觉得“我们必须让这个人获得访问权限，因为他有一个想法或一个团队或别的什么。”我只是一个普通的开发者，就像许多 GPT-3 一样，看起来非常有趣。你知道，开发者们想玩有趣的玩具。我一直在等待，一直在希望。你开始看到人们突然开始获得访问权限，我记得看到所有这些很酷的项目，其中很多都很小。我想，如果我能拿到一个密钥，那该多有趣啊。所以，果然，我亲爱的 Twitter，我发推文提到了几个人在构建项目，我发了几次推文，我渴望地看着 GPT-3，想要一个密钥。有一天，他们团队的一位高级成员联系了我，给我发了私信，他们说：“嘿，如果你有兴趣，我们很乐意让你获得访问权限。”我回答：“是的，哦，我当然要访问权限。”所以，说实话，这只是一个非常幸运、幸运的事情，就像很多事情一样，恰好在互联网上。我那天拿到了我的 API 密钥，我玩了一下。为了让不熟悉的人有个概念，OpenAI AI 在他们的网站上有一个 API 游乐场。一旦你获得访问权限，你看到的很多早期教程和东西，很多都在那个游乐场里。所以我只是在那里随便玩玩，玩得很开心。你知道，你可以快速启动一个聊天机器人，你可以进行对话，这真的让你有点震惊，因为文本确实与自然人类语言完全无法区分。考虑到我等了很久，我想到了一些我想在获得访问权限后尝试和构建的想法。所以结果是，我决定有一个非常有趣的机会，你可以放入现实世界中的人物等等，并从中学习。我跟一些有类似想法的人谈过，我们都认为这是一个非常有趣的机会。所以那天晚上，我用那个概念构建了一个非常基本的 MVP。所以基本上，这个想法就是“向任何人学习”，你可以真正地向任何人学习，无论是真人还是你想扮演的美国队长。你把老师的名字输入应用程序，然后输入你想从他们那里学到的东西或你想问他们的问题，它就会吐出一个聊天机器人，给出模仿那个人的声音和风格的回复。感觉就像你在给他们发短信或与他们进行文本对话。我花了几个小时构建了它，非常基础，没什么特别的。我把它发布给人们使用，它就自己火起来了。人们玩得很开心，以各种我没想到的方式使用它。这真是太棒了。它就这么病毒式传播开来，人们都在使用它。它是少数几个公开演示之一。我们稍后可以谈谈之后发生的事情。但这就是它的由来。

太棒了。在“向任何人学习”中，我们看到了一些最喜欢的老师或大人物？

我们看到了很多埃隆。我们看到了很多埃隆。他还在世，所以我觉得没那么有趣。我们看到了很多历史人物。我们看到了很多哲学，因为这是早期做得好的事情之一。考虑到它还很早，它能教你多少东西显然是有限的。它无法很好地教你数学之类的事情。我们希望未来能继续改进。但现在，它主要是这些软对话。所以哲学是一个很好的用例。正如你提到的，我们看到了亚里士多德和柏拉图这样的人物。

你不需要向系统提供任何数据，对吧？

不，不。最初，你与 API 的交互方式是，你基本上给它一个提示，这是一个你想让它遵循的文本块。我不知道，它遵循你如何构建提示。早期，这是一个非常基本的事情，任何人都可以做到，就是“嘿，你正在和 X 人交谈，这是他的一些性格特征”，它就会吐出一些东西。现在我们已经进一步打磨了它，这就像我们的“秘密酱料”，可以提高一致性和准确性，并更好地确保它反映了那个人的声音和风格。但是，不，你不需要提供任何数据，仍然可以得到这些令人难以置信的回应。

是的，只是为了给不熟悉 AI 的人一些背景。过去这些事情是可能的。聊天机器人已经存在了几十年了。它们在过去几年里变得很流行。通常，如果你想创建一个像柏拉图或洛克菲勒那样说话的聊天机器人，你必须找到大量的他们说话的数据。你必须找出柏拉图的所有著作或洛克菲勒的所有著作，然后将它们输入系统。系统可能已经预先训练了很多东西，所以它大致知道如何说英语。但如果你想做任何具体的事情，其余的客户就得自己完成。OpenAI 基本上吸纳了互联网上几乎所有可用的数据。它包含了柏拉图的《会饮篇》，也包含了几乎任何人的著名历史著作。所以它基本上可以找到相关的部分，然后用它来合成新内容。正确。

所以，这正是像我这样的人感到兴奋的原因之一。我没有任何 AI/ML 背景。我只是一个全栈 Web 开发人员。令人兴奋的是，突然之间，像我这样在这一领域没有经验的人，可以构建这些令人难以置信的 AI 自然语言程序，而无需任何背景知识。这非常令人兴奋，因为一旦你能够更好地将这项技术民主化给更广泛的开发社区，那就是你看到增长和创造力的巨大爆发。突然之间，你开始看到这样的想法成形，这真的很令人兴奋。

你知道，当 GPT-3 发布时，很多人都集体恐慌。我们有各种各样的观点，从悲观的观点认为这只是一个更大的 GPT-2，AI 完全不知道自己在说什么，开头说独角兽有一只角，结尾却说它是两只角。到其他观点认为这是通用人工智能的开始。根据你的经验，它不知道做什么？

我认为，首先，我们必须提醒人们，这只是一个非常非常先进的自然语言系统，它不是 AGI。所以，我认为非常令人兴奋的一点是，你看到了从 GPT-2 到 GPT-3 的增长。快速回顾一下，GPT-2 大约在 2018 年发布，比 GPT-3 早两年左右。当你预测从 2 到 3 的进展时，你突然会想，GPT-3、4 和 5 会是什么样子？你知道，我们会看到什么样的增长和进步？现在我们似乎正处于指数曲线的非常明显的部分，感觉这个十年我们会看到很多进展。我当然不想做出任何预言性的声明，比如我们将在 2030 年看到 AGI 之类的。但我认为你可以预期这些模型会得到相当大的改进。正如我提到的，目前的一些限制是更技术性的、更难的技能。在我们的用例中，长远来看，我们的目标是基本上将每个学科的专家放在每个人的口袋里，每个家庭，每个学校，每个设备。我们希望你能够输入你想学的东西，然后有一个 AI 老师来教你。这就是我们长期的目标。所以从教学的角度来看，正如我提到的，哲学效果很好，对吧？因为正如你所说，所有主要的哲学著作都已包含在模型中。你输入人物，它就能很好地让你与亚里士多德对话，感觉就像你在学习哲学。但是，如果我们输入阿尔伯特·爱因斯坦，想让你学习物理学，它就会很快崩溃。这是我个人希望在 4、5、6 等模型中得到很大改进的一点。展望未来，我们希望看到更难的技术科目变得更准确。几天前，我在 Twitter 上看到有人做了大约两三十个科目的测试，他们基本上说 GPT-3 对这些科目的准确回答比随机的自然语言模型好多少。果然，你看到了，它在 80% 左右，我不确定尺度是什么，但它在心理学、地理学或历史等科目上比微积分好两到三倍。我认为这就是目前的局限性之一。归根结底，目前有 2000 个 token 的提示限制。一个 token 大约是四个字符，相当于大约 1500 个词。所以，除了 GPT-3 的整个训练数据之外，你可以给它一个最多 1500 个词的提示，以帮助它做你想做的事情。以 JSX 示例为例，你可以给它几个例子，比如“构建一个红色的登陆页面”，然后你可以给它一些示例 JSX。你这样做几次，填满提示，这就是你看到一些开发者正在做的事情。他们基本上是在训练提示。所以目前的一些限制基本上是提示大小。正如我们继续看到的，1750 亿个参数是 GPT-3 的训练量，这很多。但问题是，这还可以进一步改进。你开始看到，大约一周后，他们将进行一次引擎升级，将时事更新到八月，这令人兴奋，因为这将使开发社区认为他们将继续支持额外的参数和额外的训练，这很棒。

这是一个很好的观点，这是一个很好的观点，因为这个东西不像人类那样具有“持续学习”的功能，对吧？是的。无论我说什么，你都会记住，并可以立即用它来反驳我。如果今天下雨，你的大脑就会知道，它会加上去，你可以动态地使用它。但是这些开放的神经网络，这个 GPT-3，只是基于互联网的快照进行训练，然后被使用，它对之后发生的事情一无所知。你知道，可能会发生战争，它会一无所知。

是的，我们有一些用户试图询问有关 COVID-19 的问题，但我们什么也得不到。基本上原因是数据截止到十月，这显然是在所有 COVID 之前。所以当你想到一些局限性时，它现在可能无法完美地做到所有事情，但随着它能够添加数据，随着它继续训练，随着我们继续改进模型，调整你可以作为开发人员控制的参数，它如何响应你，因为不仅有提示，还有几个不同的参数。其中一个是创造力，你希望它有多有创造力。还有其他东西。我认为你会开始看到它在某些它不擅长的任务上有所改进。所以现在很多事情，比如内容生成，我看到的一些有趣的事情是 JSX，自然语言到正则表达式，这非常有趣。我一直在尝试一些利用 Twitter 高级搜索功能的东西，你可以基本上用自然语言编写，它会用 Twitter 的查询语言来查询它。所以你可以在一个网站上输入，比如“我想看到 2018 年所有来自这个账号的、至少有 500 次转发的推文”。现在，在 Twitter 上，你必须进入高级搜索并输入参数，或者你必须自己知道如何查询。你开始看到人们现在正在做很多这样的事情，这些事情是基本重复性的结构化任务，他们只是试图使用自然语言将其转换为指令来执行。这就是我目前看到的一些有趣的事情。

也许我们可以稍后谈谈 OpenAI 目前允许和不允许人们做的事情，鉴于它处于测试阶段，而且他们确实采取了更保守、谨慎的安全方法，我认为这是一件好事。显然，对于 AI，你想谨慎行事。但这就是我们目前看到的一些事情。

你谈到了也许这是一个指数曲线，模型的大小越来越大，能力越来越强。我认为，神经网络方法的批评者总是说，是的，你可以投入更多的数据，投入更多的计算，但你只是在增加数量和准确性，而不是在普遍提高智能。你知道，推理以及所有这些稍微超出互联网能力的东西。我是说，鉴于他们已经收集了几乎最大的文本数据集，我相信他们可以做得更好。但他们到底能走多远？他们能构建一个大 10 倍的数据集吗？他们能把 10 倍的计算投入到当前的数据集中并产生结果吗？如果只是从分析的角度来看，这条路是否还有持续的增长空间？

当然。所以，我不想说得太多，因为正如我所说，我没有任何 AI 或机器学习背景，所以我不想让那些真正了解细节的人来找我麻烦。但我认为你提出了一个很好的观点，归根结底，我们可以训练的数据是有限的。所以一旦你达到那个极限，改进从哪里来？所以，我认为从开发者的角度来看，现在非常像是“狂野西部”。有人会遇到问题，他们会问社区，好吧，请记住，社区现在还不大。他们会问人们，他们会说：“嘿，我遇到了这个问题，有没有人成功尝试过某些提示配置，不同的参数等等？”现在这方面的数据还不多。如果你想构建 X，你该如何解决这个问题，这方面的资源不多。所以，让我兴奋的一件事是，未来随着更多人获得访问权限，这意味着更多人解决更多问题，解决不同类型的问题，更好的文档记录。你知道，你希望他们继续扩展提示限制之类的东西，我认为这将对你可以做的事情产生深远的影响，因为提示对你从 API 获得的实际响应有很大的影响。而且不仅提示有限制，响应也有。所以我认为，当你看到这两者增加时，你允许从这些中获得的字符限制的长度，我认为你会看到很多快速的改进和扩展。就像我说的，关于开发社区的事情是，你希望最终有一个类似于 Stack Overflow 的 OpenAI API 提示网站，这样你就可以输入你想要的东西，然后你可以从社区那里获得很多资源，比如“嘿，我们看到这些东西有效，去试试吧。”我认为，如果你将扩展提示、扩展响应长度与更好的开发资源结合起来，我认为这就是你可以看到很多改进的方法，而无需真正触及扩展参数和训练数据，这也是一件非常令人兴奋的事情。

我明白了。与 OpenAI 作为开发者合作是什么样的？你对这家公司有什么印象？它似乎相当神秘。它从一个非营利组织转型为一个有限责任公司。你对这家公司有什么感觉？

我的第一个印象是，首先，我对他们的团队只有非常好的评价。所以，一个有趣的故事是，当我部署 Learn From Anyone 的初始 MVP 时，我没有意识到你需要进行生产审查。结果是，我不得不把它下线，然后重新启动。这是一个封闭的测试版。我非常害怕，因为我想，“哦，不，他们会拿走我的 API 密钥。”但他们非常友好，他们承担了很多责任，基本上说：“嘿，这实际上是我们的失误，我们应该更好地理解人们的入职流程，我们为让你陷入困境而道歉。”所以他们是一个非常乐于助人、非常友好的团队，显然。所以有一段时间，他们认为什么好就好。现在，截至 9 月 2 日，他们发布了官方指南。基本上，这是一个很大的表格，想收集所有数据：你如何使用它？用户是谁？你想让多少人使用？用例是什么？等等。

所以他们不做代码审查之类的吗？

不，他们不做代码审查。这是一个非常开放的、不断发展的过程。我认为人们应该意识到，API 仍然处于测试阶段，这不仅仅是“有限发布”的意思，它非常像测试版，他们正在根据开发者的反馈进行迭代，他们正在逐步解决问题。我给他们的一大主要印象是，他们非常注重安全，并且希望用户体验良好。所以，不幸的是，在我们最初发布时发生的一件事是，鉴于 GPT-3 直接来自整个互联网，互联网上的所有内容并不总是那么好。你可以得到一些不好的内容。所以这非常罕见，但数万用户中有两三个用户得到了非常恶劣的、有毒的回应。你不想让用户得到这些。我们后来实施了他们的过滤引擎，这有助于避免一些此类问题。它现在工作得很好，甚至有点太好了。这非常能反映他们处理安全的方式：他们宁愿过度，也不愿不足。

所以，他们想回答的一些问题是：人们如何使用它？你是否看到人们能够利用它来逃避限制？他们不希望发生的一件事是，对我们来说，它基本上是一个开放式的聊天机器人。他们不希望突然之间你可以覆盖它，进入提示，然后突然你在编写生成有害代码之类的文本。他们会考虑所有这些事情。他们在我与他们的谈话中提到的一件事是，他们不希望人们生成政治误导性的东西，比如事实不准确的东西，然后将其发布到世界上，突然影响竞选活动和选举。这听起来很傻，但这是一个非常合理的问题。但他们不希望人们生成有害的虚假内容来做这些事情。我们与他们讨论的另一件事是，我们长期以来一直将自己视为一个教育平台。你可以看到，我曾与一个人合作，一位用户经营一家睡眠公司，他们试图看看是否可以做一个 AI 睡眠教练。这不是一个特定的人物，但你可以输入“高中代数老师”或“睡眠教练”，仍然可以得到有效的回复。睡眠教练做的一件事是，它会生成虚假的研究来证明它说的一些观点。即使其中一些观点是真的，它也会制造看起来完全合法的研究。所以，你必须避免的一件事是，你不想让人们能够生成证明完全不真实的东西的虚假研究。

以及诸如此类的事物，所以它们是某种程度上的测试版的一部分，然后对谁能获得访问权限非常保守，并控制人们可以部署到生产环境的内容，这在很大程度上是这个过程的一部分，即弄清楚到底存在哪些安全问题以及如何解决这些问题，这很有趣。是的，它们最初是一家研究机构，并且非常侧重于政策和安全，对吧？你知道杰克·克拉克等人，他们带着这样的观点而来，这可能是我们发明过的最强大的武器，我们希望领先于安全，而不是最终陷入类似 Facebook 的情况，你假设人类非常棒，你赋能他们，然后哦，糟糕，我们的平台上有一堆问题。是的，这有点像一把双刃剑，因为作为一名开发者，你显然对此感到非常兴奋，并且你想发布所有这些东西，当我们不得不进行一个非常封闭的测试版并逐步增加用户时，这有点令人沮丧。但另一方面，你非常感激，因为世界上领先的人工智能公司和研究机构，以及所有这些才华横溢的人们都在致力于解决这些问题，他们实际上是非常注重安全的人。我认为当你展望人工智能的未来时，你希望拥有这种心态的人来控制事物，而不是相反。所以我对他们如何解决这些问题，同时又对开发者保持高度透明感到非常钦佩，因为归根结底，我们确实希望在我们可以期待的未来以及诸如此类的事情上获得一定程度的信息，而且我认为他们在这方面做得很好，保持了这种平衡。你辞掉了一份非常好的工作，创办了自己的公司，向任何人学习，你真的在构建你的整个公司，基于 OpenAI 的 API，你正在将你的初创公司押注在另一家初创公司的 API 上。这不像外面有五个 OpenAI，如果一个不起作用，你就可以切换到微软的解决方案，或者你知道的 DeepMind 的解决方案，或者其他什么。这就是全部了，你甚至不知道我猜他们还没有公布定价或类似的东西，是什么让你有信心，你可以把你的全部身家押注在这个来自一家初创公司的测试版 API 上？是的，这些都是非常有趣的问题。最终发生的是，我被 GPT-3 如此吸引，以至于它是我听人们谈论互联网开始时他们的感受之一，而我对 GPT-3 的感受就是这样，我觉得这件事太大了，不去做不行。所以，你知道，我最终全力投入了，从商业角度来看，这是一个非常有趣的位置。这是我一直在思考的一件大事，因为你不想依赖另一家公司的技术，尤其是考虑到 GPT-3 早期的情况，而且你预测了我们未来想做的一些事情，不能保证这是否一定可能，对吧？这在很大程度上是我们认为技术将走向何方以及我们与人们的对话中他们认为它将走向何方的教育性猜测，以及诸如此类的事情。所以从商业角度来看，我最近一直在思考的一个问题是，我们如何构建一个可以利用这项技术的产品，同时又拥有我们自己的基本体验和产品，而不依赖它？对我来说，从商业角度来看，这可能是我现在最关心的问题。所以，这并不是一个完美的类比，但你可以把它想象成特斯拉从 Roadster 到 Model 3 的转变。你知道，你听埃隆谈论他早期对特斯拉的愿景，他非常明确地表示，你知道，我们希望加速电动汽车的出现，我们认为这对世界有好处，我们认为特斯拉可以在其中发挥重要作用，最终，对吧？他们希望将令人印象深刻的经济实惠的电动汽车带给大众，对吧？但他们必须这样做的方式是，他们必须从 Roadster 开始，那是一款非常高端的车型，没有多少人能买到，这是一个非常独家的产品，最终你看到了他们从 Roadster 到 Model 3 的转变，并开始在那里看到进展。再次强调，这不是一个完美的类比，但这就是我的想法：看，我们想达到这个目标，建立一个教育平台，人们可以在任何学科中拥有人工智能老师、导师和教练，你可以向他们学习，你可以预测一些其他技术的发展，比如 AR 和 VR，并利用它们来使体验更加互动和特别。正如你所说，这并不是一个完美的类比。我认为关键在于你的供应链没有冗余，可以说，只有这家公司，这个 API。那么你对这个问题有什么看法？所以，我们现在正在玩弄的一个想法是，有一个人类的元素，因为从商业角度来看，我不想发生的是，在我们甚至开始做我们最终真正想做的事情之前我们就死掉了。所以这是一个关于如何长期的问题，就像我们如何从 A 到 Z？现在，你知道，我们如何从 A 到 B 再到 C，甚至在我们开始思考这个问题之前。所以我认为，你知道，当你想到向任何人学习的想法时，这也是一件非常人类的事情，而不仅仅是，你知道，我们想启动一个人工智能化学老师，这样你就可以向他们学习，而是我们想赋能人们能够向真人学习课程和课程等等。所以，我们现在正在玩弄的一个想法是围绕这个概念的一个概念验证，这正在进行中，因为再次强调，长期的愿景确实是做这个人工智能老师的事情，并赋能人们去做这件事，但在此之前还需要很多年。而且仅仅从商业角度来看，你不想在到达那里之前就死掉，而且你必须明智地为你的现有客户提供他们想要的东西的价值，而这方面有巨大的需求，这是其中之一，你知道，这有点令人恼火，尽管你知道我们支持测试版，我们想让我们的电子邮件列表上的每个人都能访问，以及诸如此类的事情，但我们还不能。所以，我们正在做一些我们认为人们会喜欢的事情，这些事情会很有帮助，会很有用，他们会每天每周都想使用，而且目前不一定依赖 GPT-3。所以，这目前正在进行中，我们显然才几周大，但这就是，你知道，这就是我如何思考这个问题，完全依赖 GPT-3 和 API，以及正如你所知，我们展望未来，想要避免这个问题，我们甚至无法开始我们真正想做的事情，三四年五六年甚至更长时间，并在其间达到一个好的位置，这仍然是我们想要从事的一个非常令人兴奋的产品。所以我的正确理解是，你正在考虑将人类专家纳入其中，并成为他们的接口？是的，我们目前处于某种程度的秘密构建阶段，所以我没有太多细节可以分享，但这是人们在未来几周或几个月内应该能够期待的，我们会有更多关于它的信息，以及他们如何获得访问权限，以及它的价值主张是什么。我们认为人们会喜欢它，所以这也是一个不断发展的思维过程，但我们对我们正在做的一些事情感到非常兴奋，我说我们，现在只有我一个人，但我们有几个人正在帮助我们，这非常有帮助。我实际上要问的下一个问题是，是你和哪个军队？是的，我说是我们撒谎，我通常是那种宁愿说“我们”而不是“我”的人，这很老套，我认为这很重要，而且早期养成这种习惯很重要，但现在基本上 99% 是我在做这件事。好吧，和我们谈谈在 2020 年创办一家互联网公司是什么样的？我的意思是，我希望我能问你，它是什么样的，与，你知道，2001 年相比，但我知道，你知道，这不是你真正能回答的，但也许你有一些印象？请告诉我们，这需要什么，有多难或多容易，你的工具堆是什么，你必须付钱给谁，是哪些公司促成了整个过程？是的，所以，嘿，我认为总的来说，这是一个非常有趣的时期，在 COVID 中间开始一家公司。所以有趣的是，而且我认为这实际上是一个重要的优势，你看到事情正在更多地远程化，而且我认为远程世界对我想做的事情非常有帮助，它使与人交流更容易，人们似乎更愿意在业余时间做事情，很多人对他们的反馈和建议非常慷慨。我感到非常幸运，我身边有很多人在各种事情上都拥有良好的领域专业知识。我显然是第一次创业，我相当，你知道，相对来说非常缺乏经验，我相当年轻，这一切对我来说都是全新的事情。一方面，你知道，有很多问题，有很多工作要做。另一方面，有很多东西你可以学到，这非常有趣。所以你认为，你知道，我们到目前为止遇到的一些问题，你知道，每个初创公司都会遇到，比如突然之间，我不再只是在我的日常工作中整天写代码和与人交谈，突然之间我必须处理法律文件，我必须注册一家公司，你必须处理所有这些文件，而且你必须，你知道，你必须设立你公司的银行账户，以及所有这些全新的事情。而且我认为，当你想到在 2020 年创办一家公司是什么样的，特别是对于一个以前没有做过的人来说，与我听到人们在五年前、十年前不得不做的一些事情相比，这真的很方便。你知道，以 Stripe Atlas 为例，因为我们付给他们一笔相对较小的费用，它就完全指导我们完成了公司注册，你知道，我与几个人谈过，他们过去不得不这样做，而且，你知道，你不知道现在创办一家公司有多好，而且它有多容易。我们过去不得不支付一万到一万五千美元的法律费用来设置所有这些东西。等等，我们没有意识到。所以 Stripe，众所周知，只是一个在线支付处理器，Twilio 用于支付处理，你说他们的公司创建即服务现在有了 Atlas 这个产品，基本上是创业公司注册即服务，你付给他们 500 美元，它会指导你完成整个过程。他们与 Carda 等公司有各种合作关系，Carda 负责股本管理等。不同的创业公司银行解决方案，如 Mercury，他们基本上会让你完全准备好。而且，显然你必须自己做一些工作，但他们简化了它。你知道，你不需要律师，你不需要聘请法律顾问来做这些事情，而你过去不得不这样做。你知道，对我来说，这消除了很多头痛，我可以专注于我擅长的事情，你知道，我可以写代码，我擅长与用户交流和构建东西，而不是担心所有这些后台的事情，这真的很棒。然后，你知道，显然还有像筹款之类的事情。所以我们已经筹集了少量初始投资，以帮助我们获得一些可预见的未来跑道，这很棒。你谈到，你知道，现在的筹款格局是什么样的？我认为很多人认为 COVID，再次强调，我不是风险投资家，所以请那里的风险投资家不要因为我说错了什么而杀死我。我认为很多人，人们的情绪是 COVID 会真正减缓很多筹款活动，而我们已经看到，实际上，我们已经看到它实际上相当多地增加了。我认为与很多人认为会发生的事情相反。我们实际上收到了很多主动联系，这很棒。与这些人建立联系从来没有这么容易过，再说一遍，回到 Twitter，你知道，风险投资家都在 Twitter 上，与人们进行对话非常容易，而且我们发现，我认为，在 2010 年或 2000 年左右，试图联系到这些人会是什么样子，这似乎是一座无法逾越的山峰，你必须认识某人认识的某人，而在 2020 年，你可以给某人发私信，你知道，他们不会每次都回复，但你扔出足够的飞镖，你偶尔会击中几个牛眼。所以这是一个非常有趣的环境，很多以前无法获得的东西现在都可以获得，而且很多这些更难的问题现在都更容易了，这要归功于我们看到的很多创新。你的工具和基础设施呢？你构建在什么之上？所以现在 OpenAI 的文档非常偏向 Python，它们有很多非常好的代码片段。所以，我们的后端基本上是一个 Python Flask 后端。我们还有一个 Node 服务器，我们为了其他一些事情而启动了它，这就是我们的后端的样子。在前端，我们都是 React，我是 React 的忠实粉丝。我花了一点时间，很早就与 Angular 合作过，我比这个世界上几乎任何东西都更讨厌 Angular。而且作为一家公司，我们终于切换到了 React。所以，是的，我们使用 React，AWS，我们使用 AWS 的许多服务。我们一直在玩弄的一件事是文本转语音，AWS 有一个非常有趣的服务叫做 Poly，它可以将文本合成为自然语言，这很有趣。我们使用 Postgres 作为我们的数据库等等。所以，这就是我们日常使用的技术栈。而且，是的，我非常喜欢所有这些工具。Python 是我没有怎么用过的一种语言，即使它非常流行，这也是一件有趣的事情，因为我不得不更多地深入研究它，你知道，开发者总是喜欢学习新技术，所以这很有趣。太棒了。如果你稍微放大一点，看看今天所有其他公司，有了你学习、构建和发布的经验，在这些公司中，无论是上市公司还是私营公司，你觉得哪些公司有着不可思议的未来，并且你很乐意成为他们团队的一员或投资者？这是一个有趣的故事。我没有在那里工作的经验或资格，但我很想在 OpenAI 工作。就像，如果我可以选择任何一家公司工作，我只是，显然，这也是我正在做的事情的一个重要原因，因为我对他们正在做的事情的未来非常感兴趣。大约一年前，我发了一条推文，基本上是说，如果我能和世界上任何一个团队交谈，并且可以和他们交流一天，参观他们的办公室，那将是 OpenAI。我想第二是 SpaceX。我倾向于非常注重长期愿景。我发现从解决一个我认为会对世界产生积极影响的问题中获得很多个人满足感。虽然这有时听起来很老套，但在科技界说“你想改变世界”是很陈词滥调的，而且你看到了很多关于这个的表情包，但我确实认为，每天醒来，从事你真正认为有潜力产生重大影响的事情，是有道理的。我相信花时间去构建和努力实现一个你真正觉得令人兴奋的未来，一个如果你不努力工作，发生几率就会降低的未来。总之，回到 OpenAI 的事情，这很有趣，因为你知道，一年前我试图和我们团队的很多人交谈，现在我几乎每天都能和他们交谈，听听他们在做什么，以及诸如此类的事情，这真的很有趣。还有一些我认为非常有趣的公司。我发现一个非常有趣的行业，它有点开始爆发，那就是音频行业。我不知道你会怎么称呼它，但像 Clubhouse 这样的东西，你看到了人们如何开始让音频变得更具社交性，以及诸如此类的事情。我认为这现在非常有趣。嗯，还有什么？这是一个更大的公司，但即使是 Stripe，我认为开发者也喜欢 Stripe，这也不是秘密，每个人都说他们最喜欢的初创公司是什么，他们说 Stripe。而一家初创公司，这家价值数百亿美元的公司，但我认为他们致力于扩大互联网的 GDP，我认为这非常迷人。我正在思考一些其他公司。我认为 Neuralink 是另一个现在非常有趣的公司。如果你看看埃隆和团队还没有看到的未来，他们在一两周前进行了一次演示，展示了一些非常早期的东西，你认为它的潜力是，对我来说，这非常不可思议。我认为 OpenAI 或 Neuralink 可能会是我最喜欢的两家公司，我认为它们会非常迷人。而且，再次强调，我并不一定认为我拥有相关的经验，但如果我能为他们提供我所能提供的，如果我没有做我正在做的事情，如果我必须加入一家公司，因为我认为这个问题的另一个答案是，如果我不是在做这个，我就会创办另一家初创公司。一些真正吸引我的公司，就是那些。你描绘了一幅非常乐观的图景，如果我们看看 Twitter 或看看新闻，你会觉得整个社会似乎非常悲观、沮丧和愤怒，原因有很多。从你的角度来看，乐观的理由是什么？为什么今天活着是令人兴奋的？有很多心理学研究表明，人们对负面信息的反应比对正面信息的反应更强烈。所以我认为，拥有更悲观的心态只是人类的本性。我觉得如果 80 年代的人们更乐观一些，是的，你知道，那整个时期可能是一个例外。我认为，你知道，即使从进化的角度来看，恐惧通常是一件好事，因为它保护我们，你知道，是一种保护人们和生存的机制，以及诸如此类的事情。但对我来说，乐观的理由是，我认为乐观有趣得多，对吧？所以，让我们以一个相关的例子来说明，就像你昨天看到的，西海岸发生了大火，旧金山完全是橙色的，看起来就像《银翼杀手》一样，人们在发布那些《银翼杀手》的照片，看起来就像一个完全末世的地狱景象。你知道，人们看到这个，很容易变得悲观，说哇，这就是未来，这太糟糕了，等等等等。但对我来说，乐观的人会说，好的，这里有明显的问题需要解决，我们可以研究的各种技术非常令人兴奋，这些都是有趣的问题，它们会把我们带到非常有趣的地方。所以，回到我那种构建你认为令人兴奋的未来的态度，我认为这样做更有趣。而且我认为你与之互动的人，他们有着相似的心态，你知道，你把所有这些人放在一个房间里，给他们一个问题，有趣的事情会很快发生。与悲观主义者不同，我们有一个很棒的建筑，供那些人使用，叫做国会和国会山，他们可以在那里做他们的事情。不是要让这个变得政治化，但你知道，你看看那些乐观或悲观、想抱怨和谈论问题的人的态度，而不是他们是否想真正致力于解决方案。而且我认为这并不有趣。你看，我喜欢《黑镜》的程度不亚于任何人，想象这些反乌托邦技术很有趣，但我认为最终我们不想要那样，我们想朝着我们感到兴奋的未来努力。而且我认为，当你和同样乐观的人在一起时，我认为真正的好事就会发生。而且我认为我们需要做得更好，让人们进入那种心态。我们需要让 80 年代成为新的现实。我们需要让 80 年代，是的，2020 年代，让我们把它变成新的 80 年代。太棒了，太棒了。好吧，麦凯，我很高兴你拥抱了这种乐观的愿景，而且你还在 2020 年构建它，让世界变得更美好。祝你的初创公司好运，希望听到它的好消息，并且很乐意让你回到节目中。非常感谢，很高兴来到节目，我很感激。Arc 认为所呈现的信息是准确的，并且是从 Arc 认为可靠的来源获得的。然而，Arc 不保证任何信息的准确性或完整性，并且此类信息可能会在 Arc 通知时更改。历史业绩并非未来业绩的指示。本播客中包含的某些陈述可能是在对 Arc 当前观点和假设的基础上对未来期望和其他前瞻性陈述，并且涉及已知和未知的风险和不确定性，这些风险和不确定性可能导致实际结果、业绩或事件与此类陈述中表达或暗示的内容存在重大差异。