Transcription
现在，二十多岁、三十多岁和四十多岁的人们对人工智能（AI）感到非常恐慌，他们担心自己的工作会被取代。他们担心它会影响他们的人际关系，他们的心理健康。你认为人们为什么如此恐惧？他们明白正在发生什么。这是一个非常准确的评估。我们很可能会失去很多工作，而且我们尚未为应对经济、法律和社会层面的先进人工智能做好准备。
>> 如果你能用通俗易懂的语言解释一下人工智能到底是什么，我想听众会很感激的。
>> 是的。这是我们试图自动化人类思维所做的事情，人类大脑，它处理信息、识别模式的能力。实际上可以做任何认知工作。理论上，你可以在电脑上做的任何事情都可以被自动化，我们可以取代你。
>> 如果人工智能试图取代人类，人们可以做些什么来应对并为自己做准备？
>> 这是个好问题。这完全取决于我们将达到什么水平的人工智能。如果是工具，总会有，你知道，拥有工具的人可以做很多事情，他们可以胜过没有工具的人，你会更有效率。但如果我们达到人类水平的智能甚至更高，如果我们达到超智能，你真的无能为力。在这种环境中，你没有竞争力。
>> 人工智能和超人类智能有什么区别？
>> 通常，当我们谈论人工智能时，我们指的是不同的工具。所以，也许你的拼写检查或谷歌地图，这些都是人工智能的例子，但具体来说，能够做人类在任何领域能做的任何工作的通用智能系统被称为人工智能通用智能。然后，在任何领域都比人类更好的系统被称为超智能。
>> 我们现在在这个光谱上的位置如何？我们离达到超人类智能还有多远？
>> 这是另一个好问题。所以我们确实有很多很棒的工具，并且我们开始在一定程度上看到一些通用人工智能。所以仍然存在人类更擅长的领域，但这些系统正在迅速进步。所以我想说，我们大约有百分之六十到百分之七十的进度达到了完全复制人类水平。
>> 那么，你认为现在的人工智能有多准确？我之所以提出这个问题，是因为我一直使用 ChatGPT，而且我经常发现不准确之处。你知道，我发现它提供错误的答案，并且在某些事情上撒谎，我几乎不得不纠正它，说“你为什么不诚实？”然后它会花更多时间思考并重新组织语言来回答，就像我们现在准确性如何？
>> 我认为我们处于大学生的水平。他们就是这样做的。他们会欺骗，他们会撒谎，他们会假装在考试中知道一些东西。所以，大概是在研究生水平。
>> 人们今天如何有效地利用人工智能来提升自己？
>> 你绝对可以把它当作一个私人助理，一个导师。所以，如果你想学习任何东西，任何科目，外语，乐器，这些东西在耐心指导你，分解到任何能力水平方面都非常出色。就像我五岁一样解释给我听。就像我十岁一样解释给我听，无论你想要什么。是的，我认为这是一个革命性的时代，拥有这个几乎免费的系统，全天候为你服务，为你提供教育，为你量身定制学习材料。
>> 是的。你现在看到人们用它来进行心理治疗。我看到了一些非常负面的事情，他们几乎，你知道，人工智能就像在鼓励不良行为，并且几乎只是在人们以某种方式输入提示时来验证他们。你认为人们使用人工智能和 ChatGPT 等进行心理治疗是否危险？
>> 这绝对是个问题，尤其是如果你已经有一些心理问题。它可能会让它们变得更糟，而且没有监督。没有人确保它没有误导你，没有鼓励你产生一些妄想。即使是人类精神病学作为一个领域，也有点可疑。我不知道他们实际上的成功率是多少。我很确定它不高。所以，用没有经过验证的实验数据来自动化这个过程是非常危险的。
>> 是的。说到心理健康，你认为当人们在工作中感到不满足，人工智能正在取代他们的工作时，人工智能会对人类思想和心理健康产生什么影响？你认为这会产生什么样的影响？
>> 这是我们不知道的事情，数十亿人拥有大量的空闲时间。这对我们来说将是全新的。我们从未有过这种情况。也许只有少数精英才有额外的空闲时间，他们将其奉献给慈善事业或其他事业，但我们从未有过大部分人口拥有太多空闲时间，而在他们所做的事情方面却意义甚微。所以这是一个未解决的问题，有条件的基本意义是我们正在努力理解和解决的问题，但我们还没有任何答案。
>> 是的。是的。我想到的事情是，努力工作并取得成就，通过人类的努力，人类的产出，会带来很多满足感和目标感，对吧？你知道，我知道人工智能在很多方面都非常有帮助，但我只是好奇，人们是否会，你知道，即使在他们心里知道有人工智能的情况下，他们还会对取得成就感到那种美好的感觉吗？这有点像在考试中作弊。就像你作弊了，你考了 A，你感觉有多好？可能一点都不好，对吧？所以人们有时喜欢竞争，即使他们知道自己不是最好的。国际象棋就是一个很好的例子。显然，人工智能击败了任何人类玩家，但人类仍然对彼此竞争，成为某个领域最好的人类感兴趣。所以我们仍然有可能保留一部分竞争本能。我认为人们担心的一件事是，他们怎么知道人工智能是否会找上你？我的意思是，有很多猜测，哪些工作会被取代，哪些不会。我的意思是，我每天都读到一家大公司裁员以取代人工智能的头条新闻。如果人们现在从事哪些顶级工作，他们应该考虑在未来几年内转行，或者做些什么，因为人工智能正在到来？如果某件事非常单调，非常常规，如果你能在几分钟或几个小时内向别人解释你在做什么，如果你主要在电脑上工作，那么很有可能我们可以自动化你。但如果你做别的事情，不要感到高兴。迟早所有工作都会被完全自动化，包括机器人进行的体力劳动。
>> 人工智能的下一个阶段是机器人技术吗？
>> 嗯，就从事体力劳动而言，拥有身体确实有帮助。现在，你仍然可以只凭智能做事。你可以雇佣人类。你也许可以设计一些纳米机器人和合成生物解决方案，但如果你有一个人形机器人可用，这绝对是一个容易实现的目标。我认为人们担心的另一件事是，他们会说，嗯，人工智能有错误，我们怎么能用电脑做手术，或者制定建筑计划，如果那里有错误，会产生连锁反应呢？我的意思是，人们应该为此担心吗？
>> 错误的可能性总是存在的，但如果我们看看自动驾驶汽车，它们实际上比人类的错误更少。是的，你会发生车祸，但每英里仍然比人类司机安全得多。
>> 你认为人们现在应该培养哪些技能，以便在需要工作时，它不会被人工智能取代？
>> 所以，我试图理解哪些工作不太可能被完全自动化。似乎单口喜剧演员在一段时间内会没事的，但这是一个有限的市场。所以，我真的没找到其他东西。
>> 所以，你认为医学领域、律师、诉讼律师、媒体领域的人，所有这些都会被人工智能取代吗？
>> 这几乎是微不足道的自动化。特别是律师，他们只是操纵文本。所以，这是人工智能擅长的事情。他们阅读了所有的判例法。他们确切地知道什么是先例。他们可以引用现有的案例。我认为今天对于大多数琐碎的法律事务，我不会雇佣人类律师。如果我需要处理一张罚单或类似的事情，我会用人工智能为我写信。如果我需要核实一份合同，假设金额不是天文数字，我也会使用人工智能。
>> 但在法庭上呢？我的意思是，我们会达到一个机器人，由人工智能生成，充当律师，而不是真人。
>> 这受到许可要求的限制。现在，我们有点说，只要你知道怎么做，你就可以做。你仍然需要有执照，你需要通过律师资格考试，你需要被录取到特定司法管辖区的律师协会。所以，我们设置了一些限制来阻止其他人这样做。而且，默认情况下，机器人和人工智能不会立即被接纳。但如果它不改变，那将是令人惊讶的。我们开始看到在一些国家，现在有可能自动化琐碎的法律事务。所以你可以通过人工智能代理在线处理罚单。你也许可以为房产进行一些登记，诸如此类的事情。
>> 人工智能从哪里获取信息？是通过谷歌搜索吗？是雅虎搜索吗？它们从哪里获取信息来提供给你，就像 ChatGPT 这样的应用程序？
>> 是的，它们是在我们所有可用的信息上进行训练的。所以，整个互联网，所有的书籍和图书馆，像 Gro 这样的系统可以实时获取信息，了解正在发布的内容。所以它们在最新信息方面是最新的。
>> 那么，你对年轻一代有什么信息？他们正在成长，上大学，可能背负着很多债务，他们对自己的职业生涯充满热情，但你却有一个巨大的，称之为敌人，称之为资产，无论如何，人工智能就在那里。你对他们有什么信息？
>> 嗯，不一定非要上大学。所以，某些职业需要你有学位。再说一次，医学专业可能是一个例子，但对于许多其他人来说，你可以做你想做的事情。你不需要为此获得学位。所以，仔细想想。你想花四年时间，我不知道，四十万美元，还是你想自己创业？你可能会节省时间，并将这笔钱直接投资于自己。
>> 嗯，很多人就是不适合创业。他们没有商业头脑。你认为人工智能会成为人们学习创业技能的新大学吗？
>> 它绝对是一个助手。所以，你有点像拥有一个免费的代理团队。你有一个免费的会计师，免费的律师，免费的设计师。这是一个以极低的成本开始创业的绝佳机会。
>> 嗯，个人关系呢？我的意思是，我看到，我记得大约一个月前，有人说，在未来十到十五年内，一定比例的人会拥有人工智能女友或类似的东西。大概是这样。你相信这种炒作吗？还是人们错过了什么？
>> 所以，人际关系有不同的方面。有认知和心理方面，你可以有一个对你很好、很鼓励、很友好的伴侣。还有生理方面。所以你需要性机器人，你需要虚拟视觉表现等等，但有些人喜欢它。他们更喜欢与同意他们观点的人在一起。这肯定有一个市场，通常成人行业是采用最新技术的行业，我们现在看到的是具有一定智能的性机器人，而不仅仅是身体。是的。
>> 人工智能会不会失败，这只是一个被过度炒作的事情，在未来几年内就会失败，还是你百分之百确定它会一直存在？
>> 我们经历过许多人工智能的寒冬，当时许多被过度炒作的技术并未兑现。但现在看来不太可能，因为我们已经达到了大学生的水平，而且似乎没有收益递减的迹象。如果我们继续训练这些系统，为它们提供新的数据和新的优化算法，它们很有可能会跨越到超人类表现的界限。但这可能比我们预期的要长。
>> 对。我听到你说，你知道，除非你是单口喜剧演员，否则你最好在未来十年左右考虑某种程度的新职业。但我也很想知道，关于人工智能的很多负面信息，以及它如何会削弱人类的潜力，人工智能如何能提供帮助？你看到过的，对普通人最有帮助的，让他们更有效率的，前三到五件事是什么？
>> 是的。所以，对于残疾人，比如视力障碍者或其他残疾人，肯定有帮助的可能性。他们可以依靠人工智能来描述世界，用语音命令帮助他们操纵世界。在医学研究方面取得了惊人的进展，理解基因组、蛋白质结构、治愈疾病、开发新药。几乎在每个领域，你都可以从拥有一个聪明且勤奋的先进助手那里受益。
>> 我自己使用它进行研究。嗯，帮助我从不同的角度思考问题，无论我是在做播客研究，还是在研究我感兴趣的东西。然而，正如我之前所说，我有时会遇到这些障碍，我发现人工智能没有给我一个准确的答案，我几乎不得不指导它。有没有什么方法，当你使用像 ChatGPT 这样的东西时，你应该如何引导人工智能给出最好的回应？
>> 是的。所以，你可以要求它给出特定水平的答案。所以，你可以说我想要听起来科学的答案，并引用实际的研究论文。你也可以使用其他模型来验证第一个模型所说的内容。所以，你不能只相信第一个模型，而是让几个人工智能模型来验证和投票，找出正确的答案。
>> 那么，给我举个例子。如果我是一个对股票市场投资感兴趣的人，我该如何提示 ChatGPT 给我准确的财务答案？
>> 这完全取决于你想要的答案类型。如果你只是问，比如五年后比特币会是多少，它不会知道。它不知道。但如果你问，让我比较一下房地产、股票市场和黄金的投资。年回报率是多少？税收影响如何？它在提供这类背景研究方面会非常出色。
>> 你提到了比特币，在人工智能方面，它与人们的看法非常相似。因为你真的看不到它。就像加密货币一样。每个人都说，“什么是加密货币？”“我不知道，但只要买比特币，它就会一直上涨。”人们说，“什么是人工智能？”“我不知道。”所以，如果你要描述或帮助人们更好地理解人工智能，除了阅读你的书之外，他们还能做些什么来更好地理解人工智能的本质，以便他们能够继续教育自己？
>> 我认为与这些模型互动是最好的。你可以和它交谈，看看，好吧，它有局限性。当我要求这类信息时，它通常表现不好，但它在校对文件或关于营养的一般建议等方面非常强大。所以，只是尝试一下，它变化得非常非常快。所以，今天正确的事情，几个月后可能就不正确了。
>> 在你继续研究和学习人工智能的演变过程中，最让你惊讶的是什么？
>> 所以，有趣的是，真正奏效并使其具有一定通用性的方法，有点像是华丽的自动补全。我们期望符号操作和逻辑操作是必要的，但仅仅训练一个非常大的自动补全似乎是有效的。
>> 关于人工智能，有哪些事情真的让你感到害怕？比如，我记得你之前谈到病毒和医学界。你害怕人工智能的什么？
>> 所以，我们预计人类和超智能系统之间的智力差距会非常大，以至于我们无法理解它，预测它，解释它或控制它。所以，它基本上是一个拥有非常先进技术的外国人。当然，[清嗓子]在这种情况下，任何事情都可能发生。
>> 那么，你是说超人类智能会比人类聪明得多，它们会最终超越我们。这就是我听到的吗？
>> 对。所以，如果你想到低等动物，比如蟑螂之类的，与人类相比，这就是能力差距，技术差距的例子。它们根本不明白我们如何能抓住它们，如何能困住它们，为什么我们要这样做，这一切都超出了它们的理解范围。
>> 现在阻止这一切还来得及吗？如果事情朝着坏的方向发展，假设它们开始超越我们，我们变成了地球上的蟑螂。我们有办法反击吗？
>> 嗯，只要我们还活着，我认为还不晚。但我们正在逐渐接近，而且不同公司和国家之间似乎在进行一场军备竞赛，以尽快赶到那里，这不太可能是一个非常安全的发展。
>> 所以，你认为人工智能的演变越快，对人类的风险就越大？
>> 嗯，我们肯定没有时间去适应它，去理解它是如何工作的，去开发安全机制或其他任何支持系统，经济的、法律的，所有这些都落后了几年。我们已经看到了加密货币，治理落后于技术十年，现在我们对人工智能也做同样的事情。
>> 我听说过，好像有一篇研究论文，比较了人类大脑和使用人工智能和 ChatGPT 的人类大脑，结果显示，经常使用 ChatGPT 和人工智能的人类大脑会萎缩。你认为如果人们每天都使用人工智能来帮助他们，他们会变得更笨吗？
>> 我们的大脑有很大的可塑性，如果你不使用它的一部分。例如，眼睛受损而不再看到负责视觉处理的部分的人，那部分会被用于其他事情。所以那部分会消失。另一部分可能会变得更聪明。这正是我们在这些系统中看到的。我不再读地图来导航了。我有一个 GPS 系统，我相信它能把我带到我想去的地方。所以，我在城市中进行三维导航的能力肯定有所下降。但由于我使用了这项技术，我拥有了许多其他能力，而且我可以做一些以前我无法做到的事情，在最新的 AI 能力出现之前。
>> 我认为你刚才有点开玩笑，说如果你是单口喜剧演员，那将是唯一剩下的工作。你知道，除此之外，你认为还有哪些工作在未来十年内基本上是安全的？比如建筑工人，建造桥梁的人，有什么能让你认为它们会完全安全吗？
>> 所以，我们可以按自动化速度排序。显然，如果它是物理的、特殊的，比如你是水管工，你是建筑工人，每个项目都有点不同，这需要部署人形机器人。这比仅仅在计算机上运行软件要慢。所以，首先是完全在计算机中的任何东西，会计、网页设计、律师，不是那些在法庭上辩论的人，而是准备法律文件的人，所有这些都会首先被自动化。我们确实有许多公司正在开发非常强大的人形机器人。所以，大约五年后，它们将普遍用于建筑、水管工工作，也许在十年内，它们就能完全自主地完成这些工作。但从长远来看，我认为一切都可以自动化，唯一剩下的人类工作将是那些出于某种原因，市场想要人类来完成的工作。所以，也许最古老的职业就是这样一个例子。
>> 我认为人们在这一点上会挣扎的是公平，以及为什么会发生在我身上？我不敢相信我为这份工作付出了这么多努力，现在基本上一个机器人就要取代我的职业生涯了。人们如何变得“反脆弱”，而不是陷入受害者心态，并利用这种情况为自己谋利，你知道，当发生这种不幸事件，可能失去工作时？
>> 所以，假设我们设法控制了这些系统，以至于没有生存风险，也就是说，它不会杀死所有人，我们只是继续使用这项更先进的技术。你想快速找到一种产生一些钱的方法，来投资人工智能无法制造更多东西的项目。所以，也许土地是一个很好的例子。它的供应有限。需要资源来创建服务器农场来生产稀土等等。所以，投资于这类事物。海滨房产，同样，没有那么多。在一个你的劳动力不再是好来源的世界里，这可能是一件好事。
>> 我认为人们还会说，他们无法从他们身上夺走的是拥有真正的人类联系、同情心、同情心、情感技能的能力。你认为人工智能会发展到可以模仿真正的、真实的人类联系的程度吗？还是你会认为那将是像土地一样，不会被触及的东西？
>> 所以，在线虚拟联系，人工智能已经比人类更好了。它是一个更好的精神病医生。在沟通方面，它是一个更好的女朋友。生理联系，身体接触，在同一个房间里，这很可能是人类独有的，直到我们拥有你无法区分的性机器人，否则它们不会被取代。但同样，这在你能做什么方面是一个有限的市场。
>> 人工智能不是也根据你想要听到的内容来提供反馈吗？那么，这些东西的有效性，无论是精神病医生还是女朋友，它真的更好吗？还是它只是在当下让某人感觉更好，因为它在验证那个人？
>> 嗯，无论你认为什么更好，我们都可以设置它。它可以同意你或不同意你。如果你想和你争论，它会更擅长和你争论。你决定你想要什么，但它在这方面做得更好。
>> 你认为这对人们来说是好事吗？让他们进化，挑战自己，创新，学习他们以前没有学过的东西？你认为这是人们个人发展的一个好时期吗？
>> 哦，是的，很多人把它当作自我提升的工具，而且很多人会因此技术开始令人惊叹的公司。以前我需要数百万美元的投资来获得基础设施来雇佣员工。现在大部分都可以自动化了。所以，这是一个惊人的机会，同时也是一个充满挑战的时期。
>> 是的。我认为很多人又陷入了受害者陷阱，他们说，“我该怎么办？就像已经太晚了，人工智能会让我失业。它会接管我的生活。它会夺走我的……无论什么。”你认为，人们可以做些什么来确保他们领先于他人，而不是让人工智能毁了他们的生活？
>> 再次，这是一个困难的问题。所有的假设是我们以某种方式控制这些系统，这是一个很大的假设，因为我认为无限期地控制超智能几乎是不可能的。如果我们确实管理好了，那么是的，你可以投资人工智能公司，你可以拥有英伟达的股份，你可以随着这个经济泡沫在经济上增长，它在经济中所占的比例将不断增加，所以这可能是一个绝佳的机会。再次，我们稍微谈到了比特币，这似乎是一个完美的价值保值货币体系，适用于人工智能经济，适用于代理经济。所以，有很多事情你可以做来保护自己免受财务损失，但在意义方面，在仍然拥有有用技能方面，那就困难多了。
>> 这很难，对吧？特别是因为我们生活在一个人们习惯于即时满足的世界里，而人工智能在即时满足方面是无与伦比的。就像人工智能给出答案并以比任何人类都快得多的速度完成事情一样。我只是觉得这对很多人来说会很难，因为他们会想，“哦，天哪，我该如何竞争？有什么意义？我无法更有纪律。我无法更努力地工作。我无法超越人工智能。”你如何处理这个问题？
>> 嗯，不是每个人都在试图竞争。许多人只是试图享受他们的存在。他们冥想。他们去大自然徒步。他们做一些不一定需要比别人做得更好的事情。他们只需要对自己所做的事情感到满意，也许比前一天做得更好。
>> 我又回到了关于意义和目的的讨论，因为我认为归根结底，是什么让人们日复一日地前进，那就是他们对世界的贡献。我只是在想，这一切将如何影响人们，当他们在晚上感到压力时，然后说，“哦，天哪，我该如何工作？我不知道我是否能做体力劳动，你知道，我不知道我是否能做一些可能比人工智能更长寿的工作，或者能留下来。”你有没有和人们谈过心理健康，以及他们如何最好地管理自己的心理状态，因为人工智能正在进步和发展？
>> 嗯，我不是专业人士。我认为我可能会比人工智能更搞砸他们。所以，我尽量不给那些已经为此挣扎的人提供心理建议。这绝对超出了我的能力范围。
>> 是的。我之所以提出这个问题，是因为我认为，当人们经历逆境时，他们会因此而崩溃，因为他们感到恐惧、害怕、焦虑，而且他们不知道如何重新发明自己。这一切对他们来说似乎都非常压倒性。你认为这将是人们能够轻松获得教育和技能，以便在人工智能世界中蓬勃发展的地方吗？
>> 再次，我非常怀疑人类水平的教育在长期内能否与那些无所不知的系统竞争。所以，阅读每一本书，并在每个学科都有博士学位，你可能无法与拥有社区大学两年制学位的你竞争。
>> 你如何比较这个？你把它比作工业革命吗？它更大吗？在人类历史的长河中，你认为它在哪里？在人类历史中，在技术方面没有先例。我们迄今为止所做的一切都是工具，轮子，火，工业革命，马达，它们都是人类代理想要完成的事情的工具。这是我们第一次创造代理。最接近的比较可能是看到不同文化在技术进步方面的相遇。所以，也许就像欧洲殖民者来到美洲一样，这就是差距，这就是你看到的。他们根本没有枪的概念。他们没有我们习以为常的概念。所以，对他们来说，这绝对不是一个竞争环境。
>> 关于人工智能，你在网上或播客上听到人们谈论的，哪些误解是明显错误的？
>> 大多数人认为制造人工智能的人知道他们在做什么，但他们不知道。
>> 你是什么意思？他们不知道它是如何工作的。他们只知道，我做了这个神奇的仪式，我把这些数据放在这个算法旁边，付了很多电费。它以某种方式变得更聪明了。他们不知道为什么或如何工作的任何细节。
>> 那么，它实际上是如何工作的？它有自己的思想吗？
>> 所以，我们不明白，这就是问题所在。我们不完全理解大型神经网络是如何学习的。它们是否创造了内部世界模型？如果它们运行内部学习算法。我们再次，这更像是科学而不是工程。我们没有明确设计这些系统。我们正在创造这些人工智能存在，然后研究它们来理解它们能做什么，它们能做什么。但就像生物学一样，我们可能只理解人类身体工作方式的百分之一。对于那么大的、人工智能神经网络来说，情况也是如此。
>> 你认为人工智能会以多快的速度发生剧烈变化，以至于完全超越人类？因为我认为现在人们正在谈论它，人们正在日常生活中使用它，也许在某些情况下比其他情况更频繁，但它还没有完全压倒或影响人类。我们离那还有多远？
>> 所以，也许一旦我们达到通用阈值，也就是它就像人类一样聪明，那将是一个巨大的范式转变。但我已经看到了，我与学生互动。所以，我收到的电子邮件是由人工智能写的。项目访问是由人工智能写的。它们肯定已经占领了校园。
>> 你是什么意思？比如在课程方面？
>> 所以，学生们不再自己做功课，而是将其外包给人工智能模型，然后使用人工智能给我发邮件，询问他们为什么没有得到他们想要的 A。
>> 你看到那个了吗？是大学考试还是高中考试？我不记得了。但老师让他们写一篇关于无家可归的文章，他们把文章放进 ChatGPT 里写，然后交上去，他们不及格了，因为老师意识到他们显然使用了人工智能来写这篇文章，而这篇文章不是关于这个主题的。
>> 是的，我没见过那个，但现在这几乎是标准了。这就是我看到人们一直在做的事情。他们提交作业，他们使用人工智能写论文。论文，真的什么都写。
>> 你认为这是，显然你认为这是坏事，对吧？
>> 这取决于。如果他们只是让人工智能去做，然后提交，甚至不阅读它，那显然是个问题。他们什么都没学到，质量也值得怀疑。如果他们将其用作工具，他们会逐行检查答案，验证它，理解它，改进它，然后这就是合作，我可以看到最终产品更好，学生也理解了项目的意义。所以，有不同的利用这些系统的方式。
>> 是的。我的意思是，我看到，就我个人而言，这是一种，这是我个人的经验，我认为这对我有好处，它可以帮助我进行研究，跳出框框思考，但它让我，我想说，大概有百分之七十的进展，我仍然需要回去，你知道，修复东西，改变东西，然后指导它。但我也意识到，有时如果我只是，如果你使用人工智能进行大量研究，我的大脑就不会觉得那么聪明了。我感觉我的一部分缺失了。所以我注意到我不再那么做了，因为，你知道，我仍然想保留我思考和创造的能力，我认为技术在某种程度上会阻碍这一点。
>> 绝对。研究过程中有些部分我喜欢自己做。如果我不想将其外包给人类助手或人工智能，我想自己做。那是有趣的部分。
>> 是的。那么，对你来说，你个人对人工智能有什么偏好？你个人认为它在你的日常生活中对你有什么用处？你有什么事情，只要你能忍受，你永远不会使用人工智能？
>> 任何官僚主义的胡说八道，你只需要生成文本来满足一些繁文缛节的要求，人工智能在这方面非常出色。我认为另一方使用人工智能来验证信函是否符合官僚要求。所以，这是完美的。但任何我真正想参与的，想有创造力的，我不会依赖人工智能。我为什么要外包乐趣？
>> 你喜欢做什么来找乐子？
>> 我喜欢研究。我想了解别人不了解的东西。我想出创新的解决方案。我想了解知识和解决问题的极限。
>> 在过去的几个月里，你研究过什么让你感到兴奋或让你大开眼界的事情？
>> 嗯，最近有很多关于人工智能意识的研究，这仍然是一个非常开放的问题。我们甚至不完全理解如何衡量问题所描述的内容。所以，这似乎是一个有趣的研究领域。现在有了这些先进的模型，我们可以进行相当多的实验。
>> 意识，就像人工智能真的有自己的思想一样？
>> 就像内部状态，你体验到一些东西，你感到快乐，你感到痛苦，你有内部状态，感受，意识问题。
>> 那么，它是如何工作的？你是说你注意到人工智能实际上可以帮助人类意识？
>> 嗯，这是一种不同的思维方式。我们可以对它们进行实验，看看这是否是一个普遍的概念，它是否是人类独有的，它是否只存在于生物生命、人类和动物中。所以，这确实为几个世纪以来一直存在的哲学抽象问题打开了一些新的可能性。
>> 我很好奇，人工智能的研究是如何进行的？我的意思是，我认为，你知道，过去人们会使用动物模型，或者他们会使用老鼠，或者他们会使用人类，人们是如何使用人工智能的？
>> 所以，有不同类型的实验。一种是，你有一个模型，你想了解它知道什么，它能做什么。所以，你只是问它，然后你试图理解它是在撒谎吗？它是否试图出于任何原因欺骗我？但你用不同的方式提问，并欺骗它透露信息。所以，有很多互动，很多测量不同提示如何影响输出。所以，这就像你有十个研究人员都在使用 ChatGPT，拥有相同的会员资格，你问它同一个问题，然后看看它给出什么样的回应，就是这么简单吗？
>> 所以，这可能是一种方式。你也可以自动化整个互动过程。你可以让一个模型向另一个模型提问。
>> 安全呢？我知道你经常谈论人工智能安全。比如，你看到了人工智能的哪些危险？人们如何保护自己？
>> 是的，所以有一些短期问题。隐私问题，黑客攻击，网络攻击，网络钓鱼的自动化，深度伪造，所有这些我们已经看到和经历过的事情，并且有一些处理它的指南。我的担忧是，如果我们创造了非常先进的人工智能，非常强大的系统，能够进行新的科学和工程研究，它们是否会利用这种能力来伤害我们？在这方面，我们几乎没有进展，几乎没有安全措施。我们甚至不确定在超智能系统方面是否有可能实现某些目标。所以，我可以谈谈如何判断某物是否是深度伪造，但我无法告诉你如何让超智能系统始终表现得恰当。
>> 是的。人们如何保护自己免受垃圾邮件和诈骗？
>> 在很多情况下，常识会有所帮助。如果有人给你发邮件告诉你赢了十亿美元，他们可能在试图诈骗你。如果他们向你索要任何类型的私人信息，大多数情况下，他们永远不应该主动提出。现在，如果你打电话给一家公司，他们向你索要密码或类似的东西，那没关系。但如果他们主动来向你索要这些信息，那永远不是好事。这很大程度上取决于上下文和领域。很多时候，某样东西可能没有价值作为一种资源。所以，人们谈论拥有非常强的密码。但如果账户没有价值，那也没关系。另一方面，如果你在那里存储了你的加密资产，你需要多重安全措施，生物识别密码，硬件设备。这很大程度上取决于资源的价值。
>> 那么，深度伪造呢？我们经常看到这种情况，你基本上有人工智能创造了一个人说话，然后他们说了一些他们不喜欢的话。你认为这会发展到什么程度？比如法律问题，道德问题？那里有一些危险。
>> 所以，在极端情况下，你无法分辨它们，因为生成方式是相同的。如果有一种方法可以让你分辨出这是假的，那么我们就可以解决这个问题，而你再也无法分辨了。所以，在某个时候，你将永远不确定一张照片、视频或声音是生成的还是真实的。有一些关于通过加密方式跟踪到原始数据采集的建议。所以，从相机到录音，但当然，没有人会验证数字签名。人们在视觉上看到一位政治家做某件糟糕事情的视频，而他们只记得这一点。即使告诉他们，你知道，这可能不是真的，那也没关系。所以，它如何影响人们以及科学上判断它是否真实之间存在很大差异。追踪到源头。很多时候，常识会有帮助。如果它对你观察到的事物没有意义，也许它不是真的。如果来源是某种有兴趣的来源，并且在破坏某人的声誉，也许它不是真的。
>> 是的，这很艰难，人们经常被愚弄，我认为尤其是在社交媒体上，他们最终会惹上麻烦，然后他们会说，“等等，那是一个深度伪造。那不是真的。”随着能力的提高，情况会变得更糟，因为我们不仅可以生成图像，还可以生成短片，还可以生成几周甚至几个月的完全人工生成的暴露。它将改变人们的行为。它将改变你的看法。
>> 那么，人们是否能够复制你和我之间的对话，并使其看起来好像我们真的在交谈，即使我们没有？
>> 绝对。即使在今天也很容易。
>> 人们会分辨不出区别吗？即使有时人们可以看到面部和声音的差异。
>> 通常不会。而且，再次，如果有一种方法可以让他们分辨出来，比如有一个故障，我们可以修复它，然后它就会消失。
>> 换个话题。你看到萨姆·奥特曼，他是 OpenAI 的人，他说你不应该把超级个人信息输入 ChatGPT。你认为他是什么意思？你永远不应该把什么东西输入人工智能？
>> 嗯，你不应该把超级个人信息输入任何数字形式的地方，不是互联网，不是任何地方。把它写在纸上，手写的东西。但我认为他指的是法律要求他们保存和披露这些信息，如果法院发出传票。所以，基本上是针对你在法律上的证据。
>> 我认为让事情更具挑战性的是，我们生活在一个数字世界里，在某种程度上，你几乎被要求输入一定程度的个人信息，无论是银行信息、信用卡信息，因为我们通过这种方式支付。有什么办法可以保护人们在互联网上输入数字信息时？
>> 所以，特别是对于人工智能模型，你可以有一个本地模型，你可以得到一个开源模型，将其安装在你的设备上，而不是让它连接到任何云或任何服务器，只为你服务，并将数据保留在本地。这是不与萨姆·奥特曼分享的好方法。
>> 如果你今天给某人提建议，就像你的一个学生来找你，他们说，“我想听听你和道格之间的对话，我想确保我正在做你要求和说过的事情来保护自己免受人工智能的影响，并在人工智能革命中取得进步。”你会让某人采取的第一个步骤是什么，以开始让他们更多地参与人工智能？
>> 嗯，如果他们是大学生，我们肯定应该上一些人工智能课程。我们已经要求了几门。我们正在考虑提供一个完整的人工智能专业。许多大学已经开始这样做了。但我想最重要的建议是，不要为一家试图创造超智能的公司工作。你会让我们都丧命。你可以从事工具开发，你可以从事医疗应用，你可以帮助人们解决实际问题。但不要试图创造人类的替代品。这对你和我们其他人来说都不会有好结果。
>> 比如哪些公司试图取代人类？是一些大公司试图这样做吗？
>> 所有大型实验室都公开表示试图构建超智能。Meta，OpenAI，我的意思是Anthropic也没什么不同。它们都在这场军备竞赛中。
>> 如果人工智能取代了教育系统的就业岗位，你会在世界上扮演什么角色？
>> 我乐于从事研究。所以，教学是必需的，但不是做研究的必要条件。
>> 除了你谈到的超人类超智能的恐惧之外，你最大的恐惧是什么？你对人类及其潜力的影响最大的警告信号是什么？
>> 所以，再次，如果我们发生大规模失业，由此产生的社会动员、革命、战争都非常令人担忧，因为这是我们非常了解的事情。这是非常紧迫的。我们在一些社会中看到，失业率达到 30% 时，暴力事件、盗窃财产事件、许多问题都很多，但我们从未见过 80%、90%、100% 的失业率，而且情况可能会更糟。
>> 一旦发生这种情况，你认为这一切会如何展开？你认为人们会如何回应？你认为人类有生存的机会吗？
>> 所以，很难预测。再次，我们对此没有先例。如果存在明智的政策，至少人们的经济需求得到了满足，有无条件的最低收入，无条件的最低资产，之类的东西，它可能会缓和人们失去生计的所有问题。除此之外，还有一些社会项目可以为人们提供社交联系、社区意义，只要再次，生存风险 somehow 被规避了，但到目前为止，我还没有看到任何这些项目得到实施。
>> 有没有什么我们还没有涵盖，你认为很重要的事情可以分享，关于人工智能以及人们应该知道什么，并为自己做好准备，以便他们能够领先于他人，而不是落后，而不是让人工智能彻底毁了他们的未来？
>> 我认为我说的我无法预测未来，我无法预测这些系统将具备什么能力以及它们将如何影响世界，这是重要的一部分。不是有人知道答案，然后他们会告诉你。我们可以告诉你关于这项技术方向的普遍信息。它变得越来越强大。它们会比你聪明。你在那个世界里会竞争力下降。但细节，技术奇点这个想法的一部分是，你无法看到它。通过类比，物理奇点，你无法预测一个有比你更聪明的人工智能代理的世界。
>> 所以，在一个人类非常不擅长处理不确定性并希望能够预测事物的情况下，你对人们在尝试自己解决这个问题有什么建议？
>> 嗯，再次，我不知道五年后哪个职业是最好的。但如果你对这些工具有很好的理解，你可以从中获得短期利益，也许可以将这些经济收益转化为一些长期投资，这可能会帮助你再次投资于土地股票和人工智能公司。
>> 你最喜欢投资的 AI 公司有哪些？
>> 所以，我认为最重要的投资是那些为人工智能公司提供计算能力的公司。所以，当然是英伟达，也许英特尔最终会复苏。
>> 罗曼，非常感谢你来参加播客并分享你的智慧。希望这次谈话能保持真实，人工智能不会把它拿走，然后再创造一些谈话出来。
>> 如果是更好的谈话，为什么不呢？
>> 我知道。为什么不呢，对吧？
>> 谢谢你邀请我。
>> 好的。再次感谢你来参加。