Transcription
以下是与李开复的对话。他是Sinovation Ventures的董事长兼首席执行官，该公司管理着一个20亿美元的双币投资基金，专注于发展下一代中国高科技公司。他曾任Google中国总裁，并创办了现称为微软亚洲研究院的机构，该机构培养了中国许多人工智能领域的领导者，包括百度、腾讯、阿里巴巴、美团和华为的首席技术官或人工智能高管。他被《时代》杂志评为全球100位最具影响力人物之一。他是七本中文畅销书的作者，最近一本是《AI超级大国：中国、硅谷和新世界秩序》，该书是《纽约时报》的畅销书。他在与大型科技公司和政府合作以及人工智能的应用方面拥有无与伦比的经验，因此他对全球创新和人工智能的未来有着独特的见解，我认为这值得倾听和思考。这是人工智能播客。如果您喜欢，请在YouTube和iTunes上订阅，通过Patreon支持我们，或者在Twitter上与我联系@lexfriedman。现在，这是我和李开复的对话。
我13岁时从俄罗斯移民到美国。你大约在同一年龄移民到美国。俄罗斯人民、美国人民、中国人民都有某种灵魂、某种精神，世代相传。所以，这也许是一个有点诗意的问题，但你能否描述一下你对定义中国灵魂的理解？
我认为今天中国人的灵魂，我们谈论的是那些因国家经历的贫困而承受了几个世纪负担的人们，在过去40年里，随着中国开放并拥抱市场经济，突然闪耀着繁荣的希望。毫无疑问，人们面临着两方面的压力：传统带来的压力，以及面对困难局面和希望成为第一个成功致富的人的压力。因此，这是一种非常强大的饥渴感、强烈的愿望和强大的职业道德，推动着中国前进，而且这种根源不仅仅是这一代人，而是更早的。这比新的经济发展更深层。在中国人民身上，有什么独特之处可以让你谈谈吗？
是的，中国传统是关于卓越、奉献和成果的。中国学校的考试和学习科目传统上是从记忆一万个汉字开始，这本身就不是一件容易的事。然后通过记忆历史哲学家、文学、诗歌来进一步学习。这可能是最强大的死记硬背机制，以确保人们拥有良好的记忆力并能极好地记住事物。我认为这既抑制了突破性创新，也提高了执行速度并取得成果。我认为这构成了中国历史的基础。
这很有趣，因为俄罗斯的教育也有类似的死记硬背的痕迹，需要记住很多诗歌。我的意思是，所有形式的完美都得到了强调。这可能不利于你所说的创造力，但你认为那种教育是否阻碍了你在美国可能看到的创新精神？
它确实阻碍了我们在美国看到的突破性创新精神，但它并没有阻碍我们看到的中国非常成功的、以执行为导向、以结果为导向、创造价值的强大引擎。那么，今天的中国人工智能工程师和美国人工智能工程师之间是否存在差异，也许根植于我们刚才谈到的文化、教育或人民的灵魂，还是没有？如果有差异，你对他们各自的建议是什么？
有很多相似之处，因为人工智能是关于掌握科学，关于使用已知技术并尝试新事物。但它也涉及到从许多可能的网络中进行选择，以及调整不同类型的参数。这部分有些死记硬背。而且，任何构建过人工智能产品的人都可以告诉你，这涉及到大量的数据清洗工作，因为人工智能在更多数据下运行得更好，而数据通常是非结构化的、有错误、有缺陷且不干净的。清洗数据的努力是巨大的。所以我认为美国工程人工智能工程过程中更好的部分是尝试新事物，做人们以前没有做过的事情，并利用技术解决大部分（如果不是全部）问题。所以，让算法在数据不太好的情况下也能工作，找到错误容忍的方法来处理数据。中国的方式将是尽可能全面地列举所有可能的方式，通过大量机器尝试许多不同的方式来使其工作，并花费大量资源、金钱和时间来清理数据。这意味着人工智能工程师可能正在编写数据清洗算法，与成千上万的标记、纠正或处理数据的人一起工作。这是可能带来更好结果的极其艰苦的工作。所以，中国工程师会依赖并要求越来越多、越来越多的数据，并找到方法来清理它们并使它们在系统中工作，而可能花更少的时间思考能够克服其他问题的新算法。
那么，你的直觉是什么？你认为未来十年最大的影响在哪里？是某些突破性算法，还是仅仅是这种大规模的严谨的数据清洗、数据组织、将数据应用于同一算法的严谨方法？
在应用领域，如果你真的在公司里，并且必须使用已知技术交付成果，那么增强数据似乎是更快捷的方法。这是低风险的，并且很可能产生越来越好的结果。这就是为什么中国的方法做得相当好。现在，有很多更具挑战性的初创公司和问题，比如自动驾驶汽车、医学诊断，现有的算法可能无法解决，这将使中国的方法面临更大的挑战，并使他们的方法在这些问题上更具突破性创新优势。
让我再多谈谈。我的个人直觉是，数据可以让我们走得很远。你提到了自动驾驶汽车和医学诊断。你的直觉是，大量数据可能无法完全帮助我们解决这些问题，对吗？
进一步分解来说，在自动驾驶汽车领域，我认为大量数据可能会解决卡车在高速公路上行驶的问题，这将带来巨大的价值，中国可能会在这方面领先。而完全的L5自动驾驶很可能需要我们尚不知道的新技术，这可能需要学术界和工业界的伟大研究共同创新和合作。在这种情况下，美国具有优势。那么，有趣的问题是，我不知道你是否熟悉自动驾驶汽车领域以及特斯拉和埃隆·马斯克的进展。我熟悉。他们正全力以赴地进入这个神秘而复杂的L5、L4、L5完全自动化的世界，并且他们正试图纯粹通过数据来解决这个问题。这和你说的，只是为了高速公路，很多人和你一样有同样的直觉。是的，他们正试图通过数据来解决。这只是一个持续的时刻。你认为他们有可能仅仅通过大量的训练，在极端情况、城市环境中的困难情况，而不仅仅是高速公路上，就能取得成功吗？
我认为这会非常困难。特斯拉的方法可以被看作是一种中国式的优势方法，即收集所有你能收集到的数据，并希望它能解决问题。但在自动驾驶领域，显然很多决策并不是通过聚合数据和反馈循环来解决的。有些事情更像是人类的思考，如何将它们整合和构建进去？将人类智能或专家系统（即使这是一个禁忌词）与机器学习结合起来，并且两种思维方式的整合尚未得到证明。问题在于，纯粹的机器学习方法能走多远？当然，特斯拉还有一个额外的限制，就是他们没有所有的传感器。我知道他们认为使用激光雷达很愚蠢，但这显然是他们放弃的一个非常有价值且可靠的输入来源，这可能也会产生后果。我认为优势在于捕获前所未有的数据。在某些情况下，比如计算机视觉和语音识别，我看到中国公司积累了西方世界从未见过的数据，并且取得了卓越的成果。但语音识别和物体识别是深度学习相对适合的问题，并且不像在同一领域那样可能需要人类智能分析和规划元素。在语音识别方面，你的直觉是，语音识别和机器学习方法无法让我们达到能够通过图灵测试的对话系统，这有点类似于驾驶。所以它需要比简单的语言理解、简单的语言生成更进一步，对吗？
我会说，基于纯粹的机器学习方法，很难想象它能带来跨越任意领域的完整对话体验，这类似于L5。我有点犹豫使用“图灵测试”这个词，因为最初的定义可能太容易了。我们可能已经做到了。是的，图灵测试的精神，我指的是这个。
你曾在苹果、微软、谷歌担任过重要的领导研究职位。继续讨论美国、俄罗斯、中国灵魂和文化等等。与中国和美国（更广泛地说）相比，硅谷的文化是什么？在你看来，这三家主要公司的独特文化是什么？
我认为总体而言，硅谷的公司，我们也可以包括微软，即使它们不在硅谷，也是在“大胆梦想，拥有远大目标，并相信技术将征服一切”。还有那种自信和自负，无论他们生产什么，全世界都应该并且必须使用。这些在历史上都很重要。我认为史蒂夫·乔布斯有一句名言，他不进行焦点小组调查，他看着镜子问镜子里的人：“你想要什么？”这确实是一句鼓舞人心的话，说明伟大的公司不应该仅仅问用户想要什么，而是要开发出用户看到后会知道他们想要的东西，但他们自己却永远无法想出来。我认为这是对硅谷本质最令人振奋的描述：这个绝妙的想法可以让你构建出无法通过焦点小组或A/B测试得出的东西。iPhone就是一个例子。在黑莓时代，没有人会写下他们想要一部iPhone或多点触控浏览器。一旦他们看到了，他们就想要了。所以，我认为这是硅谷最擅长的。但它也伴随着巨大的成功。这些产品成为了全球平台，而且基本上没有竞争对手。这也导致了一种信念，即这些是唯一应该做的事情，公司不应该侵犯其他公司的领域。所以，比如Groupon、Yelp、OpenTable和Grubhub，它们各自都觉得“好吧，我不会做其他公司的生意，因为那不是我们各自创新的骄傲。”但我认为中国的方式是“不惜一切代价去赢”，这是一个赢家通吃的市场。事实上，在互联网领域，市场领导者将获得系统中绝大部分的价值。而且，系统不仅仅被定义为一个狭窄的类别，而是越来越广泛。因此，对成功和对日益扩大的产品类别的统治的惊人野心，导致了明确的市场领导者地位和提取巨大价值的机会。这培养了一种务实、结果导向、超级雄心勃勃的、赢家通吃的角斗士心态。如果需要，他们可以构建竞争对手构建的东西，基本上是模仿者，只要不侵犯法律。如果需要满足一个外国的需求，可以通过分叉代码库构建出看起来非常丑陋且不同的东西，他们也会这样做。这与硅谷的方式形成了鲜明对比。我认为灵活性、速度和执行力帮助了中国的方式。我认为硅谷的方式可能面临挑战，如果每个中国企业家都在向全世界学习，而美国企业家只向内看，并将中国视为模仿者。你问题的第二部分是关于这三家公司，也许是独特的元素。我认为苹果代表了“用户至上”，设计的本质和品牌。它是唯一一家吸引人们对其产品有强烈、严肃的渴望，并愿意因为品牌的光环效应而支付溢价的公司，这种光环效应来自于对细节的关注和对用户需求的极大尊重。微软代表了一种平台方法，构建了巨大的产品，形成了强大的壁垒，其他人无法做到，因为它在底层架构良好，并且工作被有效地委托给个人，然后整个产品是通过添加小的部分来构建的，这些部分加在一起。它可能是最高效的高科技装配线，构建了非常困难的产品，而整个过程就是一种差异化，是竞争对手无法轻易复制的。
在微软组装这些小部件并长期主导市场的过程中，是否存在中国式方法的元素，或者你认为这是截然不同的？
我认为存在相同的元素。我认为这三家美国公司，无论是有还是没有，都有中国特色，当然也有美国特色，那就是微软、Facebook和亚马逊。是的，没错。亚马逊，因为这些公司会顽强地追求相邻市场，建立强大的私有产品，并找到方法从不断扩大的领域中提取更大的价值，并且它们理解平台的价值。这就是相似之处。然后，谷歌我认为是一家真正以价值为导向的公司，它有心有灵魂，希望通过连接信息为世界做伟大的事情，并且它也有非常强大的技术基因，并希望利用技术，并找到了创新的方法来为最终用户提供巨大的价值。
我们可以以谷歌为例。你提到了“心有灵魂”。似乎有一个方面是谷歌在让世界变得更好。有一个更积极的观点。我以前有“不作恶”的口号。而Facebook则带有一点负面色彩，至少在隐私等方面是这样。你是否感觉到这些不同的公司如何实现这一点？你谈到了我们如何让世界变得更好，以及所有这些方式，人工智能。一家公司如何才能拥有“心有灵魂”，获得公众的信任，并且实际上“不作恶”，为世界做好事？
这真的很难。我认为谷歌在这方面也遇到了困难。首先，“不作恶”的口号非常危险，因为每个员工对“邪恶”的定义都不同，这导致了他们一些困难的员工局面。所以我并不一定认为这是一个好的价值主张。但仅仅观察谷歌或其母公司Alphabet在新领域所做的事情，比如医疗保健，比如根除蚊子，这些事情实际上并不是一家互联网科技公司的业务。我认为这表明它有心有灵魂，有做好事的愿望，并愿意投入资源去做它认为好的事情。这并不一定意味着它获得了用户的全部信任。我意识到，虽然大多数人会将Facebook视为他们对硅谷公司最近不满的主要目标，但许多人也会将谷歌列入其中，有些人甚至称谷歌的商业行为是掠夺性的。所以，很难让身体的两个部分——大脑想要为股东最大化利润，而心有灵魂想要做的好事可能与大脑想要做的事情相悖。
在这些公司必须进行的复杂平衡中，你曾提到你担心一个未来，即像谷歌、Facebook、亚马逊这样少数几家公司控制着我们的数据，控制着我们数字生活的太多部分。你能详细阐述一下这个担忧吗？也许你有一个更好的前进方向？
我 hardly是对此抱怨最多的人。外面有更多响亮的抱怨。我确实观察到，拥有大量数据会延续它们的优势，并在许多领域限制竞争。但我也相信，人工智能比互联网领域要广泛得多。因此，利用人工智能赋能金融、零售、制造、教育应用仍然存在创业机会。所以我认为这并不是完全的垄断性主导地位，完全扼杀了创新。但我确实相信，在它们的优势领域，很难将它们撼动。我不知道我是否有好的解决方案。也许最好的解决方案是让创业风险投资生态系统良好运作，并找到所有可以创造下一个谷歌、下一个Facebook的地方。因此，总会有越来越多的挑战者。在某种程度上，这已经发生了一些。你看到Uber、Airbnb的出现，尽管有这三大巨头的实力。而且，我认为中国作为一个环境可能更有趣，因为如果你看看那些市值在500亿到3000亿美元之间的公司，中国在过去三到四年里出现的这类公司比美国多，因为市场更大，因为企业家的胆识更大，而且中国的巨头和美国的一样强大。腾讯和阿里巴巴非常强大，但微信的估值达到750亿美元，而支付宝虽然隶属于阿里巴巴，但仍然是独立的，估值达到1500亿美元。所以，我认为如果我们开始扩展到传统业务，我们将看到非常有价值的公司。所以，五年或十年后，我们仍然看到整个世界被这五家公司如此主导，这种情况可能不会发生。
你曾多次提到中国迷人的创业世界，以及企业家的无畏精神。你能否谈谈在中国成为一名企业家需要什么？采取了哪些策略？成功的途径是什么？风险投资资金的动态，政府如何帮助公司？这里有什么与硅谷创业世界不同的有趣方面吗？
许多听众可能仍然会将中国企业家品牌化为模仿者。毫无疑问，十年前，这种描述并不夸张。十年前，如果一个企业家不能描述他或她正在模仿美国的产品，可能就无法获得资助。第一个问题是“谁已经证明了这个商业模式？”，这是一种委婉的说法，意思是“谁在模仿？”。这种原因是可理解的，因为中国当时的互联网普及率低得多，而且没有足够的本土经验来构建创新产品。其次，互联网正在兴起，创业是做事的方式，构建第一个最小可行产品，然后扩展是正确的方式。而美国的成功提供了一个捷径，如果你构建的最小可行产品是基于美国产品，那么它保证了一个不错的起点，然后你再进行调整。只要没有知识产权侵权，在移动和人工智能领域确实没有侵权，这是一个更好的捷径。我认为硅谷仍然会认为这不光彩，因为这不是你自己的想法。但你不能同时相信每个想法都必须是你自己的，并且相信精益创业方法，因为精益创业是为了尝试许多事情，然后收敛一个有效的。它是为了迭代和改变。所以，找到一个不错的起点而不违反法律，在道德上不应该有任何不光彩之处。
所以，快速暂停一下。这很有趣，为什么那不光彩？正如你所说，这似乎是创业的完美开端。是的，就是看看亚马逊，然后说“好吧，我们将做和亚马逊完全一样的事情，从那里开始。”在这个特定的市场，然后我将从中进行创新。是的，用新的方法。我的意思是，接受“模仿者”这个词听起来不好，但模仿是错误的吗？它似乎只是一种聪明的策略。是的，它没有英雄主义的色彩。是的，就像史蒂夫·乔布斯、埃隆·马斯克那样，创造出全新的东西。我喜欢你描述它的方式。这是一种非英雄主义的、可接受的创业方式，而且可能更快捷。所以，我认为这是硅谷的包袱，如果它不放手，它可能会限制公司的最终上限。以Snapchat为例，我认为埃文的才华在于他构建了伟大的产品，但他非常自豪地想构建自己的功能，而不是模仿别人。而Facebook更愿意模仿他的功能，你看到了竞争的结果。所以，我认为给一家公司戴上这样的枷锁会限制它达到最大潜力的能力。
回到中国环境，模仿仅仅是向美国大师学习的一种方式，就像我们学习弹钢琴或绘画一样，你从模仿开始，而不是在你没有基本技能的情况下开始创新。所以，令人惊讶的是，大约六年前，中国企业家开始通过这些基于美国创意的精益创业公司进行分支，以构建比美国产品更好的产品。但他们确实是从美国创意开始的。今天，微信比WhatsApp好，微博比Twitter好，雅虎比Quora好，等等。我认为这是中国企业家进入第二步。第三步是，一旦这些企业家做了一两家这样的公司，他们现在就会审视中国市场和机会，并想出在其他地方不存在的创意。所以，像支付宝（包括移动支付和基于此的金融产品）、教育领域的VIPKID、社交视频社交网络TikTok、社交电商拼多多，以及共享出行摩拜单车，这些都是中国创新的产品，现在正在被其他地方模仿。而且，还有一个有趣的创新是，其中一些产品是基于独特的中国人口统计学构建的，这在美国可能行不通，但在东南亚、非洲和其他比中国落后几年的发展中世界可能非常有效。其中一些产品可能是普适性的，甚至在美国也获得了关注，比如TikTok。
整个生态系统得到了风险投资的支持，形成了一个良性循环，因为一个拥有创新企业家的庞大市场将吸引大量资金，然后投资于这些公司。因此，随着市场越来越大——中国市场的规模轻易是美国的3到4倍——它们将为风险投资创造更大的价值和回报，从而吸引更多的资金。所以，在Sinovation Ventures，我们的第一只基金是1500万美元，我们的最后一只是5亿美元，这反映了公司的估值以及我们进行多阶段投资等等。它也有政府的支持，但不是大多数美国人认为的那种方式。政府实际上将创业领域留给了私营企业，它们是自我监管的。政府会建立周围的基础设施来使其更好地运作。例如，“大众创业、万众创新”计划建立了8000个孵化器，所以管道非常强大。对于自动驾驶汽车，中国政府正在建设带有传感器的智能高速公路，以及将行人与汽车分开的智慧城市，这可能允许一家最初不太优秀的自动驾驶汽车公司在不增加伤亡的情况下推出汽车，因为道路或城市是智能的。中国政府在地方层面会有这些引导基金，作为基金的有限合伙人（LP），被动地作为LP。当基金赚钱时，一部分利润会返还给普通合伙人，可能还有其他LP，以提高每个人的回报，但以政府的回报为代价。这是一个有趣的激励机制，也是一种信任，将选择企业家的任务委托给比政府更擅长的风险投资公司，让一部分利润流向那里。
这真的很迷人。我将俄罗斯政府作为一个案例研究。让我这样说吧，没有如此大规模的政府驱动的创业支持，在美国可能也是如此。但企业家们自己找到了出路。所以，也许作为建议或解释，中国政府是如何变得如此支持创业的？以这种特殊的方式，如此具有前瞻性，如此大规模？而且，我们如何复制它在其他国家？如何鼓励其他政府，比如美国政府，以同样的方式支持自动驾驶汽车的基础设施？
这些技术是几个关键因素的结果，其中一些可能是可以学习的，而另一些可能非常困难。一是反复试验和观察他人的做法。我认为保持谦虚很重要，不要觉得自己知道所有答案。引导基金的想法来自新加坡，来自以色列，中国做了一些调整并将其变成了一个，因为中国的城市和政府官员之间存在竞争，因为他们都希望让自己的城市更成功，以便在他们的政治生涯中晋升。这有点竞争性。所以，中央政府将其变成了一种竞争。每个人都有预算，他们可以将其投入人工智能，或生物技术，或能源。然后，谁取得成果，城市就闪耀，人民就过得更好，市长就得到晋升。所以，这些工具有点像一个创业环境，让地方政府看看谁能做得更好。而且，许多人尝试了不同的实验。有些给予了非常聪明的研究人员奖励，只是给他们钱，希望他们能创业。有些给了学术研究实验室钱，看看他们是否能从科学实验室分拆出一些公司。有些试图招募海外华人回来创业，结果好坏参半。最有效的是引导基金。这几乎就像一个精益创业的想法，人们尝试不同的东西，有效的就留下来，每个人都模仿。所以，现在每个城市都有引导基金。这就是它的由来。自动驾驶汽车和大规模的高速公路、智慧城市支出，这是中国的方式。它是关于建设基础设施来促进。这是政府责任与市场的明确划分。市场应该做所有事情，但有些事情是市场负担不起的，比如基础设施。所以，政府总是投入大量资金用于基础设施建设。这不仅发生在自动驾驶汽车领域，也发生在3G和4G领域。你会发现中国的无线接收比美国好，因为大规模的投资试图覆盖全国，而在美国可能有些地方信号不好。这是政府驱动的，因为我认为他们将蜂窝接入和3G、4G接入的覆盖视为政府基础设施支出，而不是资本主义支出。当然，国有企业也是上市公司，但它们也承担着向所有人提供基础设施的政府责任。这是一种不同的思维方式，可能很难注入西方国家，比如从明天开始，带宽基础设施和高速公路将是政府支出，并具有某些特征。
你的看法是什么？抱歉打断，但这是一个非常迷人的观点。你认为在自动驾驶汽车领域，是否有可能在不进行大规模基础设施投资的情况下解决完全自动化的难题？
这真的很难推测。这不是一个“是”或“否”的问题，而是“需要多长时间”的问题。比如15年、30年、45年？显然，通过基础设施的增强，无论是城市规划还是建造新城市，我相信这都会加速L5的到来。我对这方面不够了解，而且即使我们了解了也很难预测，因为很多都是推测性的。但在美国，我认为人们不会考虑建造一座像芝加哥那样大的新城市来使其成为人工智能/自动驾驶城市。我知道有一些较小的城市正在建设中。但基础设施支出对我们或西方国家来说真的不可能吗？我认为不是。美国的公路系统是艾森豪威尔总统还是肯尼迪总统时期建造的？是艾森豪威尔。所以，历史学家可以研究艾森豪威尔总统是如何获得资源来建造这个庞大的基础设施的，这无疑在未来几十年甚至一个世纪里给我们带来了巨大的繁荣。
如果我评论一下，这会涉及到人工智能，因为为了建设基础设施，它创造了很多就业机会。我实际上很想知道，你是否会在你的书中谈到所有可能无法自动化的工作？我想知道基础设施建设是否是那些不容易自动化的工作之一？这是你可以思考的事情，因为你提到过，随着工作被自动化，政府可能有一个创造无法自动化工作的角色。是的，我认为这是可能的。在上次金融危机期间，中国投入了大量资金来刺激经济，其中很多都用于基础设施建设。我认为这是政府层面处理就业问题和建设基础设施的一种合法方式，只要这些基础设施是真正需要的，并且只要不存在就业问题，我们不知道。
所以，也许退一步说，如果你在人工智能领域领导和研究了几十年，至少30年。在你观察到的过去30年里，人工智能在西方和东方是如何变化的？
人工智能最初是理解人类智能的追求，这个词本身就代表了这一点。但它逐渐转向了一个非常有效的分支领域，那就是机器智能。这实际上更多的是利用模式识别技术，在有限或领域内的大量数据上表现得非常好，但相对简单的规划任务，而且不太有创造性。所以，我们最终没有构建人类智能，而是构建了一种不同的机器，它在某些问题上比我们好得多，但在其他问题上却远远不如我们。所以，今天我认为很多人仍然误解当我们说人工智能以及各种产品能做什么时。人们仍然认为这是关于复制人类智能，但现有的产品更像是发明了互联网、电子表格或数据库，并获得了更广泛的采用，并进一步加剧了人们对人工智能的近期恐惧。
你是在评论人们在流行文化中，从科幻电影中对通用智能的看法，而存在实际的恐惧，关于你所说的狭义人工智能，即自动化特定类型的工作。你在书中谈到了它们。那么，在你看来，在未来5到10年里，哪些类型的工作将开始被人工智能系统和算法自动化？
这可能有点违反直觉，因为最先被取代的是常规性工作。它们可能不会完全被取代，也许是工作量的50%到80%，但当工作量下降这么多时，就业人数就会下降。而且，另一个误解是，大多数人认为人工智能取代常规性工作，然后他们会想到流水线工人。这会产生一些影响，但实际上更容易取代的是常规性白领工人，因为要取代白领工人，你只需要软件。要取代蓝领工人，你需要机器人技术、机械卓越性以及处理灵活性甚至未知环境的能力，这非常非常困难。所以，如果我们对最危险的白领工作进行分类，那就是后台人员，他们复制粘贴，处理简单的计算机程序、数据，也许还有纸张和OCR，他们不做战略决策，他们基本上是促进流程。软件和纸张不起作用。所以，你会发现人们处理新员工入职、搜索过去的诉讼和财务文件、进行基本搜索的背景调查以及管理数据。这些数据最有可能丢失。除了白领重复性工作，许多简单的互动工作也可以完成，比如电话销售、电话营销、客户服务，以及许多位于同一地点且不需要高度灵巧性的体力工作。比如水果采摘、洗碗、流水线检查都属于这一类。所以，总的来说，后台是一个大头，而蓝领工作最初可能较小，但随着时间的推移，它们会变得更好。而且，当我们开始进入未来15到20年，能够真正拥有流水线工作的灵活性时，那将是大量的工作。而且，当自动驾驶汽车开始工作时，最初是从卡车司机开始，但最终会扩展到所有司机，那是另一大群体工人。所以我看到未来五年数量不多，但之后会迅速增加。我担心那些处于危险中的工作以及工作的逐渐流失。
我不知道你是否熟悉安德鲁·杨？是的，我认识。所以，有一位美国总统候选人，他的平台部分基于自动化导致的失业，以及对普遍基本收入的需要，以支持那些因自动化而失业的人，等等。以及普遍支持人们在复杂不稳定的就业市场中生存。那么，你对他和他作为候选人的担忧、他的想法有什么看法？
我认为他的想法总体上是正确的方向。但作为总统候选人的方法可能有点操之过急。我认为失业会发生，但会发生得足够快，让人们同意投票给他吗？目前的失业率还不是很高。我认为他和我有同样的挑战，如果我想理论上说服人们这是一个问题，而他想成为总统，人们必须看到这怎么可能，当失业率很低时？这就是挑战。而且，我认为我们确实同意失业问题，也同意普遍基本收入。在非常基础的层面上，我不同意，因为我认为主要问题是再培训。所以，人们需要受到激励，而不仅仅是每月给他们2000美元或1000美元的支票，让他们随心所欲，因为他们不知道该如何再培训，去从事哪种类型的工作，并且需要指导。需要再培训，因为历史上，当技术革命发生，常规性工作被取代时，新的常规性工作出现了。所以，总有空间。但随着人工智能和自动化，关键在于最终取代所有常规性工作。所以，常规性工作会越来越少。人工智能会创造就业机会，但它不会创造常规性工作，因为如果它创造常规性工作，为什么人工智能不做呢？因此，那些失去工作的人并不是失去常规性工作。那些可用的工作是非常规性工作。所以，社会津贴应该为那些失去工作的常规性工人提供，让他们再培训，也许六个月，也许三年，再培训非常规性工作需要一段时间，然后找到一份能持续一生的工作。
话虽如此，如果你深入研究安德鲁的文件，他确实考虑到了这一点。所以，我并不是不同意他想做什么，但为了简化，有时他只是说UBI。但简单的UBI是行不通的。而且，我认为你在其他地方提到过，我的目标不一定是给人们足够的钱来生存或生活，甚至不一定是让他们过上富裕的生活。关键是给他们一份有意义的工作。意义非常重要。就业，至少在美国，也许在世界各地，提供了一些比金钱更重要的东西——它提供了意义。
那么，你认为哪些工作无法被自动化？你在书中谈到了创造力和同情心。你认为人工智能系统难以自动化的方面是什么？因为人工智能系统目前只是在优化，它无法推理、计划或进行创造性或战略性思考。它无法处理复杂的问题。它无法提出一个新问题并解决它。人类需要找到问题，并将其作为一个优化问题来提出，然后让AI来处理它。所以，人工智能在发现新药、发现新绘画风格或处理复杂任务（如管理公司）方面会非常困难，这些任务不仅仅是优化底线，还包括员工满意度、企业品牌以及许多其他事情。所以，这是一类事情。而且，因为这些事情具有挑战性、创造性、复杂性，所以做这些事情会带来高度的满足感，因此吸引了我们对工作的渴望，这不仅仅是为了赚钱糊口，也是因为我们完成了一些别人可能无法做到或做得同样好的事情。
另一种类型的工作，数量更多，是同情心工作。需要冷静、同情、人情味、人际信任的工作。人工智能做不到，因为人工智能是冷酷计算的，即使它能在某种程度上伪装，它也会犯错误，这会显得非常愚蠢。而且，我认为即使他们添加了好的东西，人们也希望与人互动，无论是为了某种服务，还是老师、医生、礼宾员、按摩师、调酒师。有很多工作是人们不想与冷冰冰的机器人或软件打交道。我有一个企业家，他建造了一个老年人护理机器人，他们发现老年人只用它来客服，而不是服务产品。但他们点击客服，然后一个人的视频出现了，然后那个人说：“我女儿为什么没给我打电话？”“让我看看孙子孙女。”所以，人们需要人际互动。即使机器人改进了，人们也不想要。而这些工作将会越来越多，因为人工智能将为世界带来巨大的价值，根据普华永道的估计，在未来11年内将带来16万亿美元的价值。这将给人们带来享受服务的金钱，无论是吃一顿美食，还是旅游，还是享受礼宾服务。围绕着这16万亿美元的每一美元的服务，都将是巨大的。它将创造更多为那些通过人工智能做得很好的人提供服务的机会。但同时，整个社会也极度需要许多服务导向、同情心导向的工作。最好的例子可能是在医疗保健服务领域。在未来六年内，将有200万个新工作岗位，不是替代，而是全新的增量工作岗位，仅在医疗保健服务领域。这包括护士、医院里的杂役、老年人护理，以及居家护理。这尤其缺乏，而且这些工作很可能无法填补。所以，很可能出现短缺。它们之所以无法填补，仅仅是因为它们的薪酬不高，而且这些工作的社会地位也不高。它们的薪酬大约是重型设备操作员的一半，而重型设备操作员将很快被取代。它们的薪酬可能与流水线工人相当。所以，如果我们忽略所有其他问题，只考虑工作的满意度，一个人重复地在流水线上做同样的手工动作，这无法带来很多工作满意度。但一个人照顾病人，并从病人及其家人那里得到拥抱和感谢，我认为这是相当令人满意的。所以，如果我们能解决服务工作的薪酬问题，那么有很多工作需要一些培训或大量的培训，供那些从常规性工作中出来的人来从事。我们可以很容易地想象一个曾经是超市收银员的人，因为商店被自动化了，学会了成为一名护士，或者居家护理人员。
蓝领工作将保留的时间会更长一些，其中一些会相当长。你知道，人工智能无法被告知去打扫一个任意的家，这非常困难，可以说是L5级别的难度。然后，人工智能不能成为一个好的水管工，因为水管工几乎就像一个迷你侦探，必须找出漏水的原因。所以，人工智能可能可以成为流水线工人和汽车修理工等等。所以，人们必须研究哪些蓝领工作正在消失，并促进人们再培训到那些不会消失，甚至可能增加的工作中去。
我发现，制造一个世界冠军的国际象棋选手比制造一个平庸的水管工要容易。是的，确实如此。这与许多人对人工智能的理解背道而驰。
听起来，你描绘了一幅相当乐观的图景，关于再培训，关于工作的数量，以及一旦我们自动化了重复性任务，这些工作的有意义的性质。总的来说，你对未来感到乐观吗？即许多重复性任务被自动化，人类有很大的空间，有同情心，有只有人类才能提供的创造性投入？
我感到乐观，如果我们开始采取行动。如果我们未来五年内不采取行动，我认为将很难应对出现的毁灭性损失。所以，如果我们开始考虑再培训，也许从低垂的果实开始，向职业学校解释为什么他们应该培训更多的水管工，而不是其他机械师。也许从一些政府补贴开始，让公司有更多的培训职位。我们开始向人们解释为什么再培训很重要。我们开始思考教育的未来，以及如何为人工智能时代调整教育。如果我们开始取得渐进式进展，并且越来越多的人理解，那么就没有理由认为我们无法应对这个问题，因为这场技术革命可以说与电力、工业革命和互联网带来的革命相似。
你认为政策、政府介入以帮助制定政策以创造一个更美好的世界有作用吗？
绝对有。而且，政府不必相信就业会增加，也不必相信自动化会如此之快。他们可以做一些事情。改革职业学校是一个例子。另一个是，如果医疗保健服务就业存在巨大差距，而且我们知道一个国家的人口正在增长，寿命越来越长，因为80岁以上的人比80岁以下的人需要五倍的护理，那么现在是时候激励老年人护理培训计划，寻找改善薪酬的方法。也许一种方法是通过医疗保险或……
为80岁以上的人士提供一项相当于的计划，让他们在家中享受几个小时的老年护理，然后这笔费用可能会得到报销，这将刺激围绕该政策的服务业。您是否担心大型实体，无论是政府还是公司，控制着人工智能发展的未来？所以我们谈到了公司，您是否觉得政府更能代表人民的利益，还是公司更能代表人民的利益？或者没有简单的答案？我认为没有简单的答案，因为这是一把双刃剑。公司和政府可以提供更好的服务，拥有更多的数据访问权限和更多的人工智能访问权限，但这也会带来更大的权力，可能导致无法控制的问题，无论是垄断还是政府腐败。所以我认为人们必须小心，看看公司和政府拥有多少数据，以及某种形式的制衡会有所帮助。再说一遍，我来自俄罗斯，那里有一种叫做冷战的东西。所以让我问一个困难的问题。看看冲突，史蒂芬·平克写了一本很棒的书，书中说世界各地的冲突总体上在减少，但您是否觉得，写了《人工智能超级大国》这本书后，您是否看到在未来10年、20年、50年内，主要国家之间可能会发生重大的国际冲突，无论它们是俄罗斯、中国、欧洲国家、美国还是其他国家，围绕人工智能、数字空间、网络空间？您担心吗？这是我们需要思考并试图缓解或预防的事情吗？我相信更大的参与。许多关于更强大的人工智能的担忧都基于军备竞赛的比喻，当您将其推断到军事场景时，人工智能可以自动化和……您知道，需要以某种方式控制的敌对武器，而自主决策可能导致没有足够的时间来解决国际危机。所以我实际上认为冷战思维会非常危险，因为如果两个国家依赖人工智能做出某些决定，而它们又不互相沟通，它们会自己进行情景规划，那么事情很容易出错。我认为参与、互动、一些协议来避免意外灾难实际上是需要的。所以，每个国家都想成为最好的，无论是在核技术、人工智能还是生物技术方面，这都是自然的。但我认为重要的是要认识到，如果每个国家都有一个不互相交流的黑箱人工智能，那么它可能比它们互动时给人类带来的挑战更大。我认为仍然可以有竞争，但要有一些互动协议，就像过去核竞争时，美国、俄罗斯和中国之间有一些威慑协议一样，我认为这种参与是需要的。当然，我们离人工智能带来那种危险还很遥远，但我最担心的是参与程度似乎在下降，不信任程度似乎在上升，尤其是从美国对中国等其他大国，以及当然还有俄罗斯的看法。是的，有没有办法让情况变得更好？所以这说得很好，参与度，甚至只是基本的信任和沟通，而不是……您知道，把某些国家塑造成人为的敌人。您是否曾感觉到我们如何能让它变得更好？提到我们可以作为社会承担的事项。我不是地缘政治专家，但我想说，当我们有机会为人类创造16万亿美元时，我们看起来很愚蠢，而我们……我们还没有解决世界上一些地区仍然贫困的基本问题，而且我们第一次拥有了克服贫困和饥饿的资源，我们却不把它用在那里，反而助长了超级大国之间的竞争，这是一件非常不幸的事情。如果我们暂时变得乌托邦，想象一个仁慈的世界政府拥有这16万亿美元，也许还有一些人工智能来弄清楚如何利用它来应对疾病、问题和仇恨之类的事情。世界会好得多。那么当前世界有什么问题呢？我认为比我更有能力的人应该思考这个问题。地缘政治问题和超级大国竞争是问题的一方面，还有另一方面，我担心甚至更甚，那就是当这16万亿美元全部由美国、中国和少数其他发达国家创造时，贫穷国家将一无所获，因为它们没有技术，财富差距和不平等将增加。所以一个人口众多的贫穷国家不仅将从人工智能池或其他技术繁荣中受益，而且它们将拥有那些曾经希望能够效仿中国模式并从事外包制造或印度模式的工人，所以它们可以从事家政服务或呼叫中心，所有这些工作将在10到15年内消失。所以，个人公民对一个贫穷国家来说可能在经济上是一个净负债，而不是一个可以摆脱贫困的资产。在这种情况下，这些没有多少技术的大国将面临一个恶性循环，而且不清楚该怎么做。然后当我们回顾并说有16万亿美元被创造出来，而这些钱全部被美国、中国和其他发达国家保留时，这感觉不对。所以我希望那些了解地缘政治的人能够找到超出我专业知识的解决方案。所以我们谈到的不同国家有不同的价值体系。如果你看美国，几乎到了极点，人们绝对渴望言论自由。如果你看我长大的国家，人们的这种渴望就没有那么高，它基本上是美国本质的基本层面。对吧？中国也是如此。有不同的价值体系，中国和俄罗斯以及许多其他国家都对互联网内容进行审查。您是否认为这对人工智能发展的创新或其他方面有影响？我们谈论过，也许从另一个角度来看，您是否认为在未来10年、20年、50年里，随着中国继续像现在这样在技术创新方面发展，情况会发生变化？普遍认为，完全的言论和表达自由与创造力相关，而创造力又与创业成功相关。我认为经验上我们已经看到事实并非如此，中国已经取得了成功。这并不是说基本价值观是错误的或不是最好的，只是说这种完美的关联并不存在。很难读懂任何国家开放或不开放的迹象，而且我在过去的预测中一直做得不好，但我确实相信每个国家都共享一些基本价值观，许多基本价值观是为了长远的。所以，你知道，中国正在起草其个人公民的隐私政策，它们看起来与美国或欧洲的隐私政策没有太大区别。所以人们确实希望保护自己的隐私，并有机会表达自己，我认为基本价值观是存在的。问题在于执行和时机，什么时候或何时会开始开放。所以，只要每个政府最终都知道人们想要这种保护，就应该有一个朝着这个方向发展的计划。至于何时或如何，我不是隐私方面的专家。对我来说，这真的很有趣。所以人工智能需要数据来创造个性化的精彩体验。是的，好吧，我只是笼统地说产品，然后我们目前根据年龄和我们谈论的人群的构成，有些人对他们交出的数据量或多或少地感到担忧。那么在您看来，我们如何才能做到平衡，既为使用产品的用户提供绝佳的体验？看看Facebook，您知道，Facebook对您的了解越多，是的，说起来很可怕，但它可能创造的体验可能越好。那么在您看来，我们如何才能做到平衡呢？是的，我认为很多人误解了，可以而且可能将所有数据从提供商那里提取出来并返还给您，这样您就可以拒绝他们进一步访问数据，同时仍然享受我们拥有的服务。如果我们拿回所有数据，所有服务都会给我们带来无稽之谈，我们将无法再使用功能良好的产品，就……您知道，正确的排名，正确的产品，正确的用户体验。所以，是的，我确实理解我们不希望允许非法使用数据，从法律政策的角度来看，我认为那些严重滥用数据的人可能会受到严厉惩罚。我认为这实际上是一个很好的第一步。中国在这方面有非常严格的法律，禁止人们将数据出售或提供给其他公司，而且在过去几年里，自从该法律生效以来，它几乎根除了非法分发和共享数据。此外，我认为技术在解决技术滥用方面通常是一种非常好的方式。那么我们能否开发出新技术，让我们能够两全其美？人们正在研究同态加密，它允许您保留数据，对其进行加密，并在加密数据上进行训练。当然，我们还没有解决这个问题，但这种方向可能值得追求。还有联邦学习，它允许一家医院完全在其医院的患者数据上进行训练，因为它们有许可证，然后医院会将它们的模型，而不是数据，与模型共享，以创建一个超级人工智能，这可能也有一些希望。所以我想鼓励我们保持开放的心态，并将其视为不仅仅是政策的二元选择，而是让技术人员尝试找到解决方案，让我们能够两全其美，或者拥有大部分蛋糕并吃掉大部分。最后，我认为让每个最终用户都有选择很重要，并且透明度也很重要。我也认为这是普遍的，但您提供给用户的选择不应该是用户无法理解的细粒度级别。今天的GDPR导致了所有这些弹出窗口，询问是否允许此网站使用您数据的此部分。我不认为任何用户都明白他们是在说“是”还是“否”，我怀疑大多数人只是说“是”，因为他们不明白。所以，虽然GDPR在其目前的实施中实现了其透明度和用户选择的承诺，但它的实施方式并没有真正实现GDPR的精神。它符合字母，但不符合精神。所以，再说一遍，我认为我们需要思考，是否有办法通过使用某种技术来符合GDPR的精神？我们能否有一个滑块，由人工智能来确定您希望在完美保护个人数据安全与高程度的便利性之间滑动多少，同时存在一些不完全隐私的风险？每个用户都应该有一些偏好，这给了您用户选择。但也许我们应该颠倒这个问题，并问是否有一个人工智能算法可以定制它？因为我们可以理解滑块，但我们肯定无法理解每个弹出问题。我认为要做到这一点，需要平衡我们之前谈到的，即心灵和灵魂与利润驱动的决策和战略。我认为从我的角度来看，长期赚大钱的最佳方式是保持心灵和灵魂的完整。我认为在短期内正确地设置这个滑块可能会感觉像是牺牲了利润，但从长远来看，您将赢得用户信任并提供出色的体验。您是否也持有这种观点？是的，绝对。我当然希望有一种方法可以让我们做长期项目，真正做正确的事情。我认为许多拥抱GDPR的人，他们的初衷是好的。我认为他们只需要弄清楚如何构建解决方案。我听过乌托邦主义者谈论让我兴奋的解决方案，但不确定在目前的资金环境下它们如何开始。人们谈论想象一下这种众包数据收集，我们都信任它，然后我们有这些代理，我们要求他们询问受信任的代理，我们只询问那个平台，那个我们都相信是值得信赖的平台，它可以为我们提供所有闭环的个人建议，通过新的社交网络、新的搜索引擎、新的电子商务引擎，它甚至可以访问更多我们的数据，但不是直接，而是间接。所以我认为许可到某个受信任引擎的通用概念，以及找到一种信任该引擎的方法，似乎是一个好主意。但如果您考虑一下实现、调整和正确开发它需要多长时间，以及从人们那里收集所有信任和数据，这超出了风险投资的当前周期。那么，您该如何做到呢？这是一个大问题。您最近与癌症进行了斗争，第四期淋巴瘤，在非常个人的层面上，在黑暗的时刻，面对自己的死亡是什么感觉？我一生都是一个工作狂，我基本上每周工作六天，早上9点到晚上9点，大约是这样。我没有真正关注我的家人、朋友和爱我的人，我的生活围绕着优化工作展开，虽然我的工作不是例行公事，但我的优化真的让我的生活基本上变成了一个机械的过程。但我从中获得了许多成就感，因为我认为这些成就是真正重要和珍贵的，对我来说是最高优先级的。但当我面对死亡，可能在几个月内死亡时，我突然意识到这对我来说毫无意义，我不想再工作一分钟了。如果我生命还剩六个月，我会把所有时间都花在我的亲人身上，你知道，感谢他们，回报他们的爱，并向他们道歉，我的人生走错了路。所以，那个反思的时刻让我真正重新思考我们在这个世界上存在的意义。也许我们被社会塑造得太多，认为成功和成就就是我们生活的意义。虽然这可以给你带来周期性的成功和满足感，但只有在面对死亡时，你才能看到什么对你来说才是真正重要的。因此，在经历了癌症的挑战后，我决心过一种更平衡的生活。我现在处于缓解期，敲木头，我花更多时间与家人在一起，我的妻子和我一起旅行，当我的孩子需要我时，我花更多时间与他们在一起。以前，我总是把所有事情都围绕工作来安排，当我有时间时，我会把它分给我的家人。现在，当我的家人需要什么，真的需要什么时，我会放下工作中的一切去找他们，然后在剩余的时间里，我分配给工作。但我的家人非常理解，他们不会每周从我这里拿走50周或50小时。所以我仍然可以非常努力地工作，也许每周少工作十个小时。所以我意识到我生命中最重要的事情是爱和我爱的人，并把它们放在最高优先级。这并不是我唯一做的事情，但当需要时，我会把它们放在最高优先级，我感觉好多了，感觉更平衡了。我认为这还暗示了一种例行工作的生活，一种追求数字的生活。虽然我的工作不是例行公事，但它不是追求数字，而是追求我能否赚更多的钱，我能否资助更多伟大的公司，我能否筹集更多的钱，我能否确保我们的风险投资公司每年排名越来越高。这种追求更大数字和更好数字的竞争性质变成了一种无休止的追求，这是机械的，而更大的数字并没有让我更快乐。面对死亡，我意识到更大的数字真的毫无意义，重要的是那些给了我心和爱的人，他们值得我同样回报。那里有一个深刻的真理，每个人都应该听到并内化，这对您来说非常强大。我必须问一个有点困难的问题。我一生都在体育领域竞争，从历史上看，我想挑战其中的某些方面。关于努力工作，我觉得有些方面是人类最伟大、最美好的方面，那就是能够痴迷于变得极其热情，以至于缺点暴露出来，并全身心地投入到一项任务中。从另一个意义上说，您提到了爱很重要，但在另一个意义上，这种痴迷，这种纯粹的热情和努力工作的展示，才是真正的人性。我们应该从中吸取什么更深层次的教训？因为您完成了令人难以置信的事情，您说是在追逐数字，但实际上有一些令人难以置信的工作。那么，当您回顾20多岁、30多岁时，您是如何看待的？您会做些什么不同的事情？您会真的收回一些令人难以置信的努力工作吗？我会的，但这是百分比问题。我们都是计算机科学家，所以我认为当一个人平衡自己的生活时，当一个人年轻时，您可能会给家人分配较小的比例，但您仍然会给他们高度优先。当您变老时，您会给他们分配更大的比例，并且仍然是高度优先。当您接近退休时，您会把大部分时间给他们，并且是最高优先级。所以，我认为关键点不是我们一生都会少工作20个小时，然后漫无目的地与家人共度时光，而是当家人有需求时，当您的妻子生孩子时，当您的女儿生日时，或者当他们沮丧时，或者当他们庆祝某事时，或者当他们聚会时，或者当我们有家庭时光时，重要的是我们放下手机和电脑，百分之百地与他们在一起。对真正重要的事情的优先考虑不会如此耗费精力，以至于会消除甚至大幅减少我们的成就。它可能会有一些影响，但它也可能有其他影响，因为如果您有一个更快乐的家庭，也许您争吵得更少，您争吵得更少，您就不会花时间处理争吵的后果。所以，不清楚这是否会花费更多时间，即使花费更多时间，我也愿意接受这种减少。这不是一个巨大的数字，但它是一个我认为会给我带来更大幸福感的数字，并且知道我做对了事情，而且仍然有足够的时间来获得我想要的成功。鉴于您创立了许多成功的公司，并在您的职业生涯中取得了巨大成功，您今天对那些希望创立并创造下一个十亿美元科技初创公司，甚至人工智能初创公司的年轻人有什么建议？我建议人们了解技术浪潮变化很快。两年前有效的东西今天可能不再有效。这在人工智能方面非常典型。我认为两年前，或者也许三年前，您肯定可以说，我有一对超级聪明的博士，我们不确定要做什么，但这是我们将如何开始并获得高估值的资金。那些日子已经过去了，因为人工智能正从科学火箭领域走向主流，虽然还不是商品，但更为主流。所以首先，任何公司的创建，对资本家来说，都必须是商业价值和货币价值的创造。当您拥有稀缺商品时，风险投资家可能愿意接受更大的不确定性。但现在，拥有三年前相当于博士学位的人数正在增加，因为这可以更快地学会，平台正在出现，成为人工智能工程师的成本大大降低，而且人工智能工程师也更多了。所以市场不同了。所以我建议想要建立一家人工智能公司的人，要考虑正常的商业问题：您要解决哪些客户案例？您要解决哪些痛点？这如何转化为价值？您将如何通过什么渠道提取价值并获得报酬？将创造多少商业价值？今天，这需要比三年前更早、更全面地考虑。人工智能人才的稀缺性问题已经改变了。人工智能人才的数量也改变了。所以现在您需要的不仅是人工智能，还有对商业、客户和市场的理解。所以我也认为您应该有更合理的估值预期和增长预期。竞争会更加激烈。但好消息是，人工智能技术现在更加可用，开源的TensorFlow、PyTorch等工具也更容易使用。所以您应该能够更快地进行实验并获得迭代结果。所以要更多地采取商业思维，少把它当作实验室，把它当作公司，因为我们已经超越了那个阶段。唯一的例外是，如果您真的在某项技术上取得了突破，而且确实没有人做到，那么旧的方法仍然有效。但我认为现在越来越难了。我知道您和许多人一样相信，我们离创造一个通用人工智能系统还很远，但一旦我们做到了，您就可以问它一个问题，您会问什么问题？是什么让您和我与众不同？说得很好，小心。非常感谢您今天的时间。谢谢。