Transcription
AI 正在不断取代我们的工作，难道我们的工作岗位会消失吗？ >> 很多人都误解了，AI 擅长处理简单重复的任务，而困难的事情则需要人类来完成，这是不了解情况的说法。因为韩国的 IT 开发人员招聘人数正在减少。具有讽刺意味的是，这种情况正在发生在人们认为最安全的领域。重要的是，我们应该关注的是工作岗位的数量正在减少，而不是其他方面。大家好，我是韩石俊。知识人邀请座谈会，为您带来真正大师的知识。今天，我们邀请到汉阳大学哲学系的李相昊教授，他将在科学与哲学的边界上传播思想。欢迎您。>> 是的，您好。>> 好的。那么，第一个问题是，有一个叫做 AGI 的术语，通用人工智能，达到人类水平。我们应该如何看待它？这有点复杂。事实上，我写过相关的文章，但说话的人说法略有不同。>> 我们应该注意这一点。普通人可能会想到科幻小说中出现的，与人类完全无法区分的机器人所拥有的人工智能。但机器人技术和人工智能技术是不同的。机器人是在物理空间中移动，而人工智能就像 ChatGPT 一样，存在于线上。因此，如果仅限于此，拥有人类水平的智能这个说法本身就很模糊。例如，某个人的智能>> 是的。人类的智能范围也不同。>> 是的。有像李相昊教授这样聪明的人，也有像我这样不那么聪明的人。>> 不是那样，即使是专家，如果他们的专业领域不同，实际上也是不同的。这个说法本身就有些模糊，所以计算机科学家们将其翻译成这样：这很重要。它被定义为一种人工智能，能够处理任何定义明确的任务，无论任务内容是什么。想想 AlphaGo。它下围棋下得非常出色。但它停止了，因为赢了所有比赛。后来它转向了医疗领域。如果在那边进行训练，它就不能下围棋了。>> 啊，不能双专业学习。>> 不能双专业学习。>> 只能专攻一个。>> 是的，现在是这样。因为最终训练就是让它在某件事情上做得非常好，并且已经为此进行了所有调整。这个应该设置为 2.7，这个开关应该设置为 3。所有这些都已调整好，但现在要它停止下围棋，去玩游戏。那么，就需要为游戏进行所有调整。如果为游戏进行了所有调整，它就能玩好游戏。但它又不能下围棋了。这被称为狭义人工智能。Artificial Intelligence。但 AGI 不是这样，而是只要给它一个定义明确的问题，它就能独立完成，而无需单独训练，就能完成这件事、那件事、还有那件事。当然，您可能会立即想到 ChatGPT，它可以回答您的问题，也可以回答那个问题。但它并不完美，它有局限性，也会被欺骗，还有很多问题没有解决。因此，它最接近 AGI，并且人们期望通过发展它能够实现 AGI，但实际上，我们还不能说它已经达到了通用人工智能，因为它仍然存在局限性。而且，之所以现在还能说得这么好，是因为它实际上是在搜索。当您提问时，它会根据您提出的问题进行搜索，然后将搜索到的内容组合起来进行生成。但我们人类即使不搜索，也能大致做到。您可以这样想。我在知识方面无法与 ChatGPT 相提并论，在绘画方面也远不如图像生成人工智能。但两者我都能大致做到。人类几乎可以大致做到所有人类能做的事情。达到一定水平后。但人工智能目前还做不到。所以，实现这一点是通用人工智能的梦想。>> 我想从根本上问一下，这一定要实现吗？>> 精确。所以，有趣的是，技术人员和投资者之间存在冲突。因为需要赚钱。从投资者的角度来看，他们已经投入了巨额资金。他们需要赚钱，而 AGI 是什么 AGI？所以，最近流行的就是 AI 代理。它能赚钱。也就是说，如果我使用它来做某事，我就会付费。但 AI 代理不是 AGI。因此，投资者一直在向功能高度专业化的人工智能研究方向施压。在我看来，大型科技公司在短期内可能会朝着这个方向发展。>> 毕竟，这是必然的，因为它可以赚钱。我个人认为，代理比 ChatGPT 更实用。我不会花时间与 ChatGPT 开玩笑。>> 但听了您的话，代理不就是在某个特定领域代替一个人工作的吗？>> 是的，我们是这样期待的。>> 那么，反过来说，不就是工作岗位消失了吗？现在这正在成为现实，最具有讽刺意味的是，这种情况正在发生在人们认为最安全的地方。>> 我对此感到非常惊讶。十年前谈论人工智能时，人们说，嗯，至少从事艺术的人会没事的。但艺术现在是第一个。>> 而且，现在 판교 的 IT 开发人员招聘人数正在减少。原因很简单。刚入职的开发人员虽然接受过培训，但实际上是第一次接触实际工作。所以，他们也需要培训。但 AI 代理，编码代理，虽然目前还不完善。但我们可以通过培训他们来使用他们。因为他们便宜。这是一个可怕的说法。所以，但是需要注意的是，它们还不能完全取代人类。因为需要像这样可以边教边用的高级人才，也就是有 5 年以上 10 年以上经验的人。>> 需要领导者。>> 是的。不能在没有这些人的情况下用 AI 完全取代。但问题是，这里会产生更严重的问题。现在，从企业的角度来看，他们需要降低成本，所以会朝着这个方向发展。但它会成为一个“去技能化”的问题。>> 也就是说，没有 5 年或 10 年经验的熟练技术人员来指示 AI 工作，不是吗？>> 因为随着时间的推移，这些人会退休，下面的人不会被招聘，他们也不会接受培训。所以，即使招聘了少数人，也只剩下极少数人。整个社会能够真正地让 AI 高效工作，并且能够指导 AI 工作的人，以及能够将这些想法结合起来完成大型项目的人才，正在逐渐减少。这是严重的。所以，我个人的立场是，我们应该认真思考。也就是说，我们不能因为重视效率而阻止它。但是，我们应该保留一部分能够监督和设计整个程序的人。那么，如何才能维持这些人呢？那就是，允许用 AI 取代，但在公司内部，一定规模的 AI 可以作为人力资源来使用。也就是说，我并不是说一定要这样做，我也不认为这是最好的方法。但是，与其完全依赖每个企业的效率行为，不如在整个社会层面推广和实践能够培养这些核心能力的方法。教育也是如此。学校教育也是如此。>> 是的。我听了您的话，我认为我们应该从初中和高中开始就训练学生如何控制 AI。>> 是的。我的同事教授最近遇到了这样的事情。他在上课时，下课后，一个学生过来提问，这很自然。但那个学生却说，教授，您错了。教授问，你错了什么？教授说，某位学者的观点是这样的。但现在的学生在听课时，会打开 ChatGPT 提问。他们问了同样的问题，但得到了不同的答案。教授说，您错了。如果他们说同样的话，但得到不同的答案，那么 AGI 是对的，教授是错的吗？>> 这是默认的。>> 是的。但我为了准备讲课也检查了一下，AI 可能会出现幻觉，可能会出错，所以需要检查一下。但那个学生说，不可能。绝对不可能。因为，他说他用的是付费版本，而不是免费版本。>> 这是什么意思？我付了多少钱？>> 您现在知道，付费和免费的区别在于有多少资源，有多少提示。免费版本会胡说八道，但付费版本不会。现在的大学生是这样想的。我们应该教他们如何明智地使用它。并且，如果您过度使用它，您能做的事情就会消失。例如，阅读书籍并进行总结，如果交给 AI 来做就太容易了，但您应该练习一下。这样，如果它说错了，您就能发现它总结得很好，但这里错了。这反而是在 AI 普遍使用的时代，您的竞争力。我们应该教这个。>> AI 正在不断取代我们的工作，取代我们的工作。那么，如果我们现有的员工使用 AI，他们能做得更好吗？有人会问，哪些职业使用 AI 会做得更好？但实际上，仔细想想，几乎所有的职业都是如此，不是吗？>> 是的。这完全正确。而且这不仅仅是我的个人意见，联合国报告也是这么说的。是的。所以，您指出的非常准确。也就是说，很多人在大众媒体上接触到的信息是，我们要失去所有工作岗位，或者在 AI 时代才能生存。但联合国报告，或者国际劳工组织（ILO）等机构，都说了同样的话，核心是这个。展望未来 30 年，我们看到的是，目前的数量最多是 30%。重要的是，这些报告都关注的是现有职业如何受到影响，而不是关注工作岗位的数量正在减少。也就是说，他们经常说，现有职业的职能将发生变化。是的。也就是说，如果说教师，那么在教师目前的工作中，如果交给 AI 来做会更有效率，那么就将一部分工作交给 AI，然后一对一地帮助学生进行情感发展，或者教他们如何明智地使用 AI。这样，职能就会发生很大的变化。但这并不容易。我本来就知道如何这样做，但现在要我这样做，我就必须学习。并且需要考虑如何去做。因此，政府和相关组织需要仔细考虑这种职能变化，并提供再培训和关注，而不是只专注于技术引进。也就是说，我们需要为人力再培训和职能变化做好准备。这实际上是共识。>> 但从某种意义上说，我认为我们一直都是这样。例如，70 年前，能够开车就是一种技能。所以，当时开车的人被称为“司机”，这是一个尊称。但随着自动驾驶的出现，每个人都能做到。然而，那些开车开得最好的人仍然留了下来。那些把这项工作做得最好的人会一直留下来，不是吗？>> 您看得非常准确。因为，很多人误解了 AI，认为 AI 擅长处理简单重复的任务，而复杂困难的事情则做不好，所以需要人类来做。很多人是这样说的，但这是不了解情况的说法。因为 AI 本身并不知道什么困难，什么容易。它是否拥有高质量的训练数据？以及是否有定义明确的目标函数？例如，如何提高整个建筑的能源效率？这是一个非常具体的问题。所以，如果问题定义得非常明确，并且有大量数据，那么它不仅能处理简单重复的任务，还能处理非常复杂的工作。但是，AI 真正做不好的是评估。例如，图像生成 AI，您之前说过您用过 Midjourney，它们总是给出多个答案，对吧？四个。奇怪的是，我用同样的提示得到了四个答案，其中一个画得很好，但其中一个却画得一塌糊涂。>> 但你看，从人工智能的角度来看，这四个答案是平等的。因为它们是根据相同的提示生成的。所以，人工智能很难区分好坏。因此，有一个术语，在生成人工智能的最后阶段，我们进行“人类反馈强化学习”。AI 会提出问题，并生成多个答案。然后，这个答案是最好的。然后，这个答案是绝对不能做的。这会带来大麻烦。我们必须教它这些。所以，才有了现在这么聪明的 AI。换句话说，让 AI 能够自行判断人类眼中的好答案和坏答案是一项非常困难的技术。虽然并非不可能。所以，正如您所说，在那个领域拥有专业知识的人，他们的答案会更好。因为，能够给出理由的能力，在 AI 时代仍然是一项重要的能力。您在讲话中一直提到 AI 可能给出错误答案的可能性，也就是“幻觉”。我第一次使用 ChatGPT 时，也觉得它很好。我问它，谭石主播是谁？它说，她是 70 年代活跃在新闻界的女主播。为什么会有这么多幻觉？什么时候会消失？这需要稍微注意一下。很多人认为 AI 的幻觉是它撒谎的问题。但实际上，这个说法并不准确。因为，我可能在不知不觉中说出不是事实的话。因为我可能记错了。但人类和人工智能之间有一个重要的区别。我认为这一点很重要。例如，在来广播之前，我会核实事实。我几年前偶然听到一些事情，虽然听起来是真的，但我不太了解的事情，我会选择性地说出来。也就是说，目前生成人工智能的基础架构的特点是，它最大化了将真实与虚假混合在一起，使其难以区分的能力。而这项技术没有真实和虚假的过滤器。因此，在生成时，它不会检查这是真实的还是虚假的。它只是根据前面给出的内容，生成最自然的后续词语。所以，实际上，这很神奇。我个人认为，人们说生成人工智能撒谎是一个大问题，但我认为它能说出这么多真实的话本身就是一种巨大的能力。技术人员实际上认为，它应该胡说八道，那才是正常的。但他们付出了巨大的努力，使其能够说出相当多的真实话。但由于其架构本身存在这样的局限性，幻觉虽然可以减少，但无法消除。>> 也就是说，我们不能 100% 依赖它。>> 是的。但是，如果每次都检查人工智能生成的所有内容，那还有什么意义呢？不是这样的，大部分时候都可以使用，但在关键时刻一定要确认后再使用。请记住，幻觉不是程序错误，而是技术特征。>> 所以，像 Perplexity 这样的 AI，它会引用来源，它似乎更值得信赖。>> 但即使那样，也只是减少，而不是完美。它之所以更值得信赖，是因为当你提问时，它会首先找到与你问题内容最相似的内容。然后，它会将搜索结果放在你提出的问题前面。这样就限制了它。这样可以减少胡说八道。所以，直到那个阶段，实际上是没有幻觉的。但之后它仍然会生成。因为，即使在上下文受限的情况下生成，幻觉可能会减少，但最后阶段仍然是生成，所以 100% 消除是不可能的。您看起来心情不太好。>> 我心情不好，也心情好。>> 我认为 AI 还不能取代人类。在新的技术出现之前。>> 幻觉也有积极的一面吗？>> 当然。我们总是把幻觉看作是撒谎或说真话，善恶的概念。但幻觉最终是创造出世界上不存在的东西，或者在现实中几乎不可能存在的东西的能力。例如，在艺术领域，幻觉非常有创造性。>> 哦。>> 是的。是的。艺术就是这样，如果给它现有的东西，它就会显得平庸。它必须创造新的东西。所以，艺术家，尤其是数字艺术家，他们非常有创造性地使用幻觉。他们有一个想法。但无论他们如何努力，他们只能想到这样的图像。或者，如果是小说，他们只能想到这样的情节。这时，他们会把所有这些都交给 AI，让它创造出所有可能的、有创意的、或者机械化的东西。然后，它就会产生幻觉。它会创造出来。它会创造出世界上不存在的东西。然后，他们会从中挑选出“这个不错”，然后再次交给它，让它进行一些变形。>> 他们把它当作一个有创造力的同志来使用。>> 是的。完全正确。这就是那个表达方式。艺术家说，这不仅仅是一个工具。笔和颜料是工具。它们是实现心中艺术意图的工具。但现在的人工智能，实际上更像是合作者。当然，人类仍然掌握主导权。但他们看到 AI 给出的答案，会想，“我没想到这个”，然后受到感动，并从中思考。这是一个非常好的沟通，但有时它会犯傻，所以需要像对待同事一样，一边教导一边使用。所以，这是其中一个方面。另一个方面是成本。电影中大量使用人工智能。为什么呢？因为他们拍摄了一个特定的场景。然后，他们看了之后，觉得演员的表演都很好。但背景不满意。但是，如果让他们重新拍摄，就需要支付大量的额外费用。但现在的人工智能，可以保留演员，只改变背景。所以，成本大大降低。因此，我们不应该断言幻觉是坏的，而是应该在不过度依赖它的情况下，努力在各个领域寻找创造性利用的方法。>> 您刚才说的话真的令人惊讶。因为我只认为幻觉会降低准确性，但从未想过它本身会成为创造力的新源泉。那么，我们普通人应该如何应对 AI 的幻觉呢？一一检查太浪费时间了，不是吗？我想提出两点。第一点是，提问时，不要只是说“请谈谈关于……这本书讲了什么？”而是要加入自己的兴趣，以及自己已经知道的东西，提出很多问题，得到非常具体的答案。然后，还有一点是，它可以自我纠正幻觉。答案出来了。是真的吗？在我看来，这似乎不对。请确认一下。还有这样的资料。然后，通过不断地追加提问，可以引导得到更准确的答案。我认为我们需要培养这种能力。另一件事是更根本的。真正重要的问题是，在最终需要自己确认和探索的阶段，即使是那些问题本身定义不清，也不知道如何解决的问题，也可以随意使用。但是，在关键时刻，比如在重要的场合公开演讲，或者在涉及自己声誉的问题上，则需要检查内容。我建议根据不同的模式，根据不同的阶段，采取不同的使用方式。>> 您听说过吗？绝对不要向任何人展示您的 YouTube 页面。因为那里会暴露太多东西。从细微的政治倾向，到您平时喜欢的东西，都会暴露出来。这是算法造成的。但是，这是否也可能是导致这种偏颇结果的算法问题呢？人们已经认为这是一个非常大的问题，并且正在寻找对策，但这并不容易。核心是，人类有自主选择自己要做什么的权利。但是，AI 提供了过于强大的工具来行使这些权利。也就是说，如果您观看几个您喜欢的视频，它就会与之匹配，并只推荐那个领域的内容。当然，这很好。因为您喜欢的东西会不断出现。但是，如果问这是否可取，实际上在调查中，很多人认为这不太好。因为，除了您一直在看的内容之外，还有其他世界。您模糊地知道自己可能存在偏颇的可能性，但因为您喜欢，所以您会继续看。这就是所谓的“过滤气泡”或“回声室”。那么，对策就变得复杂了。以前，传统媒体扮演着非常重要的角色。根据公平报道的原则，当有争议性的话题时，他们总是会平衡地呈现正反两方面的观点。如果那样的话，人们无论喜欢与否，都必须听到双方的观点，所以他们可能会想，“哦，还有这一面”，并改变想法。但是，您能强制这样做吗？在 YouTube 上。所以，最终需要触及推荐算法。但如果过多地触及它，就会限制个人的选择权。所以，很多人现在正在限制的是，至少要做到两点。一是透明度。也就是说，人工智能在 YouTube 或其他门户网站上向我推荐内容时，应该透明地公开推荐的模式、原理和考虑因素。第二，其中至少一部分应该由我来控制。我的。吃蛋糕的人会一直吃，因为他们一直得到。实际上，他们应该能够说，“不要再给我蛋糕了”。也就是说，我至少应该有 20% 的内容是自动出现的，与我的想法有些不同。您不能强制这样做。但是，至少如果我点击它，算法应该会起作用。我们要求这两点，但它们还没有得到遵守。>> 撇开这一点不谈，如果我看到某人的 YouTube 页面上有“知识人”，那么我就可以知道这个人是一个非常追求知识的人。>> 啊，是的，恭喜您拥有 300 万订阅者。>> 啊，谢谢。我也觉得网上购物有点可怕。我和朋友在这里聊到“麦克风，最近你喜欢什么？”然后它就突然出现了。这是怎么回事？>> 官方上他们绝不承认，但人们进行了大量的实验。手机有麦克风。当然，那是用于通话的，但原则上，它可以激活收听我们所有对话内容。也就是说，它不是在我想要说话时说话，而是可以偷听。但是，同意的问题。我是否允许了？不幸的是，这也可以被视为同意。>> 我吗？>> 是的。您在用 Google 时，读过它的条款和条件吗？条款有 40-50 页。您没读过吧？我也没有读过。其中有一句类似的话：“为了提高我们提供的服务的质量，我们将收集必要的数据和信息，并在此基础上提高服务质量。”从企业的角度来看，他们可以这样主张。因为，这些人并不是侵犯隐私，而是人工智能在听。哦，他在谈论钓鱼。那么就给他推荐钓鱼。他在谈论红参。那么就给他推荐红参。所以，我也有过很多这样的经历。顺便说一下，我的电脑没有麦克风。但是，如果我和朋友或家人聊天，YouTube 上的推荐视频中就会出现相关内容。>> 没有麦克风，怎么会这样？手机就在旁边。因为 Google 账户已连接，所以手机会听到，然后发送到电脑。当然，这些都是合理的猜测。但我认为有 95% 以上的概率是正确的。但一旦承认这一点，当然，诉讼会很复杂。但我认为，即使被起诉，他们也会说，这是为了给消费者提供更好的服务。>> 如何证明听到了还是没听到？如何物理上阻止并随身携带？不，我认为这应该通过制度来解决。首先，刚才提到的原则同样适用。你们是否这样做，应该透明地公开信息。然后，如果公开了，那么在这种情况下，我们是否同意您在听到我们的谈话后发布广告？应该总是将两者捆绑在一起。那样的话，几乎没有人会同意。想同意的人会同意，需要的人会同意。但他们没有这样做，所以这是个问题。我认为这是应该通过制度来解决的问题。>> 那么，这可能是一个更广泛的问题。那么，最终 AI 会让我们人类幸福吗？我认为我们应该让 AI 创造幸福。也就是说，我认为 AI 的未来是既定的，我们能做的就是积极接受或拒绝。但我认为不应该这样。我们应该建立良好的治理，尊重我们珍视的价值观，并促进它们，努力让我们朝着那个方向发展。也就是说，随着 AI 技术的发展，我们应该制定关于如何发展和控制这项技术的规定，并形成国家共识。>> 我们需要同时创造技术、制度，并付诸实践，提高素养。只有当这些努力都实现时，我们才能更有效地生存，并做出更多美好的事情。因此，在这个过程中，政府应该发挥提供各种可能性的作用。而个人则应该积极利用这些机会，努力最大限度地发挥自己的能力。>> 这样，我们今天花了很长时间，谈论了 AI 将带来的变化，以及它将给我们的社会带来什么样的变化。在 AI 时代到来之际，教授您有什么特别想强调的吗？正如我刚才所说，有些事情需要在国际层面思考，有些事情需要在考虑韩国的国情后思考。实际上，我们有很多事情要做。但值得庆幸的是，上一届政府也是如此，最近的政府总体上似乎很关注 AI 是多么具有创新性的技术，以及它对国家经济发展和未来有多么重要。因此，AI 已成为国家任务中的一项核心任务。不仅仅是“我们将投入大量资金来做好 AI 技术”，而是要思考它可能存在什么问题，人们期待什么，害怕什么。通过公共讨论来收集这些想法，并在数字社会等地方举办论文竞赛、辩论赛等活动，收集人们的想法并将其转化为政策。我认为这些努力需要更积极地进行。>> 似乎没有一个时代是不困难的。>> 每个时代都有挑战。>> 所以，我认为过去之所以容易，是因为我们都解决了，但当时可能也很困难。现在，这个挑战摆在我们面前，我们必须很好地解决它。教授您一直在给予我们很多教诲。今天，我们与李相昊教授一起，深入探讨了 AI 的未来，以及 AI 技术目前存在的问题，以及我们人类应该如何应对这些问题。我认为，如果我们每个人，观看这个视频的您，都思考一下，并提出自己的意见，那么一个更美好的未来就会到来。知识人邀请座谈会今天到此结束。谢谢。 [音乐] [音乐]