Transcription
大家好，我叫 Abhishek，欢迎回到我的频道。在今天的视频中，让我们看看如何设置一个完全免费的 AI 助手。是的，你没听错。我们该怎么做呢？很简单。我们将使用 Open Claw 作为我们的本地 AI 助手。我们将使用 Olama 在我们的机器上本地运行模型。最后，我们将 Open Claw 与 Olama 集成。为了让事情更有趣，这是一个可选的步骤。我还会向你展示如何使用 Telegram 来前端化整个设置。这样你就可以直接进入 Telegram，发送一条消息作为提示，然后从模型那里获得回复。现在你可能会说，但 Abhishek，这为什么重要？主要有两个原因。第一，成本。因为所有东西都在你的机器上本地运行。整个设置是完全免费的，你可以继续免费使用它。你不需要任何 API 令牌。无论是 OpenAI 的 API 令牌还是任何其他提供商的 API 令牌。第二，安全。模型在你的机器上本地运行，你还可以使用我将在视频中展示的限制。所以你可以绝对限制模型拥有的权限。这就是为什么这个设置非常非常重要的两个主要原因。你可以在你的办公环境中使用它，或者你也可以安全地用于你正在进行的项目。现在，让我们开始设置。第一步是安装 open claw，我已经在的这个空文件中记录了所有内容。所以看完视频后，你只需要去 MD 文件，复制命令，复制配置，然后在你的机器上运行整个东西。正如我告诉你的，第一步是安装 open claw。只需运行这个 curl 命令。它适用于 Windows、Linux 和 Mac。我的机器上已经安装了 open claw，但为了向你展示，我将运行 open claw -y version。现在如果你收到回复，那就意味着 open claw 已经安装。通常这个命令需要 2 到 3 分钟，如果你是第一次安装。然后第二步是安装。如果你不确定它到底是什么，用非常简单的话来说，它就是模型的 Docker。就像你使用 docker cla 从 docker hub 拉取镜像并在你的机器上使用 docker cla 运行镜像一样。同样的方式，你可以使用，你可以使用来从 hub 拉取模型并在你的本地机器上运行模型。再次安装，只需运行这个 curl 命令。我的机器上也在运行 Olama。我将通过运行 Olama CLI 来向你展示。那么下一步是什么？下一步是在你的机器上运行模型。现在我说的模型，我指的是大型语言模型。今天有很多大型语言模型可用。选择一个至少有 200 亿参数的大型语言模型，因为我不希望这个设置只是你的爱好项目，而是你可以真正用于日常工作的东西。如果你选择 17 亿参数或 30 亿参数的模型，当然演示会起作用，但你可能无法在企业级别使用它。现在，如果你没有配备 GPU 资源的机器，这个设置将花费很长时间来响应你，因为归根结底它是一个大型语言模型。如果你使用的是基于 CPU 的架构，你的提示将需要很长时间来执行。总之，这个命令将拉取 GPT OSS 模型，即拥有 200 亿参数的 GPT 开源模型，并在你的机器上运行它。我的机器上已经运行了这个模型，否则这将需要 15 到 20 分钟，具体取决于你的互联网下载速度。好的，我将退出模型。完美。那么下一步是什么？因为我们已经运行了 open claw，运行了 Olama，并且也在机器上运行了模型。我们可以开始进行 open claw 配置。也就是说，我们应该开始将 open claw 与 Olama 集成。否则，默认情况下，open claw 将查找你的 anthropic API 密钥来执行你请求的任何操作。我们该怎么做？要设置 open claw 与 Olama，你需要这个配置文件。现在，即使你查看 open claw 的官方文档，它们在这个配置文件方面也有一些 bug。所以请确保你查看这个空文件。你唯一需要替换的是你正在使用的模型。假设你选择了一个不同的模型。只需在这里、这里和这里更改模型名称。仅此而已。你的设置将绝对有效，只需更改配置文件中的这些参数。完美。所以我将复制这个配置文件，然后将其粘贴到本地机器上。你究竟需要把它粘贴在哪里？所以只需创建一个名为的文件夹，如果你已经有了这个文件夹，那没问题，否则只需在根 open claw 中创建这个名为 MKDR 的文件夹。现在在这个文件夹里，我将切换到 dot open claw 文件夹，在这里你需要创建一个 openclaw.json JSON 文件，并在该文件中粘贴内容即可。但是 Abhishek，我已经有了 open claw，你知道，我使用 open claw 和 anthropic API 密钥或其他 API 密钥。现在我想将模型切换到我的本地机器，我该怎么做？你可以运行这个命令 open claw uninstall。当你运行这个命令时，它将卸载你之前的 open claw 配置。很棒。现在最后，只需将 open claw 上线，因为你已经配置了 openclaw.json，它包含了关于你的机器的大量信息。例如，novit 知道你想使用作为你的模型提供商，并且它也知道你想使用 gpt oss 作为你的本地模型。你可以看到，当我运行 open claw on board 时，你会看到它开始填充信息。只需开始说“是”。所以你可以使用键盘在选项之间切换。选择快速开始。使用现有值或更新值。我将通过更新我机器上的现有值来向你展示。更新值。现在我们不使用任何 AI 提供商。所以我现在就跳过。在这里，你可以看到有不同的提供商选项。选择所有提供商。默认情况下，它应该显示 Olama/GPT OSS 200 亿参数。假设这个选项没有显示出来，那意味着你在我分享给你的 JSON 文件中搞砸了。好的。所以一旦你有这个选项，只需按 Enter。如果你想用 Telegram 来前端化这个设置，那就选择 Telegram Bot API，或者如果你只想使用 OpenClaw 默认设置，那就暂时跳过。也就是说，选择这个选项。但是 Telegram 非常酷。只是为了向你展示你如何从你的手机上使用它。假设你在外面。也许你去了一家杂货店，你突然想起你的磁盘已满，或者你的 CPU 或内存已满。你只需要在 Telegram 上发一条消息说“嘿 OpenClaw，在我回家之前，请释放内存资源”。你可以做到。所以只是为了向你展示如何做到这一点，你知道，我们还将把它与 Telegram Bot 集成。很棒。它正在询问 Telegram Bot 令牌。你该怎么做？只需进入你的 Telegram。可以是你的 Telegram 桌面设置，也可以是你的 Telegram 手机设置。步骤是相同的。一旦你在这里，点击开始，然后你会找到一个操作“新机器人”。点击它。它要求你为你的机器人提供名称。我将说 open claw vramala abishek_bot。尽量保持名称的独特性。再次，它说“好的，这很酷”。只需提供，这是我们提供的机器人的用户名。现在它要求选择一个机器人的名称。我将选择相同的名称。就这样。现在它为你提供了一个 Bot API 令牌。再次，这是免费的。只需复制令牌。很棒。然后粘贴在这里。现在它说你是否要配置任何技能？什么是技能？技能基本上是你定义 OpenClaw 可以执行的权限和操作的地方。假设你想用 OpenClaw 执行一些非凡的事情。也有公开可用的技能。只需搜索 OpenClaw 技能。有很多技能是开源开发者正在开发的。所以你也可以配置这些技能。但是当你开始使用 OpenClaw 时，我的建议是，将此选项保留为默认值，或者只使用默认启用的技能。我非常关心安全。所以我现在就跳过。它正在安装网关服务。但是 Amish，我也想限制 OpenClaw，你知道，限制它可以在我的机器上运行的操作。你已经在配置文件中限制了这一点。我可以快速向你展示我在 MD 文件中提供的 JSON 文件。如果我只输入 vim，也就是说，如果我只打开 JSON 文件 vim dollar open claw openclaw.json JSON，你会找到一个名为 tools 的部分。只需向下滚动，你就可以看到这里的工具部分。我告诉 OpenClaw 仅授予访问网络的权限，以便它可以搜索网络上的内容并获取所需信息。我甚至没有授予我的 OpenClaw 确切的操作权限，也就是说，即使它想，它也无法直接在我的机器上创建文件或文件夹，或者可能访问我机器上的任何敏感信息。有一件事你必须记住，你是在你的机器上运行 OpenClaw。所以除非你授予它权限，否则它无法访问你的个人文件或文件夹。它也是一个开源项目。所以如果你对 OpenClaw 的安全性有任何疑问，你可以直接查看源代码，浏览源代码，看看 OpenClaw 是否从你的机器上获取了什么东西，然后可能上传到云端。这是一个非常受欢迎的项目。到目前为止，该项目还没有出现任何安全问题。很棒。所以现在我将关闭这个文件，我将回到 hatch 到 UI。什么是 TUI？TUI 基本上是终端用户界面。所以如果你使用终端用户界面，基本上它会在终端上运行进程。所以如果你想和你的模型对话，你只需要说“嘿，创建一个 HTML 文件”或者“告诉我一些关于某事的事情”。假设你想在界面中使用相同的功能，而不是 TUI，你可以选择 Web 界面，对吧？就像你每天使用 ChatGPT 一样，你也可以这样做。我在这里使用 TUI。过一会儿我也会停止 TUI，然后我将完全通过 Telegram 与模型交互。我将在我的机器上进行。所以我不会使用 TUI。我也不会使用 Web UI。这只是为了向你展示。完成此操作后，你只剩下一个步骤。回到你的 Telegram。点击你刚刚创建的机器人。点击开始。现在当你点击开始时，它会为你生成一个命令。复制命令。Open claw pairing approve telegram 后面跟着它生成的令牌或配对码。很棒。现在你的设置已完全完成。已批准 Telegram 发送者。现在我可以做两件事。一，我可以直接在这里与它对话。如果我说“你好”，你会看到它会回复。现在它需要一些时间的原因是，它花了 3 到 4 秒，因为我使用的是 Mac Studio，我认为是 32GB 内存。如果你有更强大的机器，你可以在 1 到 2 秒内看到回复。它仍然非常强大。它绝对没问题。如果你有 Mac Mini 或 Mac Studio，它们出厂时就配备了 GPU 和不错的内存，这已经足够了。好的。所以现在我将停止在这里互动，正如我告诉你的，我将停止这个会话。我将进入我的 Telegram，然后在这里开始互动。生成一个 Go 文件或 Go 语言的代码来打印 hello world，只是为了快速获得回复，并向你展示我只使用一个非常简单的例子。对于前一两个提示，这会花费一些时间，之后你会看到回复非常非常快，也许是因为与 Telegram 的集成以及模型在本地运行。对于一两个提示，这需要时间，但之后它会非常非常快。所以你可以在这里看到它为我们生成了 Go 程序。同样，我也可以问它，你知道，生成一个 Terraform HCL 文件来，我将增加字体，生成一个 terraform hcl 文件来在 AWS 上创建 EC2 实例。让我们看看它是否能做到。正如我告诉你的，你可以从 ChatGPT 获得这个回复，或者你可以使用云代码。你甚至可以使用 GitHub Copilot。但这里最重要的事情是安全和成本。看，你有一个详细的 Terraform 文件来创建 EC2 实例，并且我限制了访问。你们中的许多人都应该有这个疑问。再次回到安全问题，我限制了操作，即使我要求它。现在，“在下载文件夹中创建一个名为 test 的文件”。即使我要求它，它也无法执行该操作，因为在 config.json JSON 中。再次，在 config.json 的 tools 部分，我们只授予了它有限的访问权限。一旦你变得自信，一旦你对此感到舒适，你就可以继续并授予它更多访问权限。目前，我们只授予了它网络访问权限，以及从网络获取资源的权限。它非常非常强大，我告诉你。你甚至可以授予它访问你的浏览器的权限，它可以为你预订机票，或者你可以进行配对编程，创建一个文件夹，写一些代码，也许你为它添加单元测试，你也可以用它来做。Abhishek，它有什么限制或缺点吗？这种方法的一个主要缺点是，今天的本地模型绝对强大。我现在使用的是 200 亿参数的模型。但是当你将其与 OPUS 模型进行比较，或者当你将其与你在 ChatGPT 中使用的 GPT 5.3 进行比较时，它们是在数千亿参数上训练的。所以与那些模型相比，性能会较低。但是，如果你正在处理常规的编码任务，比如生成 Terraform 文件、Docker 文件或你的 Golang 文件、Python 文件，性能就足够好了。只有当你处理高级任务时，也许你想从头到尾构建一个完整的项目，或者你想获取一般信息，也许是关于制药业的某些信息，或者关于开发某个特定原型的信息。在这种情况下，与 GPT 模型、OPUS 模型或 Sonet 模型相比，这些模型表现不佳。否则，这个设置非常好。这里的优点是，因为这些模型是开源的，并且世界各地有许多人致力于本地模型，也许在不久的将来，一年或两年后，我们可能会拥有比专有模型更强大的模型。在不久的将来可能不会发生，但在一到两年后，让我们希望如此，这样我们就可以完全免费地使用这些 AI 助手。我指的是最强大的 AI 助手，完全免费。今天的视频就到这里。一定要尝试这个设置。拥有它非常酷。即使你外出，你也可以，你知道，在你的机器上执行简单的操作，比如清理磁盘空间，或者生成创建简单的 PPT，创建 Word 文档，这些事情你绝对可以做到。再次，MD 文件链接在描述以及置顶评论中。下次视频再见。保重。