📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

開源 AI 模型比付費的更香?Hugging Face 就是你的軍火庫,免費玩頂級開源 AI 還能本地客製化!

PAPAYA 電腦教室17:03

Transcription

嗨,大家好。

如果你对 AI 有兴趣,应该常会听到 Hugging Face 的大名。但什么是 Hugging Face 呢?简单来说,它是一个专门收录各种 AI 模型的平台。你可以把它想成是 AI 界的 App Store,里面有各式各样的 AI 模型可以让你体验。

而在今天的影片,我会向大家介绍如何善用 Hugging Face 的 AI 模型,包含直接在浏览器里面进行操作,以及把模型下载到自己的电脑上运行,让你享有更高的自由度。

好,我们打开 Hugging Face 的网站之后,首先可以到右上角点击 Sign Up 按钮,来注册一个新的帐号,并且在用户资讯的页面勾选同意服务条款,点击「建立」。

在上方的导览列,有一个 Models 的按钮,里面收藏了超过 250 万个 AI 模型。想要在这么庞大的模型库中,找到符合自己需求的 AI Model,最简单的方式就是透过「任务类型」来进行筛选。例如,你如果想要生成图片,你可以在底下启用 Text to Image (文字生成图片) 的分类。

此外,在右上角有一个很实用的排序功能,你可以选择 Trending 来查看最近热门的模型,或是套用「按赞最多」和「下载最多」等不同的排序条件。

好,我们就直接进入第一个模型,看看里面有什么好玩的东西。这个模型叫做 Z-Image,开发团队是阿里巴巴旗下的「通义实验室」。那在模型名称的下方有一排标签,列出了这个模型最重要的特征和相关资讯,像是主要支援的语言、模型的论文连结和授权类型等。

而在底下有一些图文资讯,简单来说就是这个模型的「使用说明书」,里面介绍了这个模型的开发背景,以及使用上的一些注意事项等。

好,那我们要如何使用这个模型呢?对于初学者来说,最简单的方式就是透过旁边 Inference Providers 这个区块。所谓 Inference Providers,基本上就是帮你「跑模型」的服务商。用户不需要担心自己的电脑设备够不够强,也不用烦恼安装和设定方面的问题。

那 Hugging Face 针对免费用户,每个月有提供 0.1 美元的使用额度。如果你觉得额度不够用,你可以考虑升级成 Pro 的帐户,每个月的额度会变成 2 美元。或者你也可以改用「以量计费」的方案。采用这个方案的话,我们需要在 Hugging Face 先绑定一张信用卡。绑定完成后,你就可以切换到隔壁的分页,点击 Add 按钮来进行储值。

当然,我们也不一定要透过 Hugging Face 这个中间人。如果你本身已经是某个 AI 服务商的付费用户,你只要进入到「设定」分页,找到该服务商的名称,然后输入自己从服务商那边取得的 API 金钥。这样当你在 Hugging Face 使用这些模型时,所需的费用就直接会从服务商那边进行扣款。

好,那这边我就随便输入一个提示词,例如请 AI 生成一个长发的年轻女性,背景是一个欧洲小镇的巷弄。点击 Generate。如此,AI 就会生成一张符合我们描述的图片喔。

好,除了透过 Inference Providers 之外,另一个快速体验 AI 模型的方式是使用 Spaces。如果你把 AI 模型当成是一件「商品」的话,那么 Spaces 就像是商城中的「个人卖场」。每个卖场会使用自己的方式来包装和展示商品,甚至提供一些加值的服务。

那在上方的导览列,你可以找到 Spaces 的按钮。点击后就会进入一个展示的页面。我们可以透过底下的类别来探索不同的 Spaces。譬如这里我同样进入到「影像生成」的类别,点击刚才的 Z-Image。

那你会发现,虽然这个 Space 背后运作的是同一个 AI 模型,但这个页面却提供了更多互动的选项。像是你可以在「负面提示词」的栏位,指定生成的图片中不要包含「树木」。同时,你也可以指定图片的解析度,以及影像的宽高比,例如套用宽荧幕 16:9 的比例。最后点击 Generate。如此,AI 就会生成一张小狗在草地上玩球的图片啰。

好,你会注意到在页面顶端,有一个绿色的小标签,里面写着 Running on Zero。这是 Hugging Face 推出的一个「GPU 共享」的功能。它跟先前我们介绍的 Inference Providers 有个不同的地方,就是它是依据用户使用的「时长」来进行收费。免费的用户「每天」能使用的额度大约为 4 分钟。而如果升级成 Pro 帐户的话,则可延长至 25 分钟,让你有更充裕的时间来探索不同的 AI 应用。

好,我们再来试一个其它的 Space。譬如这一次我们来玩「语音合成」。然后进入到第一个 Qwen3 -TTS。这个 AI 模型可以将你输入的文字转换成语音。只是要注意,输入繁体中文的话,有可能会让 AI 生成广东话的旁白。因此这边我将句子反白之后,使用右键选单将它转换成简体中文。然后针对语音风格做个简短的描述,点击「产生」。

好,我们来试听看看。

(不,不要再说了)

(我已经听够那些冠冕堂皇的理由)

(今晚我只想知道你究竟选择了我)

(还是选择了逃避)

OK,那 Hugging Face 还有一个很适合新手体验 AI 模型的功能,叫做 Hugging Chat。它的介面非常类似 ChatGPT,基本上就是一个很大的聊天视窗。你可以在左下角切换不同的开源 AI 模型。譬如我选择最近网路上讨论度很高的 Kimi-K2.5。然后我们就可以透过底下的对话框,开始聊天或输入问题。也可以上传电脑中的档案或图片,请 AI 做重点摘要和数据分析。

那要注意,Hugging Chat 同样会消耗我们在帐号内的使用额度。因此你的用量如果比较大的话,记得要先绑定信用卡和进行储值。如此就不用担心使用过程中,发生额度不足的情形喔。

好,在 Hugging Face 的网站试用了一些 AI 模型之后,也许你会想要将某个模型做一些客制化的调整,并整合到自己的专案之中。而这时我们就可以考虑在本机电脑,或是在云端平台来部署这些 AI 模型。

那其中有一个很受欢迎,且适合新手练习的平台叫做 Google Colab。它是一台可以让你自由使用的云端电脑,甚至还提供了免费的 GPU 运算资源。Hugging Face 跟 Google Colab 有非常好的整合。而且 Hugging Face 还提供了一个非常简单的语法叫 pipeline,可以让你用短短几行的程式码,就能快速载入 Hugging Face 的 AI 模型。

举个简单的例子,假设今天我想要找一个 AI 模型,能分析顾客留言是偏向正面或负面的评价。那么我可以切换到「任务」类别,使用 Text Classification (文字分类) 作为筛选条件来进行搜寻。找到之后,你可以直接前往 Google Colab 的首页,点击「新增笔记本」。

那要在 Google Colab 使用 Hugging Face 的 pipeline 语法的话,我们必须先从一个叫做 transformers 的工具箱,把 pipeline 汇入到这个页面,然后去执行这一行程式码。执行完毕后,我们就可以到底下输入 pipeline 来呼叫我们要使用的 AI 模型。

那第一个要输入的参数是「任务」的类型,也就是刚才我们在 Hugging Face 套用的筛选条件。所以我就在圆括号内输入 text-classification (文字分类)。至于第二个参数是模型的「名称」。这部分我们只要回到 Hugging Face,点击名称旁边的「复制」按钮,再回来 Google Colab 来将它贴上就 OK 了。

好,那我们来替这行语法取一个名字,譬如叫它「情感分析器」。然后我们就可以随便输入一句话,让 AI 来判断这句话是属于「正面」还是「负面」的情绪。最后我们再使用 print 语法,把分析结果显示在画面上。

好,我们来做个测试。那第一次执行时,由于 Google Colab 需要从 Hugging Face 下载 AI 模型,所以耗时会比较久。跑完之后,我们就可以在底下看到分析的结果,即 AI 有 99% 的信心,认为这段文字表达的是「正面」(Positive) 的情绪。

不过你可能会觉得这个分析结果,对于一般用户来说并不是很直观。所以我们可以考虑调整一下程式码,来把 Positive 这个关键字截取出来,并修改成中文。于是我在原语法的后面输入一组方括号和 0,代表我们要截取方括号内的第一组数据。而资料的标签名称是 label。然后我按下 Ctrl +Enter 重新执行这段程式码。如此一来,输出结果就只剩下 Positive 这个关键字。

那接下来我们可以继续用一个简单的 IF 语法,来判断「分析结果」如果是 Positive 的话,我们就让它改显示中文的「正面情绪」。如果不是的话,就显示「负面情绪」四个字。

好,我们重新再跑一次程式码。这一次输出的结果就变成「正面情绪」了。而如果我随便换一个句子,譬如抱怨自己发的脆贴文都没人留言,那么 AI 就会判断这句话表达的是「负面情绪」啰。

好,Google Colab 虽然在使用上非常地方便,但它的定位仍是以测试和学习为主,有一些使用时长和资源共享的限制。因此你如果想要在一个更稳定的环境,且长时间运行某个 AI 模型的话,你可以考虑在本机电脑部署 AI 模型,就可以享有完全的控制权。

那在正式操作之前,我们要先完成一些基础的环境设定。首先第一步是要在电脑内安装 Python,它是一个知名的程式语言,也是大多数 AI 模型运行时所需要的基础工具。下载完成后,你只要对着安装档双击滑鼠左键,一直按「下一步」就可以完成安装。而如果你使用的操作系统是 Windows 的话,则记得安装时,务必要勾选「加入系统路径」的选项,才能确保 Python 能顺利运作。

那第二个我们要安装的是一个叫做 VS Code (Visual Studio Code) 的编辑器。它可以让你更方便地撰写和管理程式码。VS Code 下载并安装完成后,我们可以直接将它开启。那这边你可以在桌面或任意位置,先建立一个新资料夹,并随意设定一个名称。然后回到 VS Code,点击 Open Folder (开启资料夹),来将路径指向刚才资料夹的位置。这样之后新增的档案,就会自动存放在这个专案资料夹内。

而由于在本机运行 AI 模型,会需要安装一些特殊的套件和工具,为了避免这些工具影响到电脑中其它的专案,这里我们要为它特别开设一个独立的工作空间,也就是所谓的「虚拟环境」。于是我到侧边栏开启扩充功能的面板,输入 Python 作为关键字来安装它的扩充套件。然后按下快捷键 Ctrl +Shift +P,选择「建立虚拟环境」。虚拟环境的管理方式,我们就直接套用 Python 内建的 Venv。至于 Python 的版本,我们就选择刚才从官网下载的最新版。

虚拟环境建立好后,我们还必须将它启用。于是我再次按下 Ctrl +Shift +P,叫出命令面板,选择第二个 Select Interpreter (选取直译器),然后套用刚才的 venv 选项。套用完毕后,如果你去开启终端机的视窗,有看到指令前面写着 venv,就代表虚拟环境已经启用了。而这时我们就可以放心地在这个虚拟环境内,安装必要的工具。譬如 AI 模型常会用到一个套件,叫做 PyTorch,以及刚才练习的 pipeline 语法,会用到 Transformers 套件。

好,那我们就在底下的视窗,输入 pip install 即安装套件的语法,来输入这两个套件的名称,然后按下 Enter 键开始安装。安装完成后,我们就可以来做个测试。你可以到侧边栏的空白处打开右键选单,来建立一个新的 Python 档案。然后把刚才我们在 Google Colab 写好的语法,整个贴进来。按下 Ctrl +S 执行存档。接着再到底下输入 python main.py 来执行这个档案。

如果设定都正确的话,我们就会在终端机内,看到跟 Google Colab 相同的结果喔。

好,当然我们能在本机做的,不仅是执行一个简单的 pipeline 指令。你还可以针对自己的需求,做更深入的调整和优化。例如整合多个不同的 AI 模型,来建立更复杂的应用。而且最棒的是,即使你不擅长写程式也不用担心,因为我们可以请 Claude 或 Gemini 等 AI 助手,来处理程式码的部分。你只要写一段提示词,说明你的电脑硬体规格和需求,譬如希望 AI 能辨识我们提供给它的图片,并且用语音把看到的东西念出来。

好,于是我把提示词贴过去,按下 Enter 键送出。AI 给出了建议后,我们就可以将页面卷下来,把需要用到的套件语法做个拷贝,贴到终端机的视窗,并按下 Enter 键送出准备开始安装。套件安装完毕后,我们再把 Gemini 提供的程式码也拷贝下来,贴到原来的 Python 文件里面。

好,我们来做个测试。那 Gemini 有提到图片必须要命名为 test_image。于是我把这个图档拖曳到 VS Code 的视窗,然后执行这段程式码。同样地,第一次执行时需要先下载 AI 模型的档案,因此需要等待较长的时间。而如果跑的过程中有出现错误讯息,你只要把讯息贴给 Gemini,请它帮忙修正并更新程式码就 OK 了。

如果执行一切顺利,我们就会在侧边栏看到新生成的音讯档案。点击「播放」就可以聆听 AI 辨识的成果啰。

(在这张图片中)

(我们可以看到一个木质的圆形桌子)

(上面放着一本杂志和一杯咖啡)

(杂志的封面上有几幅室内设计的照片)

好,不过有时我们可能会遇到一个情形,就是自己的电脑硬体效能不够,无法跑一些较大型的 AI 模型。而这时你可以考虑改采用云端伺服器来进行 AI 运算,也就是先前我们介绍的 Inference Providers 的服务。

举例来说,假设我想要用「云端」来跑 Wan 2.2 这个影片生成 AI 模型。那么我们必须先在 Hugging Face 取得一组金钥,让云端服务商能验证我们的身分。于是我点击建立新的 Token,随意替它设定一个名称,然后勾选「向 Inference Providers 发送请求」。最后再将画面卷到底部,点击「建立」。这样我们就可以把金钥拷贝下来了。

下一步,我们可以回到模型的页面,到右上角点击「使用这个模型」,Inference Providers。如此我们就会看到一段程式码,你可以按下 Copy 将它做个复制。由于这段程式码会用到 huggingface hub 这个套件,所以在这 VS Code 这边,我们同样要先用 pip install 的语法,将这个套件安装到虚拟环境。然后再将 Hugging Face 提供的程式码,贴到上方的视窗内。

至于刚才我们复制的金钥,你可以直接把它贴到 API Key 这一行。那这边有一点要特别注意,就是官网提供的程式码,并不会把生成好的影片主动储存成一个视讯档。因此我们必须手动建立一个 MP4 档案,后面输入 wb,代表「写入」(write) 和「二进位」(binary)。那这个 MP4 档目前里面还是空的,所以我们要继续用 write 的语法,把 AI 生成好的影片写入进去。最后再将档案执行关闭和储存。

好,那我们就用预设的提示词,即「一个年轻男性在街上走路」来进行测试。过了一会儿,侧边栏就会多出一个 MP4 档案。点开后就能看到生成好的影片啰。

好,最后如果你在 Hugging Face 看到一些实用的 Space,想要把它搬到本机电脑上运行也是没有问题的。譬如这个 Space 主要是用来修复模糊的旧照片。如果要把它下载到电脑,你可以选择 Run Locally (本地运行)。如此我们就会看到一段 Docker 的程式码。那 Docker 是一个很有名的软体,它可以把程式码打包起来,让它在任何地方都能够使用。

因此这边我们就先到 Docker 的官网,点击「下载」来将 Docker 安装到自己的电脑,然后直接将它启动。那依照 Hugging Face 的说明,这里我们需要进入 Docker 的设定页面,来启用 Containered 引擎的功能。点击「启用」,然后将 Docker 关闭,重新开启来套用新的设定。

而这时我们就可以将这段程式码拷贝起来,在 Docker 的右下角开启终端机,来将程式码按下 Ctrl +V 贴上,准备来安装这个 Space。安装完成后,终端机的底部会显示一行网址。如果用滑鼠去点击它,就会在浏览器开启一个,与原 Space 功能完全相同的介面。

好,我们来做个测试。我从电脑资料夹拉入一张,有点模糊的旧照片,然后在这底部点击「送出」。如此 Docker 就会启动本地的 AI 模型,生成一张清晰度大幅提升的高画质版本啰。

好,那要在 Docker 管理已安装的 Space 也非常地简单。你可以使用旁边的按钮来将其启动或停用。而如果不再需要这个 Space 了,你只要点击最右侧的垃圾桶按钮就 OK 啰。

好,那今天关于 Hugging Face 的介绍,我们就聊到这边。我们下回再见。拜拜。