首页 > 动态 > 综合精选 > > 正文
2024-06-11 10:58:43

Opera是第一个支持本地AI LLM的浏览器

导读 大型语言模型 (LLM) 经过大量文本训练,是驱动谷歌 ChatGPT 和 Gemini 等生成式 AI 聊天机器人的超级智能引擎——而 Opera 刚刚...

大型语言模型 (LLM) 经过大量文本训练,是驱动谷歌 ChatGPT 和 Gemini 等生成式 AI 聊天机器人的超级智能引擎——而 Opera 刚刚成为第一个实现 LLM 本地集成的网络浏览器。

您可能已经阅读过如何在本地安装LLM :这意味着 AI 模型存储在您的计算机上,因此无需将任何内容发送到云端。它需要相当不错的硬件组合才能工作,但从隐私角度来看,这样做更好——没有人会窥探您的提示或使用您的对话进行 AI 训练。

我们已经看到 Opera 推出了各种 AI 功能。现在,它扩展到本地 LLM,并且您有 150 多种模型可供选择。

本地歌剧法学硕士

在开始使用 Opera 中的本地 LLM 之前,您需要注意一些事项。首先,这仍处于试验阶段,因此您可能会注意到一两个错误。其次,您将需要一些可用存储空间 - 有些 LLM 的存储空间不到 2GB,但列表中的其他 LLM 的存储空间超过 40GB。

更大的 LLM 可以为您提供更好的答案,但下载和运行时间也更长。在某种程度上,模型的性能将取决于您运行它的硬件设置,因此如果您使用的是较旧的机器,您可能需要等待一段时间才能得到结果(再次强调,这仍然是一个 beta 测试)。

这些本地 LLM 是大公司(谷歌、Meta、英特尔、微软)发布的模型和研究人员和开发人员共同开发的模型的混合体。它们可以免费安装和使用 — 部分原因是您使用自己的计算机来运行 LLM,因此开发它的团队无需承担任何运行成本。

请注意,其中一些模型是对特定任务(例如编码)而设计的,可能无法为您提供 ChatGPT、Copilot 或 Gemini 所期望的一般知识答案。每个模型都附带说明;在安装任何这些模型之前请先通读一遍,这样您就会知道自己会得到什么。

亲自测试

在撰写本文时,此功能仅在 Opera 的早期测试版本中可用,之后将广泛推出。如果您想尝试一下,您需要下载并设置Opera One 的开发者版本。完成后,单击 Aria 按钮(小 A 符号)打开左侧的侧面板,然后按照说明配置内置 AI 机器人(您需要创建或登录免费的 Opera 帐户)。

当 Aria 准备就绪时,您应该会在顶部看到一个“选择本地 AI 模型”框:单击此框,然后选择“转到设置”,您将看到可用的 LLM 列表以及有关它们的一些信息。选择任何 LLM 以查看版本列表(及其文件大小)以及将在本地安装它们的下载按钮。

如果需要,您可以在 Opera 中设置多个 LLM — 只需通过 Aria 窗口顶部的下拉菜单选择要在每次聊天中使用的 LLM 即可。如果您不选择本地 LLM,则将使用默认(基于云的)Aria 聊天机器人。您可以随时通过单击聊天窗口右上角的大+(加号)按钮来开始新的聊天。

使用这些本地 LLM就像使用在云中运行的任何程序一样:让它们以任何主题和风格撰写文本,询问有关生命、宇宙和一切的问题,并获得任何您喜欢的提示。由于这些模型无法访问云,因此它们无法在网络上查找任何相对较新或热门的内容。