系统极客一直在努力
专注操作系统及软件使用技能

3 招教你免费使用 Llama 3.1 开源大语言模型

Meta

Meta 推出了其迄今为止最大的开源 AI 模型——Llama 3.1,其中 405B 参数版本的性能甚至可以与 OpenAI、Anthropic 和 Google 等巨头的专有模型相媲美。如果你想亲身体验这个强大模型的能力,但又不想或无法进行本地部署,本文将为你介绍 3 种免费在线使用 Llama 3.1 的方法。

方法 1. Meta AI:官方体验渠道

Meta AI 是体验 Llama 3.1 的官方渠道,但目前仅限美国 IP 用户使用。

1访问 meta.ai 并使用你的 Facebook 或 Instagram 账号登录。

2你也可以在 WhatsApp 应用中使用 Meta AI。

3开始与 Llama 3.1 模型对话,建议尝试一些复杂的推理问题来测试模型的能力。

通过 Meta AI 使用 Llama 3.1
通过 Meta AI 使用 Llama 3.1

方法 2. HuggingChat:全球可用的替代方案

如果你没有美国 IP,可以考虑使用 HuggingChat 平台,它提供了 Llama 3.1 405B 模型的 FP8 量化版本。

1打开 HuggingChat 上的 Llama 3.1 405B 专属聊天页面

2无需注册和登录即可开始对话。

通过 HuggingChat 使用 Llama 3.1
通过 HuggingChat 使用 Llama 3.1

方法 3. Groq:高速响应的开源模型托管平台

Groq 平台提供了诸多开源 AI 模型,其中就包括 Llama 3.1 的 70B 和 8B 参数模型,生成速度可达每秒 250 Token。之前它还提供 405B 模型,但由于流量过大和服务器问题,405B 模型已经暂时下线。

1访问 groq.com 免费注册或登录已有账号。

2从下拉菜单中选择 Llama-3.1-8b-InstantLlama-3.1-70b-Versatile模型。

3开始提问,体验 Llama 3.1 模型的快速响应。

通过 Groq 平台使用 Llama 3.1
通过 Groq 平台使用 Llama 3.1

额外福利: 除了在 Playground 中提问外,Groq 还支持 API 调用。你可以申请 API Key,并使用以下 API 地址进行调用,真真的网络活菩萨:

https://api.groq.com/openai/v1/chat/completions

以上就是目前能免费使用 Llama 3.1 系列模型的 3 种主要方式。如果你的硬件资源够强,也可以考虑直接在本地部署 Llama 3.1 模型,体验更加个性化的 AI 服务。

赞(2) 赞赏

评论 抢沙发

微信赞赏