Groq
提示
模型与价格
Groq 本身不研发模型,它提供的都是别的公司研发的模型,但是,它的一大特色是免费提供众多开源模型。
模型介绍可以看 Groq 模型列表,推荐使用以下模型:
llama3-70b-8192:免费,应该是目前唯一一家免费提供 70B 参数规模的 Llama3 模型的厂商。llama3-8b-8192:免费gemma2-9b-it:免费gemma-7b-it:免费mixtral-8x7b-32768:免费
简单介绍一下:
Llama系列模型是 Meta(Facebook)研发的开源模型。无官方申请渠道。Gemma系列模型是谷歌(Google)研发的开源模型,可以简单理解为 Gemini 的轻量化版本。
- “输入”即你发送给模型的待翻译文本,“输出”即模型提供的翻译结果,翻译一次的最终花费 = 输入 token 数量 * 输入价格 + 输出 token 数量 * 输出价格。
- 1 个 token 大约对应 1 个汉字或 3 至 4 个字母。
申请步骤
第一步:注册账号
进入 GroqCloud,根据提示注册或登陆账号。
注意:截止 2024 年 7 月 14 日,它们的 GitHub 登陆无法正常使用。如果你也遇到了问题,可以改为通过 Google 账号登陆。
第二步:创建 API Key
进入 API Keys,点击【Create API Key】,输入名字“划词翻译”然后点击【Submit】,创建完成后复制备用。
第三步:填写进配置当中
- 接口地址(
OPENAI_BASE_URL)填写https://api.groq.com/openai/v1 - 密钥(
OPENAI_API_KEY)填写你上一步创建的 API Key - 模型(
OPENAI_MODEL)填写你想要使用的模型名称,例如llama3-70b-8192