Meta 发布 Llama API,携手打造最快 AI 推理解决方案

人脑网 4 月 30 日消息,在首届 LlamaCon 大会上,Meta 公司在推出独立 AI 应用之外,还发布了 Llama API,目前以免费预览形式向开发者开放。

人脑网援引博文,Llama API 支持开发者测试包括 Llama 4 Scout 和 Llama 4 Maverick 在内的最新模型,提供一键 API 密钥创建以及轻量级的 TypeScript 和 Python SDK。

开发者可通过一键创建 API 密钥,快速上手使用,同时 API 还提供轻量级的 TypeScript 和 Python SDK。为了方便开发者从 OpenAI 平台迁移应用,Llama API 完全兼容 OpenAI SDK。

Meta 发布 Llama API,携手打造最快 AI 推理解决方案

Meta 还联手 Cerebras 和 Groq,进一步优化 Llama API 的性能。Cerebras 宣称,其 Llama 4 Cerebras 模型的 tokens 生成速度高达 2600 tokens / s,比 NVIDIA 等传统 GPU 解决方案快 18 倍。

根据 Artificial Analysis 基准测试数据,这一速度远超 ChatGPT 的 130 tokens / s 和 DeepSeek 的 25 tokens / s。

Cerebras CEO 兼联合创始人 Andrew Feldman 表示:“我们很自豪能让 Llama API 成为全球最快的推理 API。开发者在构建实时应用时需要极致速度,Cerebras 的加入让 AI 系统性能达到 GPU 云无法企及的高度。”

此外,Groq 提供的 Llama 4 Scout 模型速度为 460 tokens / s,虽不及 Cerebras,但仍比其他 GPU 方案快 4 倍。在Groq上,Llama 4 Scout 每百万 tokens 输入费用为 0.11 美元,每百万 tokens 输出费用为 0.34 美元;Llama 4 Maverick 每百万 tokens 输入费用为 0.50 美元,每百万 tokens 输出费用为 0.77 美元。

主题测试文章,只做测试使用。发布者:人脑网,转转请注明出处:https://www.rennao.com.cn/9714.html

(0)
人脑网的头像人脑网
上一篇 2025年4月30日 下午3:08
下一篇 2025年4月30日 下午3:09

相关推荐

  • 广联达G+平台使用指南

    以前广联达切换有些复杂,但现在发展得越来越好。最近体验了其整合平台G+,感觉不错。接下来,就为大家介绍如何通过G+安装广联达软件。 1、 在搜索引擎中输入广联达关键词,就会显示出许多关于广联达的相关内容。 2、 此时,若仅如此搜索,首个出现的是广联达官网。虽可在其中查找G+,但稍显繁琐,建议直接搜索广联达G+更便捷。 3、 打开搜索结果首个网站,进入后可见广…

    2025年4月30日
    300
  • 华硕推出天选 RTX 5070 显卡:白色系外观,三风扇 2.5 槽厚度

    人脑网 4 月 21 日消息,华硕官网现已上线天选 RTX 5070 12GB 显卡,可选标准和超频版本。这也是华硕在 GeForce RTX 50 世代推出的首张非联名款天选系列显卡。 该显卡采用三风扇 + 镜面直触的散热设计,单 12V-2×6 供电,三维 305×126×50 (mm),厚度约 2.5 槽,略微超出英伟达定义的 SFF-Ready 尺寸…

    2025年4月21日
    1000
  • 109.8 万元起,东风猛士 917 蛟龙战甲加长版硬派 SUV 上市

    人脑网 4 月 23 日消息,上海车展期间,东风猛士 917 蛟龙战甲加长版硬派中大型 SUV 正式上市,官方指导价为 109.8 万元起,全球限量 199 台。新车在猛士 917 蛟龙战甲标轴版的基础上进行了车身加长,并继续搭载增程式混合动力系统。 人脑网注意到,猛士 917 蛟龙战甲加长版延续了标轴版车型的设计。前脸采用了独特的“龙牙仿生中网”和“碳纤维…

    2025年4月23日
    800
  • 国科微推出 AI ISP 品牌“圆鸮”,首颗芯片已在安防行业得到应用

    人脑网 4 月 23 日消息,国科微今日宣布推出新一代自研 AI ISP(图像处理引擎 / 图像信号处理器)品牌“圆鸮”。鸮即指猫头鹰及其近亲鸟类,具有一双夜视和洞察能力出色的大眼睛,这一命名体现了国科微 AI ISP 在暗光增强、细节捕捉等方面的优势。 国科微宣称其圆鸮AI ISP 具备六大特性:超感光降噪、多光谱融合、超级广角、超级稳像、快速对焦和 RG…

    2025年4月23日
    700
  • 曾经高不可攀的三色激光为何价格大大下降?

    三色激光曾经是高端投影机的专属光源,动辄几万的价格,普通消费者都望而却步,但是最近一两年大家可以发现,即便是4000元的投影机都开始配置三色激光了,为什么曾经高高在上的三色激光可以这么快普及呢?今天我们就来讨论下这个话题! 核心部件成本断崖式下跌 激光二极管作为三色激光的核心元件,其价格在过去五年间经历了戏剧性的下滑。以 450nm 蓝光激光器为例,2019…

    2025年4月16日
    2000

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信