Cerebras发布全球最快AI推理方案，速度超越英伟达20倍
IT之家 8 月 28 日消息，Cerebras Systems 今日宣布推出 Cerebras Inference，官方称这是全球最快的 AI 推理解决方案。该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token，为 Llama 3.1 70B 提供每秒 450 个 token，速度是微软 Azure 等超大规模云中提供...
共 9 篇文章
标签：推理
OpenAI“草莓”推理大模型或将在两周内上线，用户耐心将接受考验
财联社9月11日讯（编辑 史正丞） 沉寂了数月的全球AI龙头OpenAI，似乎马上要有大动作了。 根据《信息报》周二援引多名知情人士报道， OpenAI计划在大约两周时间里，正式推出以推理能力为核心的草莓AI模型，并加入ChatGPT服务。 由于OpenAI CEO奥尔特曼等人对...
OpenAI推出具备推理能力的新型人工智能模型o1
每经AI快讯，当地时间9月12日，OpenAI在官网发布公告称，开始向全体订阅用户开始推送OpenAI o1预览模型也就是此前被广泛期待的草莓大模型。OpenAI表示，对于复杂推理任务而言，新模型代表着人工智能能力的崭新水平，因此值得将计数重置为1，给它一个有别于GP...
OpenAI推出“草莓”推理模型，GPT-5离我们还有多远？
划重点 01人工智能巨头OpenAI发布了代号草莓的AI推理模型OpenAI o1系列，包括OpenAI o1-preview和o1-mini。 02o1模型具有更强的推理能力，能解决更难的问题，与GPT-4o相比，输入成本是其3倍，输出成本是其4倍。 03然而，o1模型的速度较慢，回答某些问题可能...
中信证券：OpenAI o1推理升级，强化学习带来新机遇
每经AI快讯，中信证券研报指出，OpenAI o1模型升级思维链和强化学习，重点提升模型推理性能，代码、数学、科学等强逻辑领域能力大幅提升，持续探索AGI实现新方式。新模型在训练和推理端同步推动算力需求倍增，算力产业链景气度持续上升；应用端进一步降低各...
OpenAI重磅推出顶级推理模型O1，盘点那些提升大模型推理力的黑科技
前几天OpenAI 发布的o1 模型，在各个竞赛、领域的表现相比之前的产品有了很大的提高，号称能媲美人类的博士水平。这么强的大模型，里面有那些黑科技？这篇文章，我们和作者一起来学习一下。 9月13日凌晨，OpenAI爆出重磅消息，正式发布了OpenAI O1推理模型。...
OpenAI发布全新推理算力规模法则，AI PC与CPU迎来发展机遇
于是乎，技术的聚光灯再次对焦到了**大模型和RAG的组合**。 具体而言，向量数据库让大模型能够快速有效地检索和处理大量的向量数据，为大模型提供了更丰富和准确的信息，从而增强了模型的整体性能和应用范围。 可以说是让大模型有了好记忆，减少出现答非所问...
消息曝谷歌秘密开发推理AI模型，竞逐OpenAI技术高地
划重点 01谷歌正秘密研发具备人类推理能力的人工智能软件，与OpenAI的o1模型竞争升级。 02谷歌旗下的多个团队在人工智能推理软件领域取得了显著进展，探索推理模型以实现下一次重大飞跃。 03为此，谷歌效仿OpenAI，尝试运用思维链提示技术来模拟人类的推理过...
苹果研究人员指出AI推理不足：简单数学题轻微变化即出错
IT之家 10 月 12 日消息，近年来，人工智能（AI）在各个领域取得了显著的进展，其中大型语言模型（LLM）能够生成人类水平的文本，甚至在某些任务上超越人类的表现。然而，研究人员对 LLM 的推理能力提出了质疑，他们发现这些模型在解决简单的数学问题时， 只...
