跳到正文

内容类型

模型发布 最新动态

各家新模型的发布、开源与迭代：旗舰更新、开源权重放出、能力与价格变化。

222 条精选近 30 天 142 条共收录 294 条

更新

精选归档 · 第 12 页

2024年3月17日周日第 221–222 条
  1. xAI News70

    xAI 以 Apache 2.0 开源 Grok-1 模型权重与架构

    xAI 以 Apache 2.0 协议开源 Grok-1 模型权重与网络架构，这是一个 314B 参数的 MoE 大语言模型。模型为未经任何应用（如对话）微调的原始基础检查点，2023 年 10 月由 xAI 使用基于 JAX 和 Rust 的自定义训练栈从零完成预训练，每个 token 上激活 25% 权重，权重与使用说明已在 github.com/xai-org/grok 公开。

    推荐理由：xAI 以 Apache 2.0 开源 314B 参数 MoE 模型 Grok-1 的基础权重与架构，读者可以据此了解该模型在 MoE 设计与预训练工程上的具体做法。

2023年11月3日周五
  1. xAI News66

    xAI 推出 Grok 聊天助手，公布底层大模型 Grok-1 基准成绩

    xAI 发布 Grok 聊天助手，由其自研大模型 Grok-1 驱动，目前以限量早期测试向美国用户开放。Grok-1 在 HumanEval 上得 63.2%、MMLU 上得 73%、GSM8k 上得 62.9%、MATH 上得 23.9%，在同算力档下超过 GPT-3.5 和 Inflection-1，但仍落后于 GPT-4。

    推荐理由：给出了 Grok-1 在 GSM8k、MMLU、HumanEval 等基准上的成绩，读者可与 GPT-3.5、GPT-4 等模型横向对比。