TypeSafe 发布 Jev 1.14,图像、box 类型与更长上下文以实验开关开放
Jev 1.14: For the Builders and Dreamers
TypeSafe 发布 Jev 1.14.0 并同步上线 jev-preview 版本。文章重点介绍三项通过 TypeSafe-Danger-Zone-* 请求头启用的实验能力:可组合的图像多模态输入、返回单个 bounding box 的新 box 类型,以及取消上限的更长上下文;官方承认这些能力在生产场景仍不够稳定,建议谨慎使用。
Jev 1.14 通过 danger zone 请求头把图像、box 类型与更长上下文等实验能力与正式能力分层开放,并附带内部智能排名,展示了稳定与探索之间的取舍。
TL;DR:我们正在发布改进版的 Jev 1.14.0,同时为梦想家们带来实验性功能:图像、新类型以及更长的上下文。请自行承担风险进入danger zone。🔥
我们的理念
我们一直在争论的一个重大问题是可靠性与创造力之间的平衡。
要真正关心生产环境的构建者,我们应该交付的是那些达到我们智能质量标准、并已经过我们内部能力极限实战测试的模型。
另一方面,我们的团队不可能完全理解要如何才能激发世人的惊喜,并打造出令人惊叹的科幻作品。我们不想把我们对极致可靠性的价值观强加给那些梦想家。
我们的解决方案:在我们的 API 头部中以"危险区域"标志的形式分享这些面向梦想家的功能。这些功能将面向未来的模型长期存在,(就我们所知)优于目前现有的同类功能,并且将继续突飞猛进地完善。但请注意,我们认为这些功能仍存在太多的不稳定性,不足以让我们为生产用例背书!
将这些新功能视为我们 2 年秘密研发成果的延续。它们尚不适合自动化,但玩起来非常有趣。它们也让我们得以一窥我们正致力于让其可靠性达到 TypeSafe 标准的方向。
可组合图像
我们不仅将为未来的 Jev 模型启用多模态能力,还会为我们熟知且喜爱的当前版本启用它。惊喜吧:你们熟知且喜爱的这个 Jev(jev-1.13.0)一直就是多模态的!
图像支持可以通过在 assets 中进行查找与替换的方式完全组合使用。你可以将它们放置在我们的 JSON 接口所支持的任何位置:state、instructions,甚至 criteria 中!尽情尝试吧,突破技术的边界,并告诉我们 Jev 可以在哪些方面做得更好。
请注意,所有模型(包括 Jev)在多模态任务上的表现都不如纯文本任务。将问题分解为尽可能简单的子问题会带来很大帮助。
TypeSafe-Danger-Zone-Images: true
查看文档:docs.typesafe.ai/go/images
超越决策的类型
我们还在引入另一种新类型:box。它返回一个单一的边界框——不允许类型错误。这是我们的第一个并非纯粹用于智能 if 语句的类型,也是我们探索超越简单决策、系统一模型还能支持哪些能力的预览。
我们最近在这方面取得了突飞猛进的进展,因此我们只对 jev-1.14.0 启用了此功能(剧透预警)。
大小确实重要,显然 💅
我们已经非常清楚地听到了你们关于上下文长度的呼声。Jev 实际上支持比我们生产环境中启用的更长得多的上下文长度。我们有意选择限制它,因为 Jev 与所有模型一样,在更长上下文中的可靠性会下降,而这种限制有助于鼓励在生产环境中采用更有效的使用模式。
不过我们并不是你们的父母,因此虽然我们强烈建议限制上下文长度,但你不再必须这样做:
TypeSafe-Danger-Zone-Long-Context: true
查看文档:docs.typesafe.ai/models#context-length
选择加入以帮助我们
我们热爱社区希望帮助改进模型的热情!我们新增了一个选择加入项,让你可以通过你的查询帮我们发现模型的不稳定性。我们仍然不会用你的查询进行训练,但这确实能让我们更容易发现问题并帮助你调试用例。

jev-1.14.0
我们还在 jev-preview 下发布了 Jev 的新版本!它的目标并不是炫酷,而是对各个方面进行细微的改进。大多数东西都会有一点点提升,但我们预计在多语言支持方面会有最大的增益。
模型发布通常也应当是严格的改进,但我们深知开发者有多讨厌更新依赖。jev-latest 将在一周内更新到 jev-1.14.0。jev-1.13.0 将保留一段时间。
我们计划在 jev-1.13.0 被正式弃用之前给出 60 天的预告,对于 jev-1.14.0 则是 30 天。在此之前我们会发布一份弃用策略。
衡量智能
大家都知道,我们不喜欢公开基准测试。不过,我们自己内部有一些最佳猜测,可以衡量对开发者最重要的智能形态。
我们在这里尝试一些新的做法:我们将把你们当作成年人对待,并把这一切分享给你们。
一些细微差别:
这个衡量方式是我们目前最好的猜测,并且会持续发展。如果我们再次向你们展示我们的内部数据,请不要期望它们始终保持一致。
不要全盘相信。请始终根据自己的实验和针对用例的评估为准。
我们只纳入了开源权重模型,因为我们严格保护验证集,并且对模型提供商的数据政策感到担忧。
这很可能偏向于我们的模型。请随意忽略我们的模型,而专注于开源模型之间的相对排名。



接下来
很多人喜欢问我们接下来会发布什么样的科幻产品。虽然我们正在研发一些令人惊叹的东西,但大多数发布预计都会如我们所认为的 AI 应该那样美好而平凡:全方位的小幅改进、更好的稳定性,以及面向真实部署的功能。
来源:Hacker News · typesafe.ai