跳到正文
Hacker News· emschwartz·· 3 天前AI 评分38

TypeSafe 发布 Jev 1.14.0,并面向“梦想家”推出实验性功能

We’re releasing Jev 1.14.0 along with experimental features for dreamers

AI 导读

TypeSafe 发布 Jev 1.14.0,并以免责的“danger zone”API 开关形式开放图像、box 类型和更长上下文三项实验功能。图像能力通过 assets 中的查找替换实现,可放入 state、instructions 或 criteria;box 返回单个边界框,仅 jev-1.14.0 支持。

正文 · AI 翻译

TL;DR:我们发布了改进的 Jev 1.14.0,同时为我们的梦想家们带来了实验性功能:图像、一种新类型,以及更长的上下文。进入 danger zone 风险自负。🔥

我们的理念

我们一直在进行的一场巨大辩论是关于可靠性与创造力之间的平衡。

为了真正关心生产环境的构建者,我们应该发布符合我们智能质量标准的模型,并且这些模型已经在我们内部能力的极限范围内经过了实战检验。

另一方面,我们的团队不可能完全理解如何在世界上激发愉悦并构建酷炫的科幻作品。我们不想把极端可靠性的价值观强加给那些梦想家。

我们的解决方案:在我们的 API 头中以“危险区”标志分享这些为梦想家准备的功能。这些功能将在未来的模型中保留,并且(据我们所知)比现有的更好,还将继续突飞猛进地改进。但需要警告的是,我们认为仍然存在太多参差不齐之处,以至于我们无法为这些功能的生产用例背书!

将这些新能力视为我们两年 stealth 期间所构建成果的延续。它们不太适合自动化,但玩起来非常有趣。它们也让我们一窥我们正致力于使其足够可靠以满足 TypeSafe 标准的方向。

可组合图像

我们不仅为未来的 Jev 模型启用了多模态,还为你们所熟知和喜爱的当前 Jev 启用了它。惊喜:你们所熟知和喜爱的 Jev(jev-1.13.0)一直都是多模态的!

图像支持通过 assets 中的查找替换完全可组合。你可以将它们放在我们的 JSON 接口支持的任何位置:在 state、instructions,甚至 criteria 中!尽情尝试,推动技术的边界,并告诉我们 Jev 可以在哪些方面改进。

需要警告的是,所有模型(包括 Jev)在多模态上的表现都不如纯文本。将问题分解为尽可能简单的形式会有很大帮助。

TypeSafe-Danger-Zone-Images: true

查看文档:docs.typesafe.ai/go/images

超越决策的类型

我们还引入了另一种新类型:box。它返回一个单一的边界框——不允许类型错误。这是我们的第一个并非纯粹用于 smart-if 语句的类型,也是我们探索超越简单决策、System One Models 还能支持什么的一个预览。

我们最近在这个类型上取得了巨大飞跃,因此我们仅对 jev-1.14.0 启用它(剧透)。

查看文档:docs.typesafe.ai/go/box

大小确实很重要,显然 💅

我们清楚地听到了你们关于上下文长度的声音。Jev 实际上支持比我们在生产环境中启用的长得多的上下文长度。我们有意限制它,因为 Jev 和所有模型一样,在更长的上下文上可靠性较低,而这种约束鼓励在生产环境中更有效地使用模式。

不过我们不是你们的父母,所以虽然我们强烈建议限制上下文长度,但你们不再必须这样做:

TypeSafe-Danger-Zone-Long-Context: true

查看文档:docs.typesafe.ai/models#context-length

选择加入来帮助我们

我们喜爱社区帮助改进模型的愿望!我们添加了一个选择加入选项,允许你通过你的查询帮助发现模型的参差不齐之处。我们仍然不会用你的查询进行训练,但这确实让我们更容易发现问题并帮助调试你的用例。

jev-1.14.0

我们还在jev-preview下发布了新版本的 Jev!它并不追求花哨,而是对一切进行细微的改进。大多数方面都应该略有提升,但我们预计最大的收益来自多语言支持。

模型发布通常也应该是严格的改进,但我们很清楚开发者有多讨厌更新依赖项。jev-latest将在一周内更新为jev-1.14.0。jev-1.13.0将在一段时间内可用。 

我们打算在jev-1.13.0正式弃用前提前 60 天发出警告,对jev-1.14.0则提前 30 天。在此之前,我们会发布一项弃用政策。

衡量智能

如大家所知,我们不喜欢公开基准测试。不过,对于如何衡量对开发者最重要的智能形态,我们内部有自己的最佳猜测。 

我们在这里尝试一些新做法:我们会把你们当作成年人来对待,与大家分享这些内容。

一些细微之处:

  • 这一衡量标准是我们的最佳猜测,并将持续演变。如果我们再次向你们展示内部数据,不要指望它们会保持一致。

  • 不要完全相信它。始终优先考虑你自己的实验和针对你用例的评估。

  • 我们只纳入开放权重模型,因为我们非常谨慎地保护验证集,并且对我们模型提供商的数据政策感到担忧。

  • 这很可能偏向我们的模型。请随意忽略我们的模型,转而关注开源模型的相对排名。

下一步

很多人喜欢问我们接下来会发布什么样的科幻作品。虽然我们正在做一些令人惊叹的东西,但预计大多数发布都会是美好而无聊的(正如我们认为 AI 应该的那样):全面的小幅改进、更好的稳定性,以及面向真实部署的功能。

来源:Hacker News · typesafe.ai