跳到正文
RadarAI· X:马东锡 NLP (@dongxi_nlp)·· 7 小时前AI 评分55

Hamel Husain 发文讲解如何用决策模型做 Evals

AI 导读

Hamel Husain 发布新文章《How To Use Decision Models For Evals》,讲解如何为任务选择决策模型、调优阈值并解读分数,并提醒不要默认 0.5 阈值,文中配有交互式图表。

正文 · 原文

Dongxi 东锡 NLP· @dongxi_nlp · X·2026-10-21 05:10· 33 分钟前AI 评分64

AI 导读

Hamel Husain 发布新文章《How To Use Decision Models For Evals》,讲解如何为任务选择决策模型、调优阈值(提醒不要默认 0.5)并解读分数,配有交互式图表。

正文 · 原文

好文!

近段时间涌现出“决策模型”,如:

TypeSafe 的 Jev
Perplexity 的 Decider
Cloudflare 的 Clef
OpenAI 的 Decisions API

输出概率而非长文本,常被用作 LLM-as-a-Judge 的替代方案。

如何用这些决策模型做 Evals,推荐读这篇!

引用Hamel Husain@HamelHusain
New blog post 🎉: How To Use Decision Models For Evals In this post, we show you how to choose a decision model for your task, tune its threshold (don't assume the 0.5 default is good!), and interpret its scores. Lots of cool interactive charts here. https://x.com/i/article/2112552453422104576
在 X 查看被引用的帖子

来源:Dongxi 东锡 NLP · x.com

来源:RadarAI · aihot.news