面向香港 AEC 行业的消防安全规范解读基准

Towards a Benchmark for Fire Safety Code Interpretation in the Hong Kong AEC Industry

AI 导读

研究团队与领域专家合作构建了香港消防安全规范的本地化基准数据集，包含选择题和开放式问题，用于评测 12 个主流闭源与开源模型。表现最好的闭源模型在选择题上达到 80-90% 准确率，开源模型普遍落后；但在开放式评测中，专家人工评估显示准确率仅为 50-70%，表明 LLM 在专业合规任务上仍有较大提升空间。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：大型语言模型（LLM）在建筑、工程与施工（AEC）领域的探索日益增多，但其在法规合规方面的可靠性仍不确定。在本研究中，我们评估了 LLM 在香港消防安全规范上的表现。我们与领域专家合作，创建了一个本地化基准数据集，包含多项选择题（MCQ）和开放式问题（OEQ），用于评估 12 个广泛使用的专有和开源模型。我们的研究结果表明，表现最好的专有模型在 MCQ 上达到 80-90% 的准确率，而开源模型普遍落后。然而，在开放式评估中，专家人工评估显示准确率范围仅为 50-70%，表明 LLM 在专业合规任务上仍有很大的改进空间。

学科：	计算工程、金融与科学（cs.CE）；人工智能（cs.AI）
引用为：	arXiv:2610.16127 [cs.CE]
	（或 arXiv:2610.16127v1 [cs.CE] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.16127 arXiv 颁发的 DOI 通过 DataCite（待注册）

提交历史

来自：Le Qiu [查看电子邮件]
[v1] 2026年10月12日星期一 03:45:26 UTC（237 KB）

来源：arXiv cs.AI · arxiv.org