OpenAI 测试模型回答是否符合战争法

OpenAI 因模型将用于美国军方，开始测试模型回答是否符合战争法。OpenAI 设立了首个人权与负责任部署岗位，由曾在军方议题工作 30 年、6 月加入的 Sarah Yager 负责。国际专家向模型输入高风险作战提示词，工程师再根据回答与《日内瓦公约》的差距调整模型，Yager 称这种反向微调步骤此前从未被采取过。