辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核

Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议，AI 公司在产品发布前须向监管机构证明安全性，类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险，并推测距局面远比现在糟糕大概只剩一两年。背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT-6.1 Astra。