OpenAI安全专家警告公司在AI开发上步伐过快

最近从OpenAI离职的David Robinson在担任该公司员工3.5年后，在《大西洋月刊》撰文指出，OpenAI及其竞争对手在AI安全方面"远不够谨慎"。Robinson曾协助起草OpenAI的防备框架，并在离职前审阅了12次重大模型发布的安全报告。

Robinson的主要担忧是：OpenAI采用"迭代部署"的方式，先发布AI系统，然后在问题出现时修复安全隐患，而不是事先进行彻底的安全防护测试。他辩称随着AI系统变得更加强大，这种方法已不再适用。OpenAI则回应称，当存在安全隐患时会暂停或延迟模型发布。

为什么这对新加坡和香港家庭很重要

• ChatGPT等AI工具已被学生和学校使用；了解这些安全漏洞可帮助家长评估孩子使用这些工具时的风险。
• 商业AI系统中的安全故障可能影响数据隐私和学校采用AI学习工具的可靠性。
• 这场辩论表明AI监管和行业安全标准仍未确定，将影响最终保护用户的防护措施。

需要关注的事项

1. 在签署同意书前，查看学校使用的AI工具是否制定了明确的数据处理政策和模型局限性说明。
2. 查阅OpenAI或其他供应商发布的任何AI安全事件报告，以了解实际发生过哪些问题。