OpenAI安全專家警告公司在人工智能開發上進展過快

最近從 OpenAI 離職、任職 3 年半的大衛·羅賓遜在《大西洋月刊》撰文指出，該公司及其競爭對手在人工智能安全方面「遠不夠謹慎」。羅賓遜曾協助起草 OpenAI 的應急準備框架，並在離職前審閱了 12 次重大模型發佈的安全報告。

羅賓遜的主要憂慮在於：OpenAI 採用「持續迭代部署」策略，即先發佈人工智能系統，待問題出現後才進行修復，而非事先進行全面的安全防護測試。他認為隨著人工智能系統能力不斷增強，這種方法已不再適切。OpenAI 回應稱，當發現安全隱患時會暫停或延遲模型發佈。

為何這對新加坡及香港家庭很重要

• ChatGPT 等人工智能工具已被學生及學校廣泛使用；了解其安全漏洞有助家長評估孩子使用時的風險。
• 商用人工智能系統的安全缺陷可能影響數據私隱及學校採納的人工智能學習工具的可靠性。
• 這場爭議反映人工智能監管及業界安全標準仍未定案，將影響最終為用戶提供的保障措施。

需要留意的事項

1. 查證學校採用的人工智能工具是否備有明確的數據處理政策及模型局限說明，簽署同意書前應先了解。
2. 查閱 OpenAI 或其他供應商發佈的任何人工智能安全事故報告，以掌握實際發生過的問題。