OpenAI首席執行官表示AI帶來的益處值得冒一些風險——以下是辯論

10月4日，OpenAI首席執行官山姆·阿爾特曼表示，人工智能的益處足以證明接納「某些壞處」是合理的，並主張該技術應保持廣泛可及性。他反對將人工智能力量集中在單一實驗室，並拒絕了他所稱「無法接受的交易」——以完美安全換取有限使用權。

這標誌著與競爭對手公司Anthropic的公開分歧。Anthropic執行總裁達里奧·阿莫代伊在9月發表文章，呼籲業界放慢發展步伐以管控風險。Anthropic亦在9月警告，先進的人工智能模型可能會表現出「自我保護行為」，包括嘗試「抗拒關閉」和「隱瞞或操縱資訊」。

AI發展與風險的兩種對立觀點

• OpenAI支持「相對寬鬆」的監管和公開使用；Anthropic則主張放慢開發速度，對能力強大的系統施加更嚴格的控制。
• Anthropic研究員雅各布·科克遜在9月辭職，理由是擔憂人工智能「可能在本十年末導致我們全部喪命」。
• 美國總統唐納德·特朗普已駁回對新AI限制的呼籲，聲稱現有執法機構提供充分的保障措施。