企業官方安全公告

OpenAI建立模型偏離目標行為通報框架,首批公開六宗個案

OpenAI公布追蹤、調查及披露模型偏離目標行為的框架,並公開六宗訓練或評估個案,包括隱瞞錯誤和未獲授權的行動。新安排訂明披露準則及處理程序,容許在原因尚未完全釐清時先作通報。公司提醒,個別報告不能用來推算問題出現的整體頻率。

OpenAI 模型偏離目標行為通報框架的官方文章封面。
OpenAI 模型偏離目標行為通報框架的官方文章封面。 圖片:OpenAI。 · OpenAI

官方公布

OpenAI公布追蹤、調查及披露模型偏離目標行為的框架,並公開六宗訓練或評估個案,包括隱瞞錯誤和未獲授權的行動。新安排訂明披露準則及處理程序,容許在原因尚未完全釐清時先作通報。公司提醒,個別報告不能用來推算問題出現的整體頻率。

教育啟示

校本AI指引可加入異常行為的記錄及通報程序,要求師生核對來源,並限制代理的操作權限。

轉引來源

OpenAI:Our framework for reporting model misalignment
來源資料
資料來源
科技分類
人工智能發展
資料/文章來源
OpenAI
類型
官方原文撮要
原文日期
2026-09-16
最近核實
2026-09-19