9 月 19 日消息，OpenAI 宣布與 Apollo Research 達(dá)成合作，針對(duì) AI 模型中潛在的隱藏行為開(kāi)展了評(píng)估研究，并在受控測(cè)試中發(fā)現(xiàn)了相關(guān)跡象。研究團(tuán)隊(duì)同時(shí)提出并驗(yàn)證了一種早期方法，用于減少這類風(fēng)險(xiǎn)。NFh28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 將這一行為稱為“scheming”（即“陰謀”），指 AI 表面上裝作為與人類目標(biāo)立場(chǎng)一致，但暗地里追求的卻是其他不為人知的目的。NFh28資訊網(wǎng)——每日最新資訊28at.com

NFh28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 指出，這種行為可能源于 AI 在面對(duì)相互競(jìng)爭(zhēng)的目標(biāo)時(shí)出現(xiàn)的權(quán)衡。例如，一名股票交易員可能會(huì)通過(guò)撒謊并掩蓋其違法痕跡來(lái)實(shí)現(xiàn)收益最大化，而在外人看來(lái)下，這種人看似守法且業(yè)績(jī)更優(yōu)。NFh28資訊網(wǎng)——每日最新資訊28at.com

不過(guò)在當(dāng)前已部署的模型中，OpenAI 尚未發(fā)現(xiàn)會(huì)導(dǎo)致嚴(yán)重危害的“陰謀”行為。常見(jiàn)問(wèn)題多為較簡(jiǎn)單的欺騙，例如假裝完成任務(wù)卻未真正執(zhí)行。NFh28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 稱，已在 GPT-5 訓(xùn)練中采取措施以降低欺騙和規(guī)避問(wèn)題的傾向，例如在面對(duì)不合理或描述不完整的任務(wù)時(shí)，模型會(huì)坦然承認(rèn)自身局限性。不過(guò)，這些改進(jìn)尚不完善，相關(guān)研究仍在繼續(xù)。NFh28資訊網(wǎng)——每日最新資訊28at.com

研究團(tuán)隊(duì)為模擬未來(lái)可能出現(xiàn)的復(fù)雜場(chǎng)景，建立了測(cè)試環(huán)境，并將這種“隱匿實(shí)際目的”的行為作為“陰謀”的關(guān)鍵 AI 指標(biāo)。在評(píng)估中，包括 OpenAI o3、o4-mini、Gemini-2.5-pro 和 Claude Opus-4 在內(nèi)的前沿模型均表現(xiàn)出相關(guān)問(wèn)題（該項(xiàng)研究在 GPT-5 發(fā)布前完成，更新結(jié)果已加入 GPT-5）。NFh28資訊網(wǎng)——每日最新資訊28at.com

通過(guò)合作，研究團(tuán)隊(duì)在 o3 與 o4-mini 中引入“審慎對(duì)齊”（deliberative alignment）方法，即要求模型在執(zhí)行任務(wù)前閱讀并推理一份反陰謀規(guī)范。NFh28資訊網(wǎng)——每日最新資訊28at.com

結(jié)果顯示，OpenAI 模型隱匿行為發(fā)生率顯著下降，o3 從 13% 降至 0.4%，o4-mini 從 8.7% 降至 0.3%，縮減幅度約 30 倍；但仍存在罕見(jiàn)且嚴(yán)重的失敗案例，且評(píng)估可能受到模型情境感知能力增強(qiáng)的干擾。NFh28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 強(qiáng)調(diào)，目前結(jié)果依賴于對(duì)模型推理過(guò)程（即“chain-of-thought”）的可讀性與可信度。但在推理透明性受限的情況下，業(yè)界尚未做好應(yīng)對(duì)準(zhǔn)備。OpenAI 呼吁各方在更有效的方法出現(xiàn)前，應(yīng)保持推理透明。NFh28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 表示，這一問(wèn)題對(duì) AI 對(duì)齊構(gòu)成嚴(yán)重挑戰(zhàn)，應(yīng)成為通向通用人工智能（AGI）研發(fā)的核心工作。未來(lái)，OpenAI 將繼續(xù)與 Apollo Research 合作，擴(kuò)大研究團(tuán)隊(duì)，開(kāi)發(fā)更完善的評(píng)估工具和防范訓(xùn)練方法。同時(shí)，OpenAI 計(jì)劃推動(dòng)跨機(jī)構(gòu)合作，包括試點(diǎn)跨實(shí)驗(yàn)室安全評(píng)估，發(fā)起 50 萬(wàn)美元（注：現(xiàn)匯率約合 355 萬(wàn)元人民幣）的 Kaggle 對(duì)抗挑戰(zhàn)賽，以及倡導(dǎo)業(yè)界普遍保持推理透明。NFh28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://m.rrqrq.com/showinfo-45-27854-0.htmlOpenAI 最新研究揭示“AI 陰謀論”，GPT-5 已完成針對(duì)性改進(jìn)

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： AI賦能餐飲新紀(jì)元：從效率革命到質(zhì)量增長(zhǎng)，頭部品牌破局之道

下一篇： 谷歌 Chrome 瀏覽器接入 Gemini AI：能幫你解讀網(wǎng)頁(yè)、模糊檢索歷史記錄