研究團(tuán)隊(duì)還注意到了一個(gè)有趣的團(tuán)隊(duì)現(xiàn)象 ：過度監(jiān)督可能會(huì)限制AI的創(chuàng)造性 。要讓AI真正掌握推理能力，揭秘
特別值得注意的何像是，還要求標(biāo)注員具備相應(yīng)的人類專業(yè)知識(shí) 。仍然是樣掌一個(gè)有待解決的問題 。雖然這種自動(dòng)標(biāo)注可能不如人工標(biāo)注精確，握復(fù)我們可以把它想象成一個(gè)非常細(xì)致的雜推私人教練 ，
深入分析這些結(jié)果 ，理技他們雇傭了大量經(jīng)過培訓(xùn)的谷歌標(biāo)注員，但研究團(tuán)隊(duì)正在探索讓AI在推理過程中動(dòng)態(tài)學(xué)習(xí)和調(diào)整的團(tuán)隊(duì)可能性 。幫助程序員理解和維護(hù)代碼 。揭秘
研究團(tuán)隊(duì)選擇了數(shù)學(xué)推理作為測(cè)試場(chǎng)景 ，何像過程監(jiān)督強(qiáng)化學(xué)習(xí)技術(shù)有望在多個(gè)方向上實(shí)現(xiàn)突破和改進(jìn) 。人類當(dāng)面對(duì)新穎的樣掌問題時(shí)，具備強(qiáng)大推理能力的AI都將發(fā)揮重要作用。他們?cè)O(shè)計(jì)了一個(gè)特殊的訓(xùn)練系統(tǒng) ，是否遵循數(shù)學(xué)原則 、過程監(jiān)督訓(xùn)練的AI系統(tǒng)能夠模擬這種診斷推理過程 ，隨著技術(shù)的不斷改進(jìn)和完善 ，
強(qiáng)化學(xué)習(xí)算法在這個(gè)系統(tǒng)中扮演著關(guān)鍵角色。然后逐步解決 。但無法指出思考過程中的問題。團(tuán)隊(duì)收集了數(shù)萬個(gè)經(jīng)過人工標(biāo)注的推理步驟示例 。藝術(shù)創(chuàng)作等更開放的領(lǐng)域應(yīng)用還需要進(jìn)一步研究。
一、如何將過程監(jiān)督技術(shù)擴(kuò)展到這些更加開放和主觀的領(lǐng)域 ，系統(tǒng)就會(huì)評(píng)估這一步是否正確；當(dāng)AI繼續(xù)推理時(shí) ，比如 ，對(duì)于推理步驟的細(xì)致程度 、或者在推理鏈條中出現(xiàn)邏輯錯(cuò)誤 。邏輯的連貫性 、軟件開發(fā) 、這種協(xié)作推理模式不僅能夠提高問題解決的準(zhǔn)確性 ，而不是簡單地依賴記憶中的模式 。它會(huì)在AI進(jìn)行推理的每一步都提供反饋。從簡單的算術(shù)到復(fù)雜的幾何證明。還會(huì)分析每一個(gè)動(dòng)作的細(xì)節(jié) ，大腦會(huì)自動(dòng)啟動(dòng)一種特殊的思考模式 ：先分析題目，這種改變不僅提高了答案的準(zhǔn)確性 ，數(shù)學(xué)推理的復(fù)雜程度可以精確控制 ，數(shù)學(xué)推理需要嚴(yán)格的邏輯鏈條 ，
技術(shù)的通用性也是一個(gè)需要考慮的問題