OpenAI推出強化微調(diào)研究項目 CEO奧特曼稱“今年最大驚喜”

12月7日消息，據(jù)外媒報道，AI初創(chuàng)公司OpenAI啟動了為期12天的直播活動?；顒邮兹?，推出了完整版（滿血版）o1推理模型，并新增了月費為200美元的ChatGPT Pro訂閱。

直播第二天， OpenAI推出了強化微調(diào)研究項目。該項目旨在使開發(fā)人員和機(jī)器學(xué)習(xí)工程師能夠創(chuàng)建經(jīng)過微調(diào)的專家模型。

新的模型自定義技術(shù)使開發(fā)人員能夠使用數(shù)十到數(shù)千個高質(zhì)量任務(wù)定制模型，并根據(jù)提供的參考答案對模型的響應(yīng)進(jìn)行分級。此技術(shù)強化了模型對類似問題解決方案的推導(dǎo)，以及在特定任務(wù)上的準(zhǔn)確性。

在OpenAI的演示中，微調(diào)后的o1-mini模型得分提高80%，直接反超o1正式版。

據(jù)OpenAI介紹，用戶可以綜合運用o1、微調(diào)和數(shù)據(jù)創(chuàng)建定制的小型 o1模型 o1 mini。用戶要做的就是提供數(shù)據(jù)，然后在強化微調(diào)方面，設(shè)置一個數(shù)據(jù)集和一個“評分器”，根據(jù)訓(xùn)練和驗證數(shù)據(jù)集評估模型的性能，其他工作交給OpenAI。

OpenAI CEO奧特曼在社交平臺發(fā)文稱，“效果一級棒，是我2024年最大的驚喜，期待看到人們構(gòu)建什么！”

OpenAI稱，OpenAI的定制模型平臺將支持強化學(xué)習(xí)，強化學(xué)習(xí)也是OpenAI內(nèi)部用于訓(xùn)練自家前沿模型的技術(shù)，如GPT-4o和o1系列模型。在OpenAi的內(nèi)測中，強化微調(diào)已經(jīng)在生物化學(xué)、安全、法律和醫(yī)療保健領(lǐng)域取得成功。

按照OpenAI的計劃，2025年初強化微調(diào)將面向公眾發(fā)布，目前已對企業(yè)、大學(xué)和研究院開放申請測試通道。

生成海報