蘋(píng)果新AI研究：如何讓手機(jī)系統(tǒng)更懂你，避免潛在風(fēng)險(xiǎn)，讓科技更貼心，生活更美好
隨著人工智能（AI）技術(shù)的不斷進(jìn)步，我們的手機(jī)系統(tǒng)也在不斷地智能化。在這個(gè)過(guò)程中，蘋(píng)果公司與華盛頓大學(xué)的研究人員共同發(fā)表了一篇論文，探討如何讓AI更懂用戶(hù)，避免潛在風(fēng)險(xiǎn)，讓科技更貼心，生活更美好。
AI智能體的自主行為是2026年蘋(píng)果系統(tǒng)升級(jí)的核心功能之一。然而，隨著這一功能的普及，我們也面臨著一些新的問(wèn)題和挑戰(zhàn)。手機(jī)作為個(gè)人設(shè)備，存儲(chǔ)著大量的個(gè)人信息，包括銀行金融數(shù)據(jù)、健康記錄、照片和私人信息。當(dāng)AI智能體代行任務(wù)時(shí)，如何區(qū)分哪些動(dòng)作可能造成持久或危險(xiǎn)后果，何時(shí)停止并請(qǐng)求用戶(hù)確認(rèn)，成為了亟待解決的問(wèn)題。
蘋(píng)果的研究人員提出了一種新的方法，通過(guò)創(chuàng)建一個(gè)“分類(lèi)法”（結(jié)構(gòu)化列表），用于定義UI動(dòng)作的不同影響類(lèi)型。這種方法為AI提供了推理人類(lèi)意圖的框架，相當(dāng)于一份“風(fēng)險(xiǎn)檢查”程序，幫助AI判斷哪些動(dòng)作可能出錯(cuò)或?yàn)楹涡枰~外確認(rèn)。
為了訓(xùn)練AI區(qū)分動(dòng)作風(fēng)險(xiǎn)，研究人員讓參與者記錄高風(fēng)險(xiǎn)動(dòng)作，如修改賬戶(hù)密碼、發(fā)送消息、更新支付詳情等。他們將新數(shù)據(jù)與現(xiàn)有覆蓋安全、常規(guī)交互的數(shù)據(jù)集結(jié)合，用分類(lèi)法標(biāo)注所有數(shù)據(jù)，隨后測(cè)試了包括OpenAI GPT-4在內(nèi)的五大AI模型。
研究表明，這種方法有助于提高風(fēng)險(xiǎn)判斷準(zhǔn)確率。然而，即使表現(xiàn)最佳的“GPT-4多模態(tài)”模型，正確率也僅約58%。這表明AI模型在處理真實(shí)世界高風(fēng)險(xiǎn)任務(wù)時(shí)仍存在困難。
盡管如此，蘋(píng)果的研究人員并未因此氣餒。他們認(rèn)為，用戶(hù)需要的是“有用且安全”的自動(dòng)化功能。誤刪賬戶(hù)的AI是災(zāi)難，但要是連調(diào)整音量這種操作都要請(qǐng)示用戶(hù)的話(huà)還不如不做。因此，他們提出了一個(gè)更具包容性和適應(yīng)性的方法，以解決這個(gè)問(wèn)題。
他們的方法支持個(gè)性化，幫助AI設(shè)計(jì)者識(shí)別當(dāng)前模型的薄弱點(diǎn)。例如，用戶(hù)可以自定義何時(shí)需要請(qǐng)求批準(zhǔn)。這種方法不僅可以提高用戶(hù)體驗(yàn)，還能減少不必要的麻煩和潛在的風(fēng)險(xiǎn)。
然而，我們也要意識(shí)到，教AI“識(shí)別按鈕”還不夠，它必須理解“點(diǎn)擊背后的意義”。這不僅對(duì)AI來(lái)說(shuō)是項(xiàng)艱巨的任務(wù)，而且也是我們面臨的挑戰(zhàn)。人類(lèi)可以通過(guò)上下文提示和歷史經(jīng)驗(yàn)來(lái)進(jìn)行判斷，但機(jī)器卻很難完美地解決這種復(fù)雜性操作。這就需要我們?cè)谠O(shè)計(jì)和開(kāi)發(fā)AI系統(tǒng)時(shí)，更多地考慮其背后的邏輯和原理，以使其能夠更好地理解并執(zhí)行任務(wù)。
總的來(lái)說(shuō)，蘋(píng)果的新AI研究為我們提供了一個(gè)新的視角和方法，讓我們對(duì)未來(lái)的手機(jī)系統(tǒng)充滿(mǎn)了期待。它不僅能夠幫助我們更好地理解和使用AI技術(shù)，還能使我們的生活更加便捷和安全。我們有理由相信，隨著AI技術(shù)的不斷進(jìn)步和發(fā)展，我們的生活將會(huì)變得更加美好。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
