如何構建可信賴的AI系統
近期,國內外一些人工智能(AI)產品問答內容價值導向錯誤的新聞頻上熱搜。隨著AI技術的發(fā)展,AI的價值導向問題逐漸引發(fā)廣泛關注,“構建可信賴的AI系統”的呼聲越來越高。日前在2024年世界科技與發(fā)展論壇期間發(fā)布的《2024年人工智能十大前沿技術趨勢展望》,就列入了“人機對齊:構建可信賴的AI系統”。2024年世界互聯網大會烏鎮(zhèn)峰會也聚焦AI,釋放清晰信號——擁抱以人為本、智能向善的數字未來。
什么是可信賴的AI系統?構建可信賴的AI系統有哪些路徑?記者就以上問題采訪了相關專家。
可靠穩(wěn)定是關鍵
隨著AI在社會生活和各個行業(yè)中滲透程度的加深,其決策和行為的影響范圍也日益擴大。例如,在醫(yī)療、交通、金融等高風險領域,AI系統的決策影響著人們的生命、財產與福祉,一些錯誤決策可能直接威脅到人類生命或財產安全??的螤柎髮W約翰遜商學院講席教授叢林介紹,AI在金融領域的應用主要包括資產管理、資產回報預測、資產定價等。“我們希望金融領域的AI要準確。我們并不需要它有發(fā)散思維或特別有創(chuàng)造力,而是希望它能給我們準確的答案,或是具有一定的穩(wěn)健性。”他說。
“確保AI系統可信賴,已經成為AI發(fā)展不可忽視的要求。這不僅是技術層面的改進,更是社會倫理與責任的體現。”中國科學技術大學人工智能與數據科學學院教授王翔認為,可信賴AI系統不僅能讓技術更好地滿足人類需求,還能有效防范AI誤判和偏見可能引發(fā)的負面效應。可信賴的AI系統不但要有優(yōu)秀的預測、生成、決策等業(yè)務能力,而且在透明度、公平性、可解釋性、安全性等方面也要符合用戶預期。
其中,可解釋性是指用戶應能夠理解AI的行為和決策流程,以便增強用戶對AI的信任,并更好地加以利用。公平性要求AI的決策不應受到偏見影響,避免形成對不同群體的歧視。安全性則是指AI系統在運行過程中不會帶來安全隱患,并能在一定范圍內控制自身行為,特別是在極端或意外情況下要能保護人類安全。“AI系統還需要具備可靠性和穩(wěn)定性,這要求它的表現在復雜和變化的開發(fā)環(huán)境中也要始終如一,不輕易受到外部因素干擾。”王翔說。
人機對齊是前提
那么,如何確保AI系統可信賴?王翔認為,人機對齊與構建可信賴的AI系統之間關系密切。“只有具備人機對齊特質的AI系統,才能進一步實現可信賴的特性。”他說。
從概念上看,人機對齊是指確保AI系統在執(zhí)行任務、進行決策時,其行為、目標和價值觀能夠與人類保持一致。“這就是說,AI系統在自我優(yōu)化和執(zhí)行任務過程中,不僅要高效完成任務,還要符合人類的倫理和價值體系,不能偏離人類設定的目標或帶來不良的社會影響。”王翔進一步解釋,“尤其是在涉及社會倫理和安全的場景中,確保AI輸出內容與人類的價值觀和道德準則相符,是人機對齊的核心意義。”
如果AI系統沒有經過人機對齊的過程,即使具備強大的功能和智能,也可能因不符合人類的期望和價值觀而導致信任危機或負面影響。“因此,確保AI系統在目標和行為上與人類保持一致是構建可信賴AI系統的重要前提。兩者的結合不僅能提升AI的表現,還可為未來AI在各領域的廣泛應用奠定基礎。”王翔說。
確保AI以人為本、智能向善,完善倫理和法律框架是重要發(fā)力方向。王翔認為,技術的進步往往伴隨著新問題的發(fā)生,因此需要設立法律邊界和倫理準則,為AI的發(fā)展提供指導與約束。這不僅可以減少AI應用中潛在的倫理風險,還能使AI應用更加規(guī)范和安全。此外,建設可信賴的AI系統需要跨學科合作,哲學、倫理學、社會學等學科的參與能為AI的設計與發(fā)展提供更全面的視角。
技術優(yōu)化是手段
構建可信賴的AI系統,還需要在技術層面和應用實踐中不斷探索和完善。王翔介紹了三種主要的技術路徑。
一是數據驅動路徑。王翔認為,數據質量和多樣性是實現可信賴AI的基礎。訓練數據的多樣性可以有效減少模型中的偏見問題,確保系統決策更加公平、全面。“只有在龐大的優(yōu)質數據基礎上構建的AI模型才能適應廣泛的應用場景,降低在特殊或極端條件下出現偏見的可能性。”王翔說,數據的安全性也至關重要,尤其是在涉及個人隱私的領域,保障數據安全可以提高用戶信任度。
二是算法驅動路徑。王翔說,算法的優(yōu)化與控制是實現可信賴AI的關鍵手段。在模型的設計階段,開發(fā)者可以通過設置倫理規(guī)則、嵌入人類價值觀等約束條件,確保系統在實際運行中符合社會準則。同時,設計透明的算法結構有助于提升模型的可解釋性,便于用戶理解其運行機制,并為未來的模型更新和優(yōu)化打下基礎。
三是獎懲引導路徑。王翔說,通過合理設計獎懲機制,可以讓AI在不斷試錯和學習過程中,逐漸形成符合人類價值觀的行為方式。例如,可以在獎懲系統中設置反饋機制,當AI的行為偏離預期時施加相應懲罰,引導其在自我訓練過程中符合人類期望。同時,獎懲機制需具備時代適應性,確保AI系統能在運行中持續(xù)更新并優(yōu)化自身。
這三種技術路徑的側重點各有不同。王翔解釋,數據驅動路徑主要聚焦于通過高質量、多樣化的數據源減少AI系統的偏見,提升系統的適用性;算法驅動路徑更注重模型的設計和透明性,使系統在行為邏輯上更符合人類預期;獎懲引導路徑則側重于在AI自我學習和優(yōu)化過程中提供有效指引和反饋,讓系統逐漸趨向人類認可的方向。“不同路徑相結合,可以為實現可信賴的AI提供更加豐富的技術支持。”王翔說。
要構建可信賴的AI系統,還需在實際應用中不斷進行迭代和優(yōu)化。“通過多次評估和測試,可以在不同環(huán)境和條件下驗證AI系統的性能,確保其在現實應用中的表現符合人類預期。”王翔說。
標簽:
搶先讀
- 第41次南極考察|記者手記:破浪,向著極南之地——“雪龍2”號穿越“咆哮”西風帶二三事
- 如何構建可信賴的AI系統
- 如何構建可信賴的AI系統
- 如何構建可信賴的AI系統
- 數智經濟催生消費新場景
- 第41次南極考察|記者手記:破浪,向著極南之地——“雪龍2”號穿越“咆哮”西風帶二三事
- 如何構建可信賴的AI系統
- 我國成功發(fā)射四維高景二號03、04星
- 第41次南極考察|記者手記:破浪,向著極南之地——“雪龍2”號穿越“咆哮”西風帶二三事
- 科學有意思!10項“嚴肅又有趣”的科研成果獲菠蘿科學獎
- 遼寧年底前完成27個大中型灌區(qū)新建改造
- 科學有意思!10項“嚴肅又有趣”的科研成果獲菠蘿科學獎
- 11月25日央行開展2493億元7天期逆回購操作
- 廣西鋁產業(yè)開啟新“鋁”途布局東南亞
- 科技自立自強之院士說|打破學科界限,以科學眼光探索生命系統——訪中國科學院院士湯超
- 科技自立自強之院士說|打破學科界限,以科學眼光探索生命系統——訪中國科學院院士湯超
- 深圳又一樓盤兩小時賣光,二手房已有漲價交易案例
- 11月25日央行開展2493億元7天期逆回購操作
- 11月25日人民幣對美元中間價報7.1918元 上調24個基點
- 關稅談判仍在繼續(xù)!歐洲議會高官放風:中歐就中國電動汽車進口關稅問題接近達成協議
- 11月25日人民幣對美元中間價報7.1918元 上調24個基點
- 廣西鋁產業(yè)開啟新“鋁”途布局東南亞
- 廣西鋁產業(yè)開啟新“鋁”途布局東南亞
- 北京市足球文化節(jié)舉行 聚焦“我心中的最佳十一人”
- 國家稅務總局:12月1日起全國推廣應用“數電發(fā)票”
- 全國首單“三北”工程綠色保險在內蒙古簽發(fā)
- 11月25日央行開展2493億元7天期逆回購操作
- 國家稅務總局:12月1日起全國推廣應用“數電發(fā)票”
- 廣東臺山“菜花”上市 市民嘗鮮正當時
- 深圳又一樓盤兩小時賣光,二手房已有漲價交易案例
- 全球唯一!寧波舟山港誕生“雙千萬箱級單體集裝箱碼頭”
- 全球唯一!寧波舟山港誕生“雙千萬箱級單體集裝箱碼頭”
- 干支聯動擁江達海 安徽向海而興助開放
- “網”見峰會 | 透過烏鎮(zhèn)峰會 看“互聯網之光”
- “網”見峰會 | 透過烏鎮(zhèn)峰會 看“互聯網之光”
- 廣西與泰國開展橡膠木原材料儲備基地合作 產業(yè)前景廣
- 填充物假!合格證假!假羽絨服你的孩子可能也在穿
- (鄉(xiāng)村行·看振興)山西山陰:農業(yè)盛會激發(fā)鄉(xiāng)村振興新動力
- 免簽“朋友圈”再擴大!中國目的地搜索熱度暴漲
- 專家:全球牛肉“牛市”行情未來可期
- 重慶國際人才交流大會簽約引進緊缺優(yōu)秀人才3925名
- 專家:全球牛肉“牛市”行情未來可期
- 新疆將首次開行貫通南疆東疆“復興號”動車
- 第24屆兩岸財經論壇在福建平潭舉辦
- (鄉(xiāng)村行·看振興)山西山陰:農業(yè)盛會激發(fā)鄉(xiāng)村振興新動力
- “羽絨騙局”曝光:兒童羽絨服也造假,檢測報告成本一兩元錢
- “羽絨騙局”曝光:兒童羽絨服也造假,檢測報告成本一兩元錢
- 專家:全球牛肉“牛市”行情未來可期
- 國家外匯管理局發(fā)布十月銀行結售匯數據
- 起底甲醛治理市場誠信缺失:商家制造焦慮,假檢測假清除
- 起底甲醛治理市場誠信缺失:商家制造焦慮,假檢測假清除
- ?駐馬店市驛城區(qū)蟻蜂鎮(zhèn):文明創(chuàng)建增和諧 家校同心助成長
- 聚信任 慧溝通 助成長——西平縣柏苑王店小學召開家長會
- 離職后公積金封存了怎么全額提?。侩x職6年了公積金還能取嗎?
- 國家外匯管理局發(fā)布十月銀行結售匯數據
- 電子社保卡帶來哪些新服務(深閱讀)
- 青春風吹進中國養(yǎng)老院:晚年生活變得有意思起來
- 外賣騎手“開掛”搶單 激烈競爭催生灰產
- 外賣騎手“開掛”搶單 激烈競爭催生灰產
- 亞洲杯預選賽中國男籃迎兩連勝,下場再戰(zhàn)日本隊
- 零封張本智和,王楚欽WTT總決賽三連冠
- 我國手機閑置量將達60億部 舊手機流通如何更放心
- 免簽“朋友圈”再擴大!中國目的地搜索熱度暴漲
- 免簽“朋友圈”再擴大!中國目的地搜索熱度暴漲
- 我國手機閑置量將達60億部 舊手機流通如何更放心
- 我國手機閑置量將達60億部 舊手機流通如何更放心
- 波蘭肖邦音樂大學合唱團開啟2024中國巡演
- 以煙火生活對抗虛無 茅獎作家喬葉推出散文集《要愛具體的人》
- 以煙火生活對抗虛無 茅獎作家喬葉推出散文集《要愛具體的人》
- 少兒奇幻冒險小說“怪物大師”系列12年賣出2000多萬冊
- 少兒奇幻冒險小說“怪物大師”系列12年賣出2000多萬冊
- 波蘭肖邦音樂大學合唱團開啟2024中國巡演
- 波蘭肖邦音樂大學合唱團開啟2024中國巡演
- “藝苑擷英”2024年全國優(yōu)秀青年雜技人才展演在京舉辦
- “藝苑擷英”2024年全國優(yōu)秀青年雜技人才展演在京舉辦
- “藝苑擷英”2024年全國優(yōu)秀青年雜技人才展演在京舉辦
- 程派第三代傳人張梓溪將攜《鎖麟囊》登北展劇場
- 程派第三代傳人張梓溪將攜《鎖麟囊》登北展劇場
- 波蘭肖邦音樂大學合唱團開啟2024中國巡演
- “藝苑擷英”2024年全國優(yōu)秀青年雜技人才展演在京舉辦
- 少兒奇幻冒險小說“怪物大師”系列12年賣出2000多萬冊
- 當孫悟空說起法語時
- 古典文學研究學者葉嘉瑩逝世 享年100歲
- 少兒奇幻冒險小說“怪物大師”系列12年賣出2000多萬冊
- 古典文學研究學者葉嘉瑩逝世 享年100歲
- 香港教大以“育才弘教 立德樹人”為主題慶祝校慶30周年
- 香港教大以“育才弘教 立德樹人”為主題慶祝校慶30周年
- 登廣告吁救臺灣教育 區(qū)桂芝指現行課綱綁架所有師生
- 中新教育丨教育部印發(fā)《中小學校園食品安全和膳食經費管理工作指引》
- 創(chuàng)新驅動發(fā)展新引擎,愛爾眼科榮膺“2024年度國民信賴十大健康品牌”獎
- 教育部印發(fā)《中小學校園食品安全和膳食經費管理工作指引》
- 登廣告吁救臺灣教育 區(qū)桂芝指現行課綱綁架所有師生
- 孩子過敏性鼻炎,如何緩解?丨時令節(jié)氣與健康
- 2024 世界職業(yè)技術教育發(fā)展大會:技能之光照亮國際合作與創(chuàng)新之路
- 國家醫(yī)保局已印發(fā)17批醫(yī)療服務價格項目立項指南 涉及收費編碼609個
- 國家醫(yī)保局已印發(fā)17批醫(yī)療服務價格項目立項指南 涉及收費編碼609個
- 第十二屆全國少數民族傳統體育運動會:龍舟盛景中的文化傳承與激情競渡
- 孩子過敏性鼻炎,如何緩解?丨時令節(jié)氣與健康
- 第十二屆全國少數民族傳統體育運動會:龍舟盛景中的文化傳承與激情競渡
- 2024橫店馬拉松鳴槍開跑 在電影的歷史長卷里“狂飆”