人民網(wǎng)博鰲3月27日電 (記者梁秋坪)在博鰲亞洲論壇2025年年會(huì)上,AI元素成為了眾人矚目的焦點(diǎn)。光谷人形機(jī)器人以專(zhuān)業(yè)且親和的姿態(tài)擔(dān)任講解員,為來(lái)賓們?cè)敿?xì)介紹各類(lèi)信息;憨態(tài)可掬的熊貓機(jī)器人揮舞畫(huà)筆,展示出令人驚嘆的繪畫(huà)技藝;機(jī)器狗靈活地完成倒立等高難度動(dòng)作,吸引了眾多目光。這些生動(dòng)有趣的AI應(yīng)用不僅為年會(huì)增添了科技魅力,更引發(fā)了廣泛關(guān)注,與會(huì)嘉賓圍繞人工智能的迅猛發(fā)展及其相關(guān)議題展開(kāi)了熱烈討論。然而,在AI技術(shù)高歌猛進(jìn)的當(dāng)下,如何強(qiáng)化風(fēng)險(xiǎn)治理也已成為亟待解決的關(guān)鍵問(wèn)題。
中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤指出:“當(dāng)前,我國(guó)人工智能行業(yè)的發(fā)展正經(jīng)歷著從生成式AI向Agent智能、從預(yù)訓(xùn)練向推理、從信息智能向物理智能和具身智能的轉(zhuǎn)變。但這種快速的技術(shù)進(jìn)步也伴隨著風(fēng)險(xiǎn)的顯著增加?!彼M(jìn)一步解釋?zhuān)悄荏w作為具有自我規(guī)劃、學(xué)習(xí)和實(shí)踐能力的技術(shù)工具,在運(yùn)行過(guò)程中可能會(huì)因路徑不可控,引發(fā)一系列未知的安全風(fēng)險(xiǎn)。
針對(duì)這一挑戰(zhàn),張亞勤提出了技術(shù)治理路徑。一方面,通過(guò)算法優(yōu)化提升AI的可控性與可信度,從技術(shù)基層增強(qiáng)對(duì)AI的掌控;另一方面,為人工智能設(shè)定明確的紅線和邊界,比如禁止智能體進(jìn)行自我復(fù)制,嚴(yán)格遵守現(xiàn)行的應(yīng)用規(guī)則和法律規(guī)定,為AI發(fā)展劃定清晰的行為準(zhǔn)則。
在加強(qiáng)AI風(fēng)險(xiǎn)治理是否會(huì)阻礙其發(fā)展的問(wèn)題上,中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅給出了明確的否定答案。他表示:“人工智能的發(fā)展應(yīng)用和安全之間并非相互掣肘的關(guān)系。提升人工智能大模型的安全能力,對(duì)其求解能力的影響微乎其微。我們團(tuán)隊(duì)通過(guò)實(shí)驗(yàn),將十幾個(gè)大模型的安全性能提高了百分之二三十,結(jié)果發(fā)現(xiàn)這些模型解答問(wèn)題的能力并未受到影響。”
曾毅提倡通過(guò)技術(shù)升級(jí)為人工智能建立“安全圍欄”,而這需要技術(shù)、市場(chǎng)、政策、倫理等多方面協(xié)同發(fā)力。他強(qiáng)調(diào):“必須將倫理安全作為人工智能大模型發(fā)展的基因,作為不可違背的第一性原理。”只有如此,才能在AI技術(shù)持續(xù)發(fā)展、智能體應(yīng)用不斷深入的過(guò)程中,保障其穩(wěn)健前行,降低因技術(shù)擴(kuò)張帶來(lái)的各類(lèi)風(fēng)險(xiǎn)。
中國(guó)社會(huì)科學(xué)院大學(xué)教授、國(guó)務(wù)院原副秘書(shū)長(zhǎng)江小涓坦言:“我對(duì)過(guò)去很多年AI治理的進(jìn)展感到遺憾,相關(guān)治理原則在落地執(zhí)行方面成效有限?!彼J(rèn)為,這主要是由于過(guò)于泛泛地討論原則問(wèn)題,卻忽視了將這些原則具體化、可操作化的重要性。2017年的阿西洛馬會(huì)議上,與會(huì)各方制定了一套確保人工智能安全有益發(fā)展的準(zhǔn)則,涵蓋了安全性、故障透明度、價(jià)值觀一致等23條原則。江小涓指出:“阿西洛馬人工智能原則提出至今,一直被反復(fù)討論。今年2月在法國(guó)巴黎舉行的人工智能行動(dòng)峰會(huì),各國(guó)簽署的聲明依舊延續(xù)了過(guò)去提出已久的原則。實(shí)際上,如何落地、如何實(shí)踐仍是最大的挑戰(zhàn)?!?/p>
從經(jīng)濟(jì)學(xué)的角度出發(fā),江小涓探討了人工智能治理的可行性路徑。她認(rèn)為,AI治理可借助自發(fā)秩序和市場(chǎng)機(jī)制的力量。以DeepSeek為例,其最大貢獻(xiàn)在于打破了AI行業(yè)的壟斷格局,使這一領(lǐng)域從寡頭競(jìng)爭(zhēng)轉(zhuǎn)變?yōu)槌浞指?jìng)爭(zhēng)的市場(chǎng)。在這樣的市場(chǎng)環(huán)境下,發(fā)展和安全問(wèn)題能夠通過(guò)市場(chǎng)自發(fā)的秩序解決。
在AI技術(shù)飛速發(fā)展的今天,博鰲亞洲論壇2025年年會(huì)聚焦AI風(fēng)險(xiǎn)治理的深入討論,為未來(lái)AI發(fā)展與風(fēng)險(xiǎn)治理的平衡凝聚了各方智慧。各方需共同努力,推動(dòng)AI在安全、健康的軌道上持續(xù)創(chuàng)新發(fā)展。
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái),內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類(lèi)資質(zhì)平臺(tái)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來(lái)源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來(lái)源:北疆新聞”,并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書(shū)面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245