AI時(shí)代,，如何讓治理跟上技術(shù)步伐？
更新時(shí)間：2025/3/28 9:32:51 來源：新華社CNML文字
新聞中心首頁
新華社海南博鰲3月27日電 題：AI時(shí)代,，如何讓治理跟上技術(shù)步伐,？
新華社“新華視點(diǎn)”記者宋佳、王存福,、劉開雄
從“AI兒科醫(yī)生”參與病情會診,，到“AI數(shù)智員工”輔助提供公共服務(wù)，再到人形機(jī)器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段,，正以前所未有的速度走入千家萬戶,、改變千行百業(yè)。當(dāng)AI重塑我們熟悉的世界,，隨之而來的機(jī)遇與挑戰(zhàn)如何應(yīng)對,？應(yīng)用與治理如何平衡推進(jìn)？
正在舉行的博鰲亞洲論壇2025年年會上,，國內(nèi)外技術(shù)前沿領(lǐng)域?qū)＜�,、學(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論。
適應(yīng)AI“新常態(tài)”
當(dāng)下,，人工智能加速賦能千行百業(yè),，進(jìn)入教育、醫(yī)療,、政務(wù),、金融等場景。越來越多人感受到AI帶來的便利,。從無人駕駛,、機(jī)器人到腦機(jī)接口，大眾對AI應(yīng)用產(chǎn)生更多期待,。
畢馬威中國首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個(gè)未來概念,，對很多企業(yè)而言,，利用人工智能加速決策,、創(chuàng)新產(chǎn)品、優(yōu)化運(yùn)營,，已不是選擇題,，而是必答題。
數(shù)據(jù)顯示,，2024年我國完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個(gè),，注冊用戶超6億；工業(yè)機(jī)器人裝機(jī)量占全球過半,。
今年政府工作報(bào)告提出,，持續(xù)推進(jìn)“人工智能+”行動。國務(wù)院研究室副主任陳昌盛表示,，今年將開展新技術(shù)新產(chǎn)品新場景大規(guī)模應(yīng)用示范行動,，在確保安全前提下，加快人工智能在低空經(jīng)濟(jì),、教育培訓(xùn),、醫(yī)療健康等多場景應(yīng)用。
中興通訊股份有限公司董事長李自學(xué)表示,，當(dāng)前人工智能通用型應(yīng)用加速普及,，但在行業(yè)領(lǐng)域還存在不好用、不易用,、不會用等問題,。應(yīng)在通用基礎(chǔ)大模型上，結(jié)合不同行業(yè)應(yīng)用場景需求,，加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練,，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合,。
有觀點(diǎn)認(rèn)為,，未來可能出現(xiàn)自然人、機(jī)器人,、數(shù)字人并存交互的社會形態(tài),。《博鰲亞洲論壇亞洲經(jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》指出,，隨著人工智能技術(shù)的廣泛應(yīng)用,，部分行業(yè)就業(yè)受到嚴(yán)重影響。
“替代部分工作崗位是技術(shù)變革中的必然過程,，有些崗位受影響,，也會有新崗位出現(xiàn)�,！眝ivo高級副總裁,、首席技術(shù)官施玉堅(jiān)說,，每個(gè)人都要通過學(xué)習(xí)不斷提升綜合素質(zhì)，適應(yīng)AI帶來的變化,。
多位與會嘉賓表示,，除了加強(qiáng)人工智能知識技能教育培訓(xùn)，還應(yīng)考慮制定新的社會保障政策,，加強(qiáng)對受沖擊勞動者群體的兜底保障,。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場人工智能相關(guān)活動上，與會嘉賓普遍認(rèn)為,，隨著AI能力越來越強(qiáng),，AI不可控、被濫用等風(fēng)險(xiǎn)會越來越高,，在推廣應(yīng)用中要加固“安全護(hù)欄”,。
社交平臺上，不少人吐槽AI一本正經(jīng)地胡說八道,。清華大學(xué)公共管理學(xué)院院長朱旭峰表示,，這是AI幻覺，指大模型有時(shí)混淆事實(shí)和虛構(gòu),，在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié),。AI胡編亂造可能產(chǎn)生誤導(dǎo)，甚至?xí)l(fā)嚴(yán)重后果,，特別是在醫(yī)療,、金融、法律等對信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域,。
“技術(shù)暫時(shí)不成熟,，我們不能因噎廢食�,！敝煨穹逭f,，要加大對技術(shù)的開發(fā)和使用，推動AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決,。
AI應(yīng)用過程中需要使用大量數(shù)據(jù),，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注。多位與會嘉賓表示,，現(xiàn)實(shí)中,，具體應(yīng)用場景下哪些數(shù)據(jù)必須收集，敏感信息數(shù)據(jù)如何避免泄露等,，需要進(jìn)一步明晰相關(guān)制度規(guī)則,。
施玉堅(jiān)認(rèn)為，隨著AI技術(shù)的普及，企業(yè)對數(shù)據(jù)的依賴程度日益加深,，如果不采取相應(yīng)的安全措施,，就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)�,！皵�(shù)據(jù)要進(jìn)行脫敏或加密處理，增強(qiáng)傳輸和存儲過程中的安全性,�,！�
AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一。有統(tǒng)計(jì)顯示,，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件,，超過30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象,、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端,。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮,，主要在于造假成本低,，追查、執(zhí)法成本大,，應(yīng)針對AI誤用濫用完善相關(guān)法律法規(guī),，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視,。中國科學(xué)院自動化研究所研究員,、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為，倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”,，如何在追求技術(shù)進(jìn)步的同時(shí)堅(jiān)守道德底線,，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系,�,！痹阏f，最新研究表明,，可以在幾乎不影響人工智能大模型求解能力的同時(shí),，通過科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐,？與會嘉賓表示,，AI治理是一個(gè)全球性的復(fù)雜問題，需要達(dá)成世界共識,，推動各領(lǐng)域相互協(xié)作,。目前，主要經(jīng)濟(jì)體都在加速相關(guān)立法進(jìn)程。
在AI治理中,，中國堅(jiān)持統(tǒng)籌發(fā)展和安全,，有關(guān)部門已發(fā)布多項(xiàng)AI治理指導(dǎo)文件。其中,，前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,，推動由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來,，政策制定者,、企業(yè)家、科學(xué)家等利益相關(guān)方應(yīng)聚在一起,，建立共識,，通過制定標(biāo)準(zhǔn)來應(yīng)對AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責(zé)任,？當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果,，如何確定責(zé)任歸屬也需進(jìn)一步厘清�,！岸辔患钨e都提到一個(gè)觀點(diǎn),，不要讓人工智能完全代替人的決策，這是人工智能應(yīng)用時(shí)必須注意的問題,�,！痹阏f。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐,，構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場也十分重要,。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為，應(yīng)根據(jù)實(shí)際情況,，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑,。
與會嘉賓表示，AI時(shí)代到來,，要堅(jiān)持應(yīng)用與治理平衡,、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同,，防止數(shù)字鴻溝變成智能鴻溝,，讓AI真正成為推動社會進(jìn)步的普惠力量。
 |
 |
 |
 |
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
新華社海南博鰲3月27日電 題：AI時(shí)代,，如何讓治理跟上技術(shù)步伐？
新華社“新華視點(diǎn)”記者宋佳,、王存福,、劉開雄
從“AI兒科醫(yī)生”參與病情會診，到“AI數(shù)智員工”輔助提供公共服務(wù),，再到人形機(jī)器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段,，正以前所未有的速度走入千家萬戶、改變千行百業(yè),。當(dāng)AI重塑我們熟悉的世界,，隨之而來的機(jī)遇與挑戰(zhàn)如何應(yīng)對,？應(yīng)用與治理如何平衡推進(jìn),？
正在舉行的博鰲亞洲論壇2025年年會上，國內(nèi)外技術(shù)前沿領(lǐng)域?qū)＜�,、學(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論,。
適應(yīng)AI“新常態(tài)”
當(dāng)下，人工智能加速賦能千行百業(yè),，進(jìn)入教育,、醫(yī)療、政務(wù),、金融等場景,。越來越多人感受到AI帶來的便利。從無人駕駛,、機(jī)器人到腦機(jī)接口,，大眾對AI應(yīng)用產(chǎn)生更多期待。
畢馬威中國首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示,，人工智能已經(jīng)不是一個(gè)未來概念,，對很多企業(yè)而言,，利用人工智能加速決策、創(chuàng)新產(chǎn)品,、優(yōu)化運(yùn)營,，已不是選擇題，而是必答題,。
數(shù)據(jù)顯示,，2024年我國完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個(gè)，注冊用戶超6億,；工業(yè)機(jī)器人裝機(jī)量占全球過半,。
今年政府工作報(bào)告提出，持續(xù)推進(jìn)“人工智能+”行動,。國務(wù)院研究室副主任陳昌盛表示,，今年將開展新技術(shù)新產(chǎn)品新場景大規(guī)模應(yīng)用示范行動，在確保安全前提下,，加快人工智能在低空經(jīng)濟(jì),、教育培訓(xùn)、醫(yī)療健康等多場景應(yīng)用,。
中興通訊股份有限公司董事長李自學(xué)表示,，當(dāng)前人工智能通用型應(yīng)用加速普及，但在行業(yè)領(lǐng)域還存在不好用,、不易用,、不會用等問題。應(yīng)在通用基礎(chǔ)大模型上,，結(jié)合不同行業(yè)應(yīng)用場景需求,，加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練，讓大模型成為懂行業(yè)的“能工巧匠”,，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合,。
有觀點(diǎn)認(rèn)為，未來可能出現(xiàn)自然人,、機(jī)器人,、數(shù)字人并存交互的社會形態(tài)�,！恫梺喼拚搲瘉喼藿�(jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》指出,，隨著人工智能技術(shù)的廣泛應(yīng)用，部分行業(yè)就業(yè)受到嚴(yán)重影響,。
“替代部分工作崗位是技術(shù)變革中的必然過程,，有些崗位受影響，也會有新崗位出現(xiàn),�,！眝ivo高級副總裁,、首席技術(shù)官施玉堅(jiān)說，每個(gè)人都要通過學(xué)習(xí)不斷提升綜合素質(zhì),，適應(yīng)AI帶來的變化,。
多位與會嘉賓表示，除了加強(qiáng)人工智能知識技能教育培訓(xùn),，還應(yīng)考慮制定新的社會保障政策,，加強(qiáng)對受沖擊勞動者群體的兜底保障。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場人工智能相關(guān)活動上,，與會嘉賓普遍認(rèn)為,，隨著AI能力越來越強(qiáng)，AI不可控,、被濫用等風(fēng)險(xiǎn)會越來越高,，在推廣應(yīng)用中要加固“安全護(hù)欄”。
社交平臺上,，不少人吐槽AI一本正經(jīng)地胡說八道,。清華大學(xué)公共管理學(xué)院院長朱旭峰表示，這是AI幻覺,，指大模型有時(shí)混淆事實(shí)和虛構(gòu),，在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo),，甚至?xí)l(fā)嚴(yán)重后果,，特別是在醫(yī)療、金融,、法律等對信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域,。
“技術(shù)暫時(shí)不成熟,，我們不能因噎廢食,。”朱旭峰說,，要加大對技術(shù)的開發(fā)和使用,，推動AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決。
AI應(yīng)用過程中需要使用大量數(shù)據(jù),，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注,。多位與會嘉賓表示，現(xiàn)實(shí)中,，具體應(yīng)用場景下哪些數(shù)據(jù)必須收集,，敏感信息數(shù)據(jù)如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規(guī)則,。
施玉堅(jiān)認(rèn)為,，隨著AI技術(shù)的普及,，企業(yè)對數(shù)據(jù)的依賴程度日益加深，如果不采取相應(yīng)的安全措施,，就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn),。“數(shù)據(jù)要進(jìn)行脫敏或加密處理,，增強(qiáng)傳輸和存儲過程中的安全性,。”
AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一,。有統(tǒng)計(jì)顯示,，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過30%與利用AI進(jìn)行深度偽造相關(guān),。深度偽造名人形象,、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端。
多位嘉賓表示,，AI深度偽造現(xiàn)象層出不窮,，主要在于造假成本低，追查,、執(zhí)法成本大,，應(yīng)針對AI誤用濫用完善相關(guān)法律法規(guī)，加大懲罰力度,。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視,。中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為,，倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”,，如何在追求技術(shù)進(jìn)步的同時(shí)堅(jiān)守道德底線，是需要共同面對的重要課題,。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系,。”曾毅說,，最新研究表明,，可以在幾乎不影響人工智能大模型求解能力的同時(shí)，通過科學(xué)的方式提升其安全能力,。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐,？與會嘉賓表示，AI治理是一個(gè)全球性的復(fù)雜問題,，需要達(dá)成世界共識,，推動各領(lǐng)域相互協(xié)作。目前，主要經(jīng)濟(jì)體都在加速相關(guān)立法進(jìn)程,。
在AI治理中,，中國堅(jiān)持統(tǒng)籌發(fā)展和安全，有關(guān)部門已發(fā)布多項(xiàng)AI治理指導(dǎo)文件,。其中,，前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理,。
在芬蘭前總理埃斯科·阿霍看來,，政策制定者、企業(yè)家,、科學(xué)家等利益相關(guān)方應(yīng)聚在一起,，建立共識，通過制定標(biāo)準(zhǔn)來應(yīng)對AI帶來的治理挑戰(zhàn),。
“AI醫(yī)生”看病出了問題算誰的責(zé)任,？當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責(zé)任歸屬也需進(jìn)一步厘清,�,！岸辔患钨e都提到一個(gè)觀點(diǎn)，不要讓人工智能完全代替人的決策,，這是人工智能應(yīng)用時(shí)必須注意的問題,。”曾毅說,。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐,，構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為,，應(yīng)根據(jù)實(shí)際情況,，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示,，AI時(shí)代到來,，要堅(jiān)持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重,、全球化與本土化協(xié)同,，防止數(shù)字鴻溝變成智能鴻溝,，讓AI真正成為推動社會進(jìn)步的普惠力量,。
 |
|
||||
|
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
|
|
