使用AI技術(shù)當(dāng)守住法律邊界
更新時(shí)間：2024/9/19 10:28:25 來(lái)源：新華社
 |
| 您現(xiàn)在的位置： 焦作網(wǎng) > 新聞中心首頁(yè) > 時(shí)評(píng) > 新聞時(shí)評(píng) > 正文 |
新聞中心首頁(yè)
近日,，浙江省杭州市公安機(jī)關(guān)偵破一起利用人工智能（AI）技術(shù)偽造活體視頻,，突破部分網(wǎng)絡(luò)平臺(tái)登錄認(rèn)證,，竊取用戶信息的案件,。這起案件也引發(fā)了公眾對(duì)于AI技術(shù)使用安全問(wèn)題的關(guān)注。
近幾年來(lái),，隨著AI技術(shù)的快速發(fā)展,，其正以強(qiáng)大的數(shù)據(jù)處理能力和模擬學(xué)習(xí)能力影響著社會(huì)生活的方方面面,，也給個(gè)人信息保護(hù),、網(wǎng)絡(luò)安全治理帶來(lái)了新的挑戰(zhàn),。從此次公安機(jī)關(guān)偵破的案件看，不法分子將靜態(tài)照片輸入AI大模型中,，可以生成一段能夠模仿真人點(diǎn)頭,、眨眼等動(dòng)作的活體視頻，從而突破部分網(wǎng)絡(luò)平臺(tái)的人臉登錄認(rèn)證限制,。這些不法分子在登錄他人賬號(hào)竊取用戶敏感信息后,，將其出售獲利。這不僅侵害了用戶的個(gè)人信息權(quán)益,，也給整個(gè)網(wǎng)絡(luò)安全帶來(lái)了嚴(yán)重威脅,。
事實(shí)上，這只是AI技術(shù)被濫用的一個(gè)縮影,。從此前發(fā)生的利用AI“換臉”“擬聲”實(shí)施詐騙犯罪,，到借助AI技術(shù)合成虛假新聞擾亂視聽(tīng)，再到使用“AI換臉”軟件生成虛假淫穢視頻……這些都表明,，AI技術(shù)是一把“雙刃劍”,，其既可能成為人類(lèi)的幫手，幫助人們提升工作效能,、改善服務(wù)體驗(yàn),，也有可能成為不法分子的幫兇，給公眾生活帶來(lái)難以防范的安全隱患,。這一方面警示網(wǎng)絡(luò)平臺(tái)要持續(xù)升級(jí)安全防護(hù)措施,，對(duì)任何利用技術(shù)手段實(shí)施違法犯罪的行為進(jìn)行有效攔截反制；另一方面也啟示我們要與時(shí)俱進(jìn)織密法網(wǎng),，更好發(fā)揮法治對(duì)于人工智能健康發(fā)展的規(guī)范和保障作用,。
值得注意的是，此前我國(guó)制定的網(wǎng)絡(luò)安全法,、數(shù)據(jù)安全法,、個(gè)人信息保護(hù)法等法律，已在一定程度上涉及對(duì)人工智能的安全監(jiān)管,。同時(shí),，我國(guó)還專門(mén)針對(duì)人工智能的治理出臺(tái)了一些部門(mén)規(guī)章。在近期舉行的2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上,，相關(guān)部門(mén)還發(fā)布了《人工智能安全治理框架》1.0版,。公安、網(wǎng)信等部門(mén)也對(duì)各類(lèi)利用AI技術(shù)手段實(shí)施違法犯罪的行為進(jìn)行有力打擊,，取得了一定積極成效,。但對(duì)AI技術(shù)潛在風(fēng)險(xiǎn)的防范與治理注定是一項(xiàng)長(zhǎng)期工程，必須久久為功,。
總之,，只有在引導(dǎo)鼓勵(lì)人工智能創(chuàng)新發(fā)展的同時(shí)，對(duì)AI技術(shù)濫用可能引發(fā)的安全風(fēng)險(xiǎn)予以依法防范化解,，讓相關(guān)各方清晰認(rèn)知并守住使用AI技術(shù)的法律邊界,，才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展，成為推動(dòng)社會(huì)發(fā)展進(jìn)步的積極力量,。（馬樹(shù)娟）
 |
 |
 |
 |
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
近日,，浙江省杭州市公安機(jī)關(guān)偵破一起利用人工智能（AI）技術(shù)偽造活體視頻，突破部分網(wǎng)絡(luò)平臺(tái)登錄認(rèn)證,，竊取用戶信息的案件,。這起案件也引發(fā)了公眾對(duì)于AI技術(shù)使用安全問(wèn)題的關(guān)注。
近幾年來(lái),，隨著AI技術(shù)的快速發(fā)展,，其正以強(qiáng)大的數(shù)據(jù)處理能力和模擬學(xué)習(xí)能力影響著社會(huì)生活的方方面面，也給個(gè)人信息保護(hù)、網(wǎng)絡(luò)安全治理帶來(lái)了新的挑戰(zhàn),。從此次公安機(jī)關(guān)偵破的案件看,，不法分子將靜態(tài)照片輸入AI大模型中，可以生成一段能夠模仿真人點(diǎn)頭,、眨眼等動(dòng)作的活體視頻,，從而突破部分網(wǎng)絡(luò)平臺(tái)的人臉登錄認(rèn)證限制。這些不法分子在登錄他人賬號(hào)竊取用戶敏感信息后,，將其出售獲利。這不僅侵害了用戶的個(gè)人信息權(quán)益,，也給整個(gè)網(wǎng)絡(luò)安全帶來(lái)了嚴(yán)重威脅,。
事實(shí)上，這只是AI技術(shù)被濫用的一個(gè)縮影,。從此前發(fā)生的利用AI“換臉”“擬聲”實(shí)施詐騙犯罪,，到借助AI技術(shù)合成虛假新聞擾亂視聽(tīng)，再到使用“AI換臉”軟件生成虛假淫穢視頻……這些都表明,，AI技術(shù)是一把“雙刃劍”,，其既可能成為人類(lèi)的幫手，幫助人們提升工作效能,、改善服務(wù)體驗(yàn),，也有可能成為不法分子的幫兇，給公眾生活帶來(lái)難以防范的安全隱患,。這一方面警示網(wǎng)絡(luò)平臺(tái)要持續(xù)升級(jí)安全防護(hù)措施,，對(duì)任何利用技術(shù)手段實(shí)施違法犯罪的行為進(jìn)行有效攔截反制；另一方面也啟示我們要與時(shí)俱進(jìn)織密法網(wǎng),，更好發(fā)揮法治對(duì)于人工智能健康發(fā)展的規(guī)范和保障作用,。
值得注意的是，此前我國(guó)制定的網(wǎng)絡(luò)安全法,、數(shù)據(jù)安全法,、個(gè)人信息保護(hù)法等法律，已在一定程度上涉及對(duì)人工智能的安全監(jiān)管,。同時(shí),，我國(guó)還專門(mén)針對(duì)人工智能的治理出臺(tái)了一些部門(mén)規(guī)章。在近期舉行的2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上,，相關(guān)部門(mén)還發(fā)布了《人工智能安全治理框架》1.0版,。公安、網(wǎng)信等部門(mén)也對(duì)各類(lèi)利用AI技術(shù)手段實(shí)施違法犯罪的行為進(jìn)行有力打擊,，取得了一定積極成效,。但對(duì)AI技術(shù)潛在風(fēng)險(xiǎn)的防范與治理注定是一項(xiàng)長(zhǎng)期工程，必須久久為功。
總之,，只有在引導(dǎo)鼓勵(lì)人工智能創(chuàng)新發(fā)展的同時(shí),，對(duì)AI技術(shù)濫用可能引發(fā)的安全風(fēng)險(xiǎn)予以依法防范化解，讓相關(guān)各方清晰認(rèn)知并守住使用AI技術(shù)的法律邊界,，才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展,，成為推動(dòng)社會(huì)發(fā)展進(jìn)步的積極力量。（馬樹(shù)娟）
 |
|
||||
|
焦作網(wǎng)免責(zé)聲明： | |||||||
|
||||||||
|
|
