隨著AI技術(shù)的發(fā)展，變臉、擬聲的深度偽造現(xiàn)象也隨處可見。一些人利用這樣的先進(jìn)技術(shù)，實(shí)施針對老年人的詐騙。有哪些AI新型詐騙方式？如何防范？一起了解。
AI變臉擬聲 新型技術(shù)針對老年人實(shí)施詐騙
9月1日，北京大學(xué)國家發(fā)展研究院教授李玲發(fā)布了一份公開聲明，稱“近期網(wǎng)上出現(xiàn)了大量假冒本人推銷醫(yī)藥書籍和治療手段的虛假視頻，大多是人工智能AI合成。本人從未在任何平臺推銷過醫(yī)藥書籍和醫(yī)療產(chǎn)品，請各位不要上當(dāng)受騙”。
隨后，李玲教授向警方報(bào)警。
北京大學(xué)國家發(fā)展研究院教授 李玲：我覺得這個，不僅損害我的利益，許多的其實(shí)是損害了公眾的利益。因?yàn)槔夏耆烁P(guān)注健康，會實(shí)施一些養(yǎng)生的方法、治療的方式。所以特別希望我們老年朋友們一定要識別，要看清楚，你買他的東西，他是不是這一行的專家？像我是搞政策的，這個治療，我不是行家，不會推薦的。
除了賣東西給老年人，更可怕的，還有利用這種深度偽造的技術(shù)，實(shí)施針對老年人的詐騙。
武漢市公安局漢陽分局琴斷口派出所民警接到轄區(qū)銀行報(bào)警，稱先后有兩位老人，要求提前支取定期存款，疑似遭到了詐騙。而兩位老人并不認(rèn)識，只是碰巧在同一個銀行取錢。
武漢市公安局漢陽區(qū)分局琴斷口派出所民警 胡楚文：肖婆婆接到電話，說她上大學(xué)的孫子跟別人起了沖突，把對方打傷了，現(xiàn)在正在派出所調(diào)解。楊爹爹接到電話，說他的孫子，在路上出了交通事故，需要跟對方私了，因?yàn)閾?dān)心影響后面的工作。
民警向老人解釋了AI詐騙的套路，老人都聲稱，電話里的聲音和自己的孫子一模一樣。經(jīng)民警聯(lián)系家屬確認(rèn)，兩位老人的孫子，并沒有電話里的情況發(fā)生。
武漢市公安局漢陽區(qū)分局琴斷口派出所民警 胡楚文：目前這兩個案例，已經(jīng)非常充分說明，現(xiàn)在的AI技術(shù)已經(jīng)可以模擬聲紋、人的面容，所以你所看到的、聽到的，都不一定是真的。
還有更極端的事情。一位母親正和女兒視頻聊天，女兒在視頻里抱怨“生活費(fèi)不夠用了”，就在這時，家門打開了，她的“真女兒”走了進(jìn)來。而另一頭，視頻里的“假女兒”還在央求母親“給生活費(fèi)”。
加強(qiáng)治理 幫助老年人防范新型詐騙
在利用新技術(shù)進(jìn)行的新型詐騙中，老年人是弱勢群體。他們分辨力低，但平時也離不開手機(jī)的使用。如何幫助老年人防范這樣的陷阱，也成為各位關(guān)心的問題。
在上海和平公園，虹口公安分局民警為現(xiàn)場老年人講解了目前常見的投資理財(cái)詐騙、網(wǎng)絡(luò)貸款詐騙等電信網(wǎng)絡(luò)詐騙手段。
在遼寧大連，一場包含AI互動、反詐宣傳、知識科普等主題的反詐宣傳活動也吸引了不少老年人前來，沉浸式學(xué)習(xí)預(yù)防電信網(wǎng)絡(luò)詐騙犯罪的相關(guān)知識，提升防騙能力。
9月8日開幕的2024年國家網(wǎng)絡(luò)安全宣傳周上，就專門設(shè)置了關(guān)于AI換臉、換聲等對個人隱私侵害的反詐宣傳展位。
中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會委員 張博：除了換臉之外，如果再結(jié)合換背景環(huán)境、換聲音等等，那樣逼真度就會更高，更加難以分辨。
近幾年，我國對于規(guī)范人工智能生成、合成、使用上一直在采取積極措施。
2022年12月，國家網(wǎng)信辦等三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理。
2023年7月，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，在鼓勵創(chuàng)新與發(fā)展的同時，進(jìn)一步完善人工智能管理體系。
2024年7月，國家金融監(jiān)督管理總局金融消費(fèi)者權(quán)益保護(hù)局發(fā)布風(fēng)險提示，提醒公眾防范“共享屏幕”“AI換臉擬聲”等新型電信網(wǎng)絡(luò)詐騙。
2024年9月14日，國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》。
《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》中提出：
人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。
網(wǎng)絡(luò)信息服務(wù)提供者在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識。