中文字幕最新在线专区高清::[一一91pio.com一一]近期,多起知名人士被AI仿冒事件引發(fā)關(guān)注。有賬號(hào)仿冒知名醫(yī)生,深夜帶貨推銷所謂“保健品”。雖然很快被網(wǎng)友識(shí)破,但對(duì)醫(yī)生本人造成很大困擾,當(dāng)事人多次投訴,違規(guī)賬號(hào)仍屢禁不止。 一段時(shí)間內(nèi),AI生成內(nèi)容帶有明顯加工痕跡,大家尚能識(shí)別。隨著技術(shù)發(fā)展,AI生成的畫面、聲音、視頻越來越逼真,普通用戶愈發(fā)難辨真?zhèn)巍R恍┎环ㄉ碳覟槎惚鼙O(jiān)管,通常選擇在深夜直播,有的利用老年人警惕性弱、對(duì)新技術(shù)不了解,精準(zhǔn)對(duì)其進(jìn)行“收割”。 AI造假觸及的不止直播帶貨。有不法分子利用AI技術(shù)編“偽消息”、造“假新聞”,騙取網(wǎng)民關(guān)注點(diǎn)贊,實(shí)現(xiàn)流量變現(xiàn)。部分詐騙分子,深度合成受害者親屬、同事聲音畫面,精準(zhǔn)施騙。 嚴(yán)防AI造假,關(guān)系社會(huì)秩序,也關(guān)系公民權(quán)益,是一個(gè)很迫切的話題。近來相關(guān)法律法規(guī)相繼出臺(tái),《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等都在內(nèi)容審核、信息安全方面對(duì)生成式AI提出了要求。今年9月,國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,進(jìn)一步提出剛性約束。 AI技術(shù)發(fā)展突飛猛進(jìn),帶來了新奇體驗(yàn)和產(chǎn)業(yè)進(jìn)步,與此同時(shí),不法分子也千方百計(jì)為謀私利鉆空子。面對(duì)新挑戰(zhàn),確實(shí)需要想一些新辦法,全方位提升防造假的能力。 網(wǎng)絡(luò)平臺(tái)的責(zé)任不可推卸,需要不斷提升技術(shù)手段,加強(qiáng)審核識(shí)別,識(shí)別深度偽造內(nèi)容。對(duì)于疑似AI生成的內(nèi)容,應(yīng)考慮在明顯位置進(jìn)行標(biāo)識(shí)提醒,并做好相關(guān)內(nèi)容的后臺(tái)存儲(chǔ)備案,以防止不法商家一刪了之。監(jiān)管部門應(yīng)嚴(yán)格執(zhí)法,對(duì)利用AI技術(shù)進(jìn)行不法行為的人員和機(jī)構(gòu)追根溯源、嚴(yán)查嚴(yán)處,加大震懾力度。網(wǎng)友則應(yīng)提高警惕,加強(qiáng)防范,多方求證,增強(qiáng)信息辨別能力。 技術(shù)發(fā)展有其自身規(guī)律,關(guān)鍵在于使用技術(shù)者,須懷揣一顆向善之心。期待多方協(xié)同發(fā)力,清掃AI造假亂象,讓AI成為造福社會(huì)的超級(jí)助手,不能淪為不法分子的行騙工具。 海報(bào)制作:陳泉伊
主辦單位:北京市教育委員會(huì)
承辦單位:北京市數(shù)字教育中心
政府網(wǎng)站標(biāo)識(shí)碼:1100000152 京公網(wǎng)安備 11040202430147號(hào) 京ICP備20014478號(hào)-1