在互聯(lián)網(wǎng)通訊行業(yè)AI生成的畫(huà)面、聲音、視頻越來(lái)越逼真，普通用戶愈發(fā)難辨真?zhèn)?。AI造謠、AI侵權(quán)、AI詐騙等亂象也紛至沓來(lái)，有不法分子利用AI技術(shù)編“偽消息”、造“假新聞”、“虛擬直播”等行為，騙取流量非法謀利。這些亂象不僅損害了消費(fèi)者的權(quán)益，也阻礙了AI技術(shù)的健康發(fā)展，亟需整頓清理“AI亂象”
破壞市場(chǎng)秩序，侵蝕消費(fèi)者合法權(quán)益。隨著AI技術(shù)突飛猛進(jìn)，如今只要輸入一段某人說(shuō)話的視頻，系統(tǒng)即可提取相關(guān)畫(huà)面與嗓音特質(zhì)，再輸入自行設(shè)計(jì)的“臺(tái)詞”，AI版“分身”便能開(kāi)始“表演”，于是，不法分子就開(kāi)始將這項(xiàng)技術(shù)用于偽造名人帶貨視頻，利用公眾對(duì)名人的信任，制造虛假信息，誘導(dǎo)消費(fèi)者購(gòu)買商品。譬如像“張文宏被直播帶貨”事件，利用名人效應(yīng)通過(guò)AI合成視頻，導(dǎo)致不少老人信以為真、大量下單購(gòu)買，目前該賬號(hào)已經(jīng)搜索不到，也許不久之后，網(wǎng)絡(luò)平臺(tái)又會(huì)冒出個(gè)另一個(gè)直播帶貨“張文宏”。
制造虛假言論，政府公信力受到質(zhì)疑。AI造謠和虛假信息的傳播會(huì)削弱政府的公信力。當(dāng)公眾接觸到大量未經(jīng)證實(shí)的AI生成內(nèi)容時(shí)，真假難辨，且寫出的語(yǔ)言極具煽動(dòng)性，極易引發(fā)社會(huì)輿論廣泛關(guān)注。如，2024年1月23日，有網(wǎng)民在某平臺(tái)發(fā)布文章稱：“云南山體滑坡災(zāi)害 已致8人遇難”。經(jīng)查，違法行為人楊某某為獲取流量牟利，搜集網(wǎng)絡(luò)上的相關(guān)信息后，利用ai軟件生成了“云南山體滑坡災(zāi)害 已致8人遇難”的虛假新聞信息，并發(fā)布在網(wǎng)絡(luò)平臺(tái)上，造成不良社會(huì)影響。目前，公安機(jī)關(guān)已依法對(duì)楊某某進(jìn)行行政處罰。
網(wǎng)絡(luò)詐騙手段頻生，司法程序面臨諸多阻力。我們常說(shuō)“眼見(jiàn)為實(shí)”，但在AI時(shí)代，肉眼所看見(jiàn)的也不一定是真相。一些不法分子利用“AI換臉”技術(shù)實(shí)施詐騙，已成為一種新型騙局。一張肖像照片、一段貌似熟人的視頻，都可能被不法分子利用作為詐騙的手段和工具。除了讓照片上的人像活化，AI換臉技術(shù)還能實(shí)現(xiàn)在即時(shí)視頻通信狀態(tài)下的實(shí)時(shí)換臉。如：某公司職員小李在工作時(shí)接到“老板”的視頻通話，“老板”稱有一筆緊急業(yè)務(wù)需要資金周轉(zhuǎn)，要求小李立即轉(zhuǎn)賬到指定賬戶。由于“老板”的臉和聲音都與平常無(wú)異，小李未多想便照做了，事后才發(fā)現(xiàn)所謂的“老板”是騙子利用AI技術(shù)偽裝的。
暫無(wú)評(píng)論，快來(lái)評(píng)論吧!