【CNMO科技】自古以來人們都喜歡說“眼見為實，耳聽為虛”，但是在AI時代真真假假假假真真，或許眼見、耳聽皆為虛妄。

　　前段時間，在抖音等短視頻平臺上，各種貓狗會說話、人在空中飛、動物突然變身為人開始跳舞等視頻非?；鸨?，吸引了很多網(wǎng)友的關(guān)注。甚至一些不明所以的網(wǎng)友，還以為這就是真的開始思考到底是怎么做到的。但是深層次去探究，其實這類視頻都是AI所創(chuàng)造出來的，憑借著新鮮感和獵奇心理等吸引著一大批受眾。

　　在去年國慶假期期間，短視頻平臺上出現(xiàn)了大量以小米公司董事長雷軍名義發(fā)表的犀利言論視頻，流量頗高，其領(lǐng)域更是覆蓋了堵車、假期、調(diào)休、游戲等熱門話題，讓不少網(wǎng)友一時分不清到底是不是雷軍本人說的。在今年兩會期間，雷軍針對當(dāng)前人工智能深度合成技術(shù)中“AI換臉擬聲”的濫用現(xiàn)象，表示AI換臉擬聲不當(dāng)濫用成為了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為，不利于構(gòu)建“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

　　尤其是在近兩年時間里，大語言模型、文生圖大模型等蓬勃發(fā)展，AI所生成的內(nèi)容已經(jīng)充斥了我們生活的方方面面，其利弊也很難被精細化衡量。哪怕是現(xiàn)在的學(xué)生和老師，也都在借助AI來完成教學(xué)，便利性不言而喻。而隱憂就是大學(xué)生的論文AI味道可能會越來越濃，以前在拼命降低查重率，而未來可能就要拼命去降低AI率了。而在視頻方面，AI制作視頻一定程度上降低了視頻制作的門檻，但引來的問題就是濫用，隨著AI的進步已經(jīng)有了可以以假亂真的能力。

　　面對此現(xiàn)狀，國家層面也開始出手了。3月19日，央視新聞報道，人工智能生成合成內(nèi)容標(biāo)識辦法來了，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，將于今年9月1日起正式施行。據(jù)介紹，《標(biāo)識辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)，為促進人工智能技術(shù)創(chuàng)新發(fā)展，對具體實施操作不做要求。

　　AI生成內(nèi)容要亮明身份。“標(biāo)識辦法”提出強制添加顯式和隱式標(biāo)識等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”。專家介紹，借助AI生成的文字內(nèi)容涉及模仿某人的話語表達、模仿媒體進行新聞發(fā)布，或者模仿政府部門發(fā)布相關(guān)公告等，都必須進行顯式標(biāo)識。我們也期待后續(xù)政策出臺后AI行業(yè)的亂象得到整治。

　　而在此之前，其實手機廠商們也都在積極努力發(fā)展AI的同時去幫助用戶去辨別真?zhèn)巍Ｒ詷s耀為例，在MagicOS 9.0上推出了AI換臉檢測功能，通過端側(cè)AI能力，該技術(shù)可自主識別用戶視頻通話中的畫面要素，如果檢測到視頻內(nèi)容存在AI換臉，將向用戶發(fā)出風(fēng)險提醒。其一是能夠?qū)崿F(xiàn)視頻通話時的AI風(fēng)險，保障視頻通話安全，其二是在直播和短視頻場景，YOYO也能夠直接進行檢測是否存在AI換臉情況，可以很好地幫助用戶識別風(fēng)險。在去年的互聯(lián)網(wǎng)大會上，榮耀終端AI換臉檢測系統(tǒng)，入選網(wǎng)安協(xié)會精評的“人工智能創(chuàng)新應(yīng)用典型案例（2024）”，受到了行業(yè)的廣泛認可。

　　在OPPO ColorOS 15的最新升級當(dāng)中，加入了合成語音識別功能，該功能能夠在用戶日常手機通話、辦公會議的App當(dāng)中自動檢測對方是否使用了AI合成的語音。如果檢測到對方聲音疑似合成，手機通話界面就會提示“疑似合成語音”，向用戶實時提示風(fēng)險預(yù)警。目前合成語音識別功能支持中文普通話、粵語、四川話主要方言的識別。所以在日后通話過程中，如果不確定對方是不是AI合成的聲音，那么ColorOS就可以幫助到的大家進行識別，能夠更好地保護財產(chǎn)和隱私安全。

　　華為手機這邊為了防詐騙則是推出智能詐騙攔截，自動識別攔截詐騙電話和短信，幫助用戶率先過濾掉詐騙信息；針對仿冒App的詐騙，華為打造純凈應(yīng)用市場，嚴(yán)格審查每款應(yīng)用軟件，從源頭上杜絕假冒偽劣；針對應(yīng)用過度索取權(quán)限問題，華為推出安全訪問機制，無需授權(quán)所有，應(yīng)用僅可訪問用戶選定的數(shù)據(jù)，無法訪問其他內(nèi)容，幫助用戶筑牢信心安全關(guān)。

　　在小米HyperOS 2中，同樣加入了AI反詐功能，能夠智能識別欺詐電話或換臉視頻。通話過程中會彈出“風(fēng)險提醒，本次通話可能存在欺詐風(fēng)險，為避免資金損失，請謹(jǐn)慎判斷是否掛斷”，同樣可以提高用戶的心理防備。

寫在最后

　　在這個一切皆有可能的AI時代，AI賦予了千行百業(yè)新的增長活力，但是也不斷衍生出新的問題，尤其是AI詐騙讓很多人猝不及防。而此次國家層面的出手從法規(guī)層面將約束AI的肆意妄為，而手機廠商們的行動則是從端側(cè)幫助用戶更好地鑒別AI詐騙等，來了一次AI與AI之間的對抗戰(zhàn)。我們作為普通人，應(yīng)該在各種內(nèi)容或者社交當(dāng)中擦亮雙眼、雙耳，提升自我鑒別能力，莫成為AI詐騙的受害者，也不去做施害者。正向利用各類AI工具，提升工作和生活幸福感，才是正確的事兒。

版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載