近年,很多騙徒利用人工智能犯案,而近日內地有不法分子用人工智能(AI)技術,假冒是奧運冠軍拍片帶貨,導致有不少人上當。
內地騙徒AI假冒全紅嬋帶貨賣雞蛋 已賣出4.7萬份!連奧運乒乓球冠軍都被假冒
在內地的短片分享平台,有人利用人工智能AI生成奧運跳水冠軍全紅嬋的聲音,假冒是她本人帶貨賣雞蛋。央視報道指,有不少網民上當下單購買,已賣出4.7萬件。全紅嬋及其家人早前已否認同有關農產品有合作關係。
![]()
![]()
![]()
奧運乒乓球冠軍同樣是受害者
原來,奧運乒乓球冠軍孫穎莎及王楚欽同樣是受害者,被不法之徒用AI模仿聲音,再將影片移花接木拍片帶貨。
專家:AI技術要從源頭上進行限制
有網絡安全專家表示,語音大模型只需要一段清晰的錄音,任何人的聲音都可以在極短時間內被複製,極易被不法分子利用,一旦再使用了AI換臉技術,就更易令普通市民上當。他建議目前AI技術,要從源頭上進行限制。
內地9月實施新規
為了針對濫用AI的亂象,內地將於9月起實施新規,要求服務提供者,需要在用AI生成的文本、音頻、影片等內容,添加顯眼的標識,供公眾分辨。