在中国，一些不法电商商家利用AI技术深度伪造明星或名医的面部和声音进行直播带货，甚至成功销售产品，如1200多条蛋白棒。使用AI模仿刘德华声音等行为引起关注，专家指出，这类行为涉嫌违法，消费者可要求退一赔三。
报道称，AI模仿技术已成熟，可以轻松复制名人的面部和声音。但未经授权使用他人形象进行带货是违法行为，短视频平台应承担主体责任，防止此类假冒
【綜合報導】大陸不肖電商業者利用AI技術，深度偽造了像是明星或是名醫的臉部和聲音進行直播帶貨，甚至成功賣出1200多條蛋白棒產品，還有人為了流量，用「AI模仿劉德華的聲音」據當地專家表示，用「AI假冒名人」進行帶貨的行為涉嫌違法。
根據大陸《央視》報導，今年以來，AI深度偽造假冒名人的事件不斷發生，還有人用小米創辦人雷軍的聲音和臉，惡搞出許多影片，令雷軍相當無奈。據雷軍表示，「自己也挺困擾，也挺不舒服的，在這裡希望大家不要再玩了，這個事情不太好，不過還是覺得AI是很好的技術，也非常實用」。
報導引述專家看法，目前AI模仿技術成熟，可輕鬆複製臉和聲音，不過AI假冒名人，進行帶貨的行為涉嫌違法，一旦消費者信以為真，購買了產品，可以要求賣家退一賠三。《央視》強調，未經授權使用他人形象的行為，均屬違法行為，短影音平台也應該擔負主體責任，有義務防範AI假冒名人影片，在自己的平台上大量傳播。
針對大陸網路直播行銷行為亂象，浙江省政府也發布了《浙江省網路直播行銷行為規範指引》，以目錄清單式列明30條「常講常新」的經營者合規要求，並為消費者提供直播購物的「防套路手冊」。
針對AI數位人可能導致公眾混淆誤認，《指引》要求，使用應用深度合成服務的AI數位人可能導致公眾混淆或者誤認的，應當在合理位置、區域進行持續、顯著標識，與自然人名義或形象進行明顯區分，不得採用技術手段刪除、篡改、隱匿區分AI數位人標識。
