11月24日下午，胖东来商贸集团发布声明，称近日在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或胖东来商贸集团享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。

声明指出，“前述行为已侵犯了于东来先生的人格权及著作权，对我公司品牌形象造成消极影响。”

胖东来表示，严正警告存在上述行为的账号立即停止侵权行为，对于为博取网络关注、获取流量而严重侵犯于东来先生及公司合法权益的，将坚决采取法律措施追究其法律责任。

此前，在社交媒体平台上，有不少视频用AI合成于东来的声音，并用该合成声音说：“我是于东来，我亲手打造了中国第一家值得人民百分百信任的公司。”

消息一出，有网友表示，“居然是AI，之前没发现还以为是于东来本人”，也有网友称“一下就听出来是AI，太假了”。

随着AI技术的逐渐发展成熟，越来越多的AI生成的配音视频出现在短视频平台，逼真程度令人惊讶，不仅画面栩栩如生，声音特征也与真人几乎无异。

之前，小米创始人雷军也在国庆期间受到AI配音的困扰，许多网友用着AI生成的雷军声音制造恶搞视频并传播。

对此，雷军公开回应称，“最近两年，AI特别特别火，技术进步特别特别快。前段时间我在刷抖音的时候，经常看到很多人在玩‘雷军语音包’。有网友跟我投诉，说国庆期间被我连续‘骂’了7天，的确让我挺困扰，也挺不舒服的。”

“我在这里希望大家都不要玩了，这个事情不太好。”

AI技术的发展降低了深度伪造和低价量产的门槛，AI生成影像、换声及换脸视频大量出现。这些视频虽吸引眼球，但背后隐藏的风险却不容忽视。

当前，虚假信息的制造和传播已成为全球性问题，以假乱真的AI合成技术让普通人在信息甄别上陷入困境。《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成严重威胁。虚假信息的泛滥，不仅扰乱了网络空间的正常秩序，更可能将负面情绪从虚拟世界传导至现实，加剧社会焦虑。