“三只羊卢某”网传录音系大模型伪造,AI安全问题何解?

2024-09-29 06:43:49 曹珺 人气值:922

图片来源:界面图库

界面新闻记者 | 伍洋宇

界面新闻编辑 | 文姝琪

以“三只羊”为事件核心的舆论仍在继续发酵,这次是由录音伪造引起的AI安全顾虑。?

此前,三只羊网络科技有限公司因直播带货的“香港美诚月饼”涉嫌虚假宣传、欺骗消费者等问题引发舆情风波。同一时间,网上一段流传的“三只羊卢某某”录音为这家MCN招致更多批判声音。

该录音显示为“三只羊卢某某”在酒后的一段言论,内容牵连三只羊旗下多位女主播,整体呈现卢某面对市场与消费者持有的傲慢态度,以及对相关人士的不尊重表达。

9月26日晚,合肥市公安局高新分局通报,该局接三只羊公司报警称,网上传播涉卢某某的音视频不实,严重侵害其合法权益。经过侦查,9月22日晚,该局将犯罪嫌疑人王某某(男,25岁)抓获,并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据;结合其供述、调查取证,并经部、省专业机构检验鉴定,认定报案所涉网传音视频系伪造。

随后,9月27日,一家名为Reecho睿声的AI公司发布声明称,近日,公司收到合肥警方调取证据通知书,针对网络上广泛传播的“卢某录音门”事件所涉及的音视频部分,经与合肥警方配合查实,确系嫌疑人使用该司自主研发的AI配音大模型平台,由卢某此前直播片段的约30秒录音进行克隆,并通过文本进行生成。

上海大邦律师事务所高级合伙人游云庭对界面新闻记者表示,在上述案件中,嫌疑人王某某涉嫌诽谤罪,行为特征是以虚构的事实毁坏他人声誉。卢某可以要求发布内容的网站删除侵权内容,并且在刑事调查结束,取得相应法律文书后民事起诉侵权者。

随着人工智能技术的飞速发展,AI技术已经渗透到社会生活的各个角落,但随之而来的AI安全问题也日益凸显。在这背后,以AI技术对他人的音视频素材进行“克隆”并恶意使用成为AI安全问题的重灾区。

目前市场上的AI大模型音视频生成产品涵盖了多个领域,包括但不限于视频内容创作、音频处理、角色动画合成等。这些产品一方面从效率层面为大量企业和个人用户带去了便利,但另一方面也成为不法分子的牟利工具。

今年以来,全国各地已经发生多起“AI换脸”导致的诈骗案件。其中,一起发生在香港的诈骗案件涉案金额高达2亿港元,而犯罪嫌疑人正是使用Deepfake技术“AI换脸”和AI音频合成了一场“高管会议”。

面对这些容易紊乱视角或直接导致财产损失的AI安全问题,除了公众层面的每一位个体都对接受的音视频内容提高警惕性与分辨能力,在产品层面,平台如何从技术与法律的角度预防负面事件的发生也同样重要。

就前述案件中提供技术的公司是否要担责的问题,游云庭表示,还是要看该公司是否履行平台的合规责任。“根据互联网信息服务深度合成管理规定,如果履行了合规义务的,我觉得他们责任比较小,否则的话会有麻烦。”

首先,该公司需要进行算法备案,并在实际运行当中使用的是备案算法。其次,公司应该对使用的用户身份有认证,如果没有,公司也会存在法律风险。另外,平台应当对用户进行提示,要求用户不得利用平台的服务进行违法行为。

ReechoAI睿声官网显示,其是由深圳市言域科技有限公司提供的AI语音大模型技术产品及AI有声内容社区。经界面新闻记者在互联网信息服务算法系统查询,“深圳市言域科技有限公司”这一主体旗下暂无相关备案记录。另外,其关联主体“深圳市呦络科技有限公司”也无备案记录。

在技术角度,游云庭认为需要判别一个问题,即对于用户生成的可能涉嫌违法的内容,这些内容根据现有的识别违法和不良信息的特征库,是否能审核出具有违法属性。“如果明显涉嫌违法的,但他们没有审核出来的,也会存在问题。”游云庭表示,但更大可能性在于用户内容难以完全落实审核,这种情况下平台的责任也会较轻。?

此外,平台应当对用户生成的内容进行“AI生成”等相关标注。但由于这类生成内容被标注后的删除操作也相对简单,AI内容的辨识问题仍然任重道远。

更多内容: 游戏教程 游戏攻略秘籍

查看游戏截图分享大全

热门标签
本周人气攻略
48小时热点资讯
精品网页游戏
  • 插阀门上了
  • 真主党领导人身亡后,不到24小时,伊朗宣布征兵,接任者或已确定
  • 男子离婚冷静期杀妻被判死刑手段极其残忍.mp4
  • 以色列在几个月前就知道了真主党领导人的下落!哈马斯和伊朗发声
  • 一口气看爽《歌神丘牛》.mp4
  • 手绘DIY助力环保,洪山区街道口商圈掀起减塑热潮
  • 约旦副首相要求以色列对其侵略行为带来的后果负全责
  • 国庆迎新夜|75年风雨兼程,2024年迎新起航,共筑中国梦!
  • 高铁上百人有票没座
  • 5月8日【第三集】以色列人确实有小聪明但是超级愚蠢肯定
  • 口臭、牙痛、便秘,多半是由于胃火惹的祸三个中成药帮你清热泻火
  • 伴君如伴虎说错一句话就引来杀身之祸
  • 法斗相亲拉布多犬,体型差距太大,狗主人直接用特制工具
  • 夏思凝颜值是真高啊!算是国内天花板了吧!真的和吴艳妮不相上下
  • 冒充班主任群内行骗
  • 辽宁省召开网络辟谣联动机制第一次全体会议
  • 小区惊现最年轻12岁二八大杠车主,瞬间燃起所有607080后的美好回忆,“二八加重大铁驴这玩意可不好摆楞”
  • 芬兰:养不起了,将提前归还中国的大熊猫
  • 北京小到中雨,还是不限行工作日,今天晚高峰严重拥堵超2小时!涉及路段→
  • 重磅官宣!国家卫健委领导班子再调整!
  • 美俄宇航员乘“龙”飞船飞赴国际空间站
  • 楼琅坚走访慰问为革命建设改革开放事业作出突出贡献的代表人物赓续红色根脉汇聚奋进力量
  • 黎巴嫩政府宣布为黎真主党领导人纳斯鲁拉举行3天哀悼
  • 男子吃野蘑菇进ICU
  • 班固《两都赋·西都赋》(6)
  • 伊朗明确不参战,黎巴嫩情况不太妙,中东妥协派有抬头趋势
  • 国际社会谴责以色列对黎军事行动
  • 中秋火车票改签攻略
  • 郑钦文跟着《奢香夫人》的节拍舞动+念念有词赛后表白凤凰传奇
  • 关于本站 | 广告合作 | 人才招聘 | 友情链接 | 联系我们 | 网站地图 | | 竞技排行榜单| 游戏彩蛋揭秘| 游戏主题曲演唱会| 游戏美图欣赏| 客服中心| 游戏音乐 投诉建议 | 版权保护投诉指引
    CopyRight 1999-2025 ALi213.Net All Right Reserved 版权所有 | 苏ICP备2023404353