设为首页 | 加入收藏
主页 > www.511866.com >

儿童邪典片流入视频网站 专家:人工智能难辨认 视频网

2021-02-21 06:24   来源:未知   作者:admin

  因为不良视频的总量大,散布广,密集上线,变品种型多,腾讯视频已紧迫组建了100人的清算小组,进行24小时排查。

  因而,这些视频很可能在机器识别阶段就逃过了审核。要杜绝此类事件的产生,目前难有万全之策,依然要靠大量的人力投入。

  此外,视频网站的另个挑战是,视频内容审核应当配合人工智能,直丰盛常识库,晋升图像识别才能的同时,人工细化视频断定等级。好比对“不袒露但模仿性交”的情况进行人工标注。

  据懂得,大局部视频网站都采用先机器识别、视频抽帧再人工复核的审核流程。一位图像识别专业人士对《财经》记者表现,人工智能能够对一些断定的角色和剧情进行识别,比方人物是否穿衣等,这种情况下,识别率能达90%。

  让facebook束手无策的“儿童色情攻打”,最近成了众多中国度长的恶梦。

  1月22日,全国“扫黄打非”办公室安排广东省“扫黄打非”办公室对涉嫌制造流传儿童色情视频的广州胤钧商业有限公司制作传播涉儿童有害视频一案依法进行考察。执法部分已请求该公司将其所有相关视频下线,并依法查封两处生产经营场合,拘留收禁用于生产经营的专用工具跟装备,责令当事人结束出产经营运动。

  1月18日,有微博网友举报,这些经由“二次改编”的不良视频已在腾讯、爱奇艺等头部视频网站上传布已久。只有搜索“艾沙”、“蜘蛛侠”、“小猪佩奇”等要害字,相干视频就会处于搜寻列表的顶部。

义务编纂:桂强

  原题目:这一波小猪佩奇“儿童邪典视频” 人工智能临时没辙

  一位行业人士对《财经》表示,在海内,人工核查部分大部分公司都采取外包的情势,优先审查被举报的视频。但当初看来,视频网站须要更多元的手段和处置方法,包括增强对UGC上传者的资质认证。

  这些儿童邪典视频很可能在机器辨认阶段就逃过了审核,目前难有万全之策,仍然要靠大批的人力投入

  “但小猪佩奇的情形要庞杂得多,” 人工智能专家刘锋对《财经》说明,“这些内容和剧情不完整跟色情有关,有些甚至波及到不健康的世界观,都比简略的识别色情更难。” 更主要的是,在以往的数据库中,相似小猪佩奇、艾莎公主这样的内容从未被以为是可怕、色情,因此因为缺少模型练习,人工智能无从识别。

  名义上是儿童动画片,但随同着轻快的音乐,画面突然就涌现了裸露的卡通人物,跟着剧情发展,卡通人物开端被灌肠、迫害,成人看了都会不适。但这些血腥、色情的内容,都被隐含在小猪佩奇、艾沙公主、蜘蛛侠等经典儿童影视作品中。

  点击进入专题

  内容审核始终是视频网站的困难。去年年初,类似事件曾让facebook一筹莫展。Facebook旗下视频网站YouTube,忽然出现了大量儿童不宜的动画。其中以迪士尼动画片《冰雪奇缘》里艾莎公主的改编视频传播最广。视频中,艾莎接受了各种开喉咙、开颅手术,画面血腥,已被阅读了上百万次。

  时隔一年,这波“袭击”到了中国。1月23日晚,微博在申明中称,经过技巧侦测,发明存在大范围歹意有组织的上传行动。而上传这些内容的账号都是UGC用户(原创用户),部门账号的订阅超过数万,依照这个规模,观看过的儿童不在少数。这些账号不仅从外网搬运,有些甚至还上传了本土制作的不良动画视频。

  多数接收《财经》记者采访的视频网站都表示,事件对目前视频平台UGC的审核方式、技术手腕都提出了新的挑衅。

  去年“艾沙门”发生后,香港马会开奖结果,facebook曾在已有的4500名视频审核员的基本上,又紧急额定雇佣了3000名。历时半年,至2017年 11 月才逐步平息那场儿童色情暴力视频风波,删除的视频超过15万个。

  此外,场景识别是另个难点。“这些视频里有人衣着蜘蛛侠服装,很轻易跟cosplay混杂。”另位专业人士对《财经》表示。

  这些视频大都呈现在多少个月、甚至半年前,但并不被觉察。一位业内人士剖析说,视频大都被纳入了亲子、少儿、动漫分类,至多被标上“恶搞”标签。

  截止目前,腾讯下架涉儿童邪典原视频1464条,对23万存疑视频作批量下架,对53万余条视频作撤回复审;封禁恶意账号621个。而微博则称已永恒封停上传帐号 87个,制止有害上传及屏蔽搜索症结词4755个。

  《财经》记者 陈潇潇 梁辰/文  谢丽容/编辑

  不仅是腾讯、爱奇艺,这些视频简直“入侵了”所有带视频功效的网站。快手对《财经》记者表示,该公司也发现了少量相关视频,目前已采取了屏蔽关键词等办法。

  事件的重大性引起了相关部门器重,1月22日上午,北京市行政市场执法总队宣布了对于查禁“儿童邪典视频”工作的紧急告诉,要求包含视频、搜索引擎及游戏在内的机构立即将其下架,并不得传播、应用。