喷子注意了,Google要用机器学习检测恶意评论

来源:www.xjctc.net   时间: 2020-01-30

根据雷锋的说法,Google的Jigsaw开发了一个人工智能工具Perspective,它使用机器学习来检测网络上的骚扰和滥用内容,帮助新闻机构和内容平台识别恶意评论。

Perspective软件可以确定在线评论的“毒性”,并通过挖掘数百万条评论然后由10名评委评分来获得毒性水平。它根据评论与标记为“有毒”标签的评论的相似性得出评分,或评论强迫他人停止谈话的可能性。

Perspective的API现已在官方网站上提供,感兴趣的朋友可以对其进行测试。

据称纽约时报,卫报,经济学家和维基百科正在测试新技术,谷歌和Jigsaw希望其他新闻机构也能够使用它。它还减少了人工审查。根据测试结果,特朗普着名的“通过猫抓住她”已达到92%的毒性(因为这句话涉及严重歧视女性,因此不会被翻译)。

虽然评论可以提高用户参与度,但总会有人因为匿名而无法阻止人们发表不当评论。看来Perspective仍然非常有用。

只是由于人类语言的复杂性,其评估不一定准确。以上图片是雷锋网(公众号:雷锋)测试的中性文字,但结果为46%。也许它不是非常支持中国人。

Jigsaw表示,该技术将提供给所有平台,并将在未来继续得到增强,以识别单个攻击评论和偏离主题的评论。

Jigsaw成立于2010年,还开发了可以找到潜在ISIS恐怖分子的软件。雷锋网报道称其前身是互联网和政策智囊团Google Ideas,后来成为了Jigsaw的技术孵化器。它侧重于利用技术“解决困难的地缘政治挑战,包括打击暴力极端主义和遏制在线审查,从而减轻与数字攻击相关的威胁”。 Jigsaw将投资于技术,帮助最需要的人获取信息并防范最具挑战性的安全威胁。

雷锋网版权文章,禁止擅自复制。有关详细信息,请参阅重印说明。

  • 友情链接:
  • 版权所有© 新疆计算机培训中心 | 新ICP备10201303号-1 | www.xjctc.net . All Rights Reserved | 网站地图