导航菜单
首页 >  沐鸣测速 >  » 正文

网络仇恨言论可能“像电脑病毒一样被遏制”

沐鸣测速地址,网络仇恨言论可能“像电脑病毒一样被遏制”

剑桥大学(University of Cambridge)的一名工程师和语言学家针对这一主题进行了一项研究,他们利用威胁和暴力侮辱的数据库,建立了一种算法,可以为包含仇恨言论的在线信息的可能性打分。
 
随着这些算法的改进,潜在的仇恨言论可以被识别和“隔离”。在这里,用户会收到一个带有“仇恨程度”(一个仇恨言论严重程度评分)的警告警告,还有发送者的名字,以及一个在不可见的情况下查看或删除内容的选项。
 
这种方法类似于垃圾邮件和恶意软件过滤器,“从声音到数字民主”项目的研究人员认为,沐鸣测速地址它可以极大地减少人们所经历的仇恨言论的数量。该团队的目标是在2020年初完成该技术的原型。
 
语言学家Stefanie Ullman博士说:“仇恨言论是一种蓄意的网络伤害,就像恶意软件一样,因此可以通过隔离手段来处理。”“事实上,很多仇恨言论实际上是由Twitter机器人等软件产生的。”
 
仇恨言论的定义因国家、法律和平台的不同而有所不同,专家们认为,仅仅屏蔽关键词已被证明是无效的:例如,对暴力的生动描述不必包含明显的种族侮辱,就构成了种族主义的死亡威胁。
 
因此,仇恨言论很难被自动识别。它必须由那些接触过它的人报告,在有意的“心理伤害”被施加后,成群的审核员被要求判断每一个案件。
 
这是一场古老辩论的新前线:言论自由与有害语言。
 
工程师马库斯·托马林博士说:“像Facebook、Twitter和谷歌这样的公司通常会对仇恨言论做出反应。”对于那些不经常接触的人来说,这可能没什么问题。对其他人来说,这太少、太迟了。”
 
托玛林同时也是“为数字民主发声”的项目经理,她补充道:“许多妇女和公众眼中的少数群体因为敢于在网上露面而收到匿名仇恨言论。我们看到,这阻止了人们进入或继续参与公共生活,通常是那些来自需要更多代表的群体。”
 
这是一个可能的隔离屏幕方法的例子,包括讨厌的O'Meter
 
这是一个隔离屏幕的可能方法的例子,沐鸣测速地址在右侧显示了一个讨厌的O 'Meter
 
美国前国务卿希拉里•克林顿(Hillary Clinton)最近对英国听众表示,仇恨言论构成了“对民主的威胁”。此前,许多女议员表示,她们将不再参选的部分原因是受到网络虐待。
 
与此同时,脸书首席执行官马克·扎克伯格在乔治城大学向人群发表演讲时,谈到了“在什么是仇恨的问题上存在广泛分歧”,并指出:“我们应该在更多的表达上犯错误。”
 
考虑到这一切,研究人员表示,他们的提议并非“灵丹妙药”,但它介于“极端自由主义和专制主义”之间,即完全允许或禁止某些网络语言。
 
此外,最重要的是,用户成为了仲裁者,研究人员补充道。托玛林说:“很多人不喜欢由一个未经选举产生的公司或事无巨细管理的政府来决定我们能说什么,不能说什么。”
 
“当你应该小心的时候,我们的系统会提示,但这总是你的决定。它不会阻止人们发布或浏览他们喜欢的内容,但它给那些被仇恨淹没的人提供了急需的控制。”
 
这篇发表在《道德与信息技术》(Ethics and Information Technology)杂志上的论文中,两人提到的检测算法的准确率达到60%——与随机相比并不高多少。托玛林的机器学习实验室目前已将这一比例提高到80%,他预计数学模型将继续改进。
 
与此同时,乌尔曼正在收集更多的“训练数据”:经过验证的仇恨言论,算法可以从中学习。这样的数据将有助于完善“信心评分”,从而确定隔离和随后的仇恨O ' meter读数,该读数可以类似于灵敏度拨号——取决于用户的偏好。
这一得分的一个基本例子可能涉及“bitch”这样的词:一个厌女症的蔑称,但在诸如养狗之类的语境中也是一个合理的术语。研究人员表示,通过算法分析这些词的句法位置——周围词的类型和它们之间的语义关系——决定了仇恨言论的得分。
 
Ullman说:“仅仅识别单个的关键词是不够的,我们还要研究整个句子结构,沐鸣测试速甚至更多。”“用户资料和发布历史中的社会语言学信息都有助于改进分类过程。”
 
托玛林补充道:“通过自动隔离,我们可以为仇恨内容的强度提供指导,我们可以让那些收到仇恨言论的人,毒害我们的网络言论。”
 
然而,在剑桥大学艺术、人文和社会科学研究中心(CRASSH)工作的这两人说,就像电脑病毒一样,仇恨言论和限制它的系统之间总是会有“军备竞赛”。
 
该大学开展的项目也开始调查“反言论”:人们对仇恨言论的反应方式。研究人员还打算就“Siri”这样的虚拟助手应该如何应对威胁和恐吓展开讨论。
 
本周早些时候,滑铁卢大学(University of Waterloo)的研究人员表示,他们开发了一种机器学习工具,可以检测并确定新闻报道或社交媒体帖子中的声明是否得到了同一主题的其他内容的支持。