这个自动化的、可扩展的系统使用基于内容的图像检索和计算机视觉，从社交网络中剔除特定类型的用户生成内容。研究人员选择把重点放在政治模因上，这些政治模因被用于协调的社交媒体活动中，这些活动会引发不和、暴力和破坏民主。

 

“模因很容易创造，甚至更容易分享，”圣母大学计算机科学家蒂姆·韦宁格(Tim Weninger)教授说。“当涉及到政治模因时，沐鸣测速地址这些可以用来帮助争取选票，但它们也可以用来传播不准确的信息，造成伤害。”

 

韦宁格和他的合作者——一群数字取证专家和和平研究专家——从推特和Instagram上收集了200多万张图片和其他类型的内容，这些内容是在印度尼西亚备受争议的2019年大选前后生成的。选举结果在雅加达引发了暴力骚乱，导致8人死亡。

 

研究人员发现，这些活动既有协调的，也有自发的，目的是影响选举结果，并在选举后煽动暴力。参与这些活动的人利用虚假和挑衅性的言论操纵图片，经常从合法的新闻来源窃取品牌信息，以显得可信。

 

这个内容库正被用来帮助开发一个新的自动化系统，标记类似的操纵和操纵内容;该小组希望能够标记出内容，并实时警告选举监督员和记者潜在的威胁。研究人员希望他们的系统将是可扩展的，尽管他们面临着挑战，沐鸣测速地址比如确定最有效的方法来扩大数据摄入和处理。该系统目前正在评估中，有可能监测2020年美国总统大选。

 

“虚假信息时代已经来临，”沃尔特·谢勒(Walter Scheirer)教授说，他也参与了该工具的开发。“在一部热门电影中，沐鸣测试速一个冒名顶替的演员可能看起来很有趣、很轻松，但想象一下，一个视频或一个表情包的唯一目的就是让一个世界领导人对抗另一个领导人——说出他们实际上没说的话。”想象一下，这些内容可以多么迅速地在各个平台上共享和传播。考虑这些行动的后果。”

 

社交媒体公司承受着来自立法者、用户和慈善机构的巨大压力，要求它们防止病毒式欺骗和其他可能煽动线下暴力的内容的扩散，通常会采用自动检测和删除相结合的方式，并配备大量的人工版主。