网络欺凌“盾牌”应用程序使用人工智能来对抗社交媒体喷子
伯明翰阿斯顿大学的计算机科学家们推出了一款应用程序，该应用程序使用新型人工智能(AI)算法来打击在线喷子和欺凌行为。
这款可下载的应用名为Bullstop，是唯一一款直接集成到社交媒体平台上的反网络欺凌应用，可以保护用户不受欺凌者和喷子的直接信息侵害。
它是由工程与物理科学学院的博士研究员塞米·萨拉乌开发的，最初的设计对象是13岁以上的青少年。
该应用程序是与年轻人合作设计的，以提高其在主要目标受众中的采用机会。然而，对于经常使用推特等社交媒体工具、经常受到恶意攻击和辱骂的成年人来说，这也很有用。网络喷子的高调例子屡见不鲜，足以向我们表明这种虐待在社交媒体上很普遍。
自新冠肺炎疫情爆发和封城开始以来，年轻人和成年人的生活进一步转向了互联网，屏幕使用时间大幅增加，网络欺凌的报告也在增加。今年4月，英国政府向家长发布了新的网络安全指南，敦促他们听从建议，在封锁期间保证孩子的网络安全。
Comparitech.com对全球1000多名父母进行了调查，发现在2018年至2020年期间，五分之一的欺凌行为是通过社交媒体和应用程序发生的，另有11%是通过短信发生的。以色列初创公司light in Digital Trends的数据显示，封锁开始时，网络欺凌的报告增加了约70%年轻的人尤其暴露在网络危害之下。
Bullstop的独特之处在于，它会监控用户的社交媒体资料，扫描攻击性的传入消息，以确保用户不会受到传入的辱骂，以及攻击性的传入消息，以确保用户没有使用不恰当的语言，并提供一种自我反思的方式。这是通过一种旨在理解书面语言的人工智能(AI)算法来实现的:它分析信息并标记出攻击性内容，例如网络欺凌、辱骂、侮辱或威胁语言、色情和垃圾邮件。
攻击性的邮件可以立即从用户的收件箱中删除。但是，如果用户希望查看已删除的消息，则保留这些消息的副本。该应用程序还可以自动屏蔽不断发送攻击性信息的联系人。Bullstop是高度可配置的，允许用户确定应用程序如何全面删除不适当的消息。
设计Bullstop的博士生Semiu Salawu说:“这款应用程序不同于其他应用程序，因为使用人工智能检测网络欺凌本身就很独特。相比之下，其他反网络欺凌应用程序使用关键字来检测欺凌、不当或威胁性语言。
“这款检测人工智能已经接受了6万多条推文的训练，不仅能识别辱骂和攻击性语言，还能识别讽刺和排斥等微妙手段的使用，否则很难用关键词检测到这些语言。”
“它使用分布式云架构，使‘分类器’的进出成为可能。因此，随着更好的人工智能算法的出现，可以很容易地集成它们来改进应用程序。”
Bullstop目前支持Twitter，并计划在下一阶段推出对文本消息的支持。随着这款应用的持续使用和良好的效果，Facebook和Instagram等其他社交媒体平台也有望加入进来，让他们的用户从这款应用中受益。
Semiu补充说:“Twitter一直非常支持这样的研究工作，允许像BullStop这样的应用程序安全地与他们的平台集成，这是完成研究的关键。我们希望社交媒体平台会效仿的。”
该应用程序目前处于beta测试阶段，这意味着研究人员邀请应用程序的用户为他们提供反馈，以便他们进行改进。它已经被一些年轻人专业人士，包括教师，警察和心理学家。
一名11岁的用户说:“我喜欢我想给别人发信息的时候，它可以帮我检查，因为尽管我不想被伤害，但我也不想伤害别人。此外，如果人们不想因为发送东西而惹上麻烦，他们可以使用这款应用程序来告诉他们他们发送的东西是否不好。”
一名16岁的用户说:“我喜欢你可以信任或屏蔽联系人，如果有人冒犯你，它可以自动屏蔽他们。”
一位看过这款应用的精神病学家说:“它有一个‘停下来思考’的部分，对于任何不是直接想要欺凌或没有欺凌意图的孩子来说，这是非常积极的。”此外，我认为如果孩子知道一个应用程序允许父母访问，他们就不会安装它，所以在应用程序中不包含父母监控的决定是正确的。”
西米德兰兹郡警方网络犯罪部门的一位发言人说:“我的最初印象非常好。作为一个用户，甚至可能是一个监护人，我可以浏览应用程序，并很快理解应用程序试图实现什么。我认为它没有家长应用或配套应用这一事实应该被用作一个卖点。如果有人在网上受到欺凌，我肯定会向他们推荐这款应用程序，如果这个工具是公开可用的，那么我认为警察可以推荐它作为一种保护工具。”
一位测试了这款应用的当地全科医生补充道:“现在我知道BullStop将会上市，我可以推荐它，因为它把我们给病人和他们父母的建议付诸实施了。”例如，我们会建议他们阻止攻击性的联系并审查连接请求。拥有这样的东西可以让年轻人在一定程度上重新控制自己。”
Bullstop是免费的，现在可以在GooglePlay上下载。
进一步探索
