多模型融合的网络暴力识别

作者：任思远; 王旭阳; 李也桐

来源：网络安全技术与应用, 2023, (11): 31-33.

• 网络暴力
• 情感分析
• 机器学习
• FastText
• SVM

网络暴力是一种流行性广、隐蔽性强的暴力行为，具有诽谤性、诬蔑性和蛊惑性等特点，会对他人的声誉、权益与精神造成损害，常常伴随着侵权行为和违法犯罪行为，严重影响社会稳定。目前，网络平台多针对敏感词进行识别并屏蔽，未对网络暴力文本内容进行有效识别。针对这个问题，本文应用网络爬虫技术爬取受暴人的粉丝列表、微博评论及评论人ID，然后比对施暴评论人ID与受暴人微博粉丝，总结归纳施暴人ID、受暴人微博粉丝与网络暴力的关系（即关注关系），并使用FastText和SVM两个情感分析模型分别对评论内容进行模型训练，最后赋予训练模型和关注关系不同权重，构建网络暴力识别的模型。经测试，该模型对网络暴力文本识别的准确率可达到91.2%。

• 单位
  中国刑事警察学院