“被滥用的AI”:女子用AI编造“校园霸凌”谣言被处罚

国内新闻 · 2024-01-16 12:40:00

screenshot20240115 (10).png

AI(人工智能),模拟人类智能以解决复杂问题和实现人类类似的任务。通过海量数据学习和用户行为、兴趣分析,发现隐藏在其中的模式和规律,进而提供准确的决策支持和更好的用户体验,是AI的拿手好戏之一。

然而,这项新技术在改变生活的同时,也正在滋生新型犯罪:一些人为博眼球赚取流量,利用AI编造或篡改情节炮制虚假信息,造成不良社会影响;更有甚者,利用AI技术生成虚假图片、音视频或者文字信息制造谣言,颠覆了“有图有真相”的常规认知,让网络谣言更加难辨真伪……近日,四川德阳罗江警方就查处一起利用AI文章生成软件编造、传播网络谣言典型案件,一名成都女子利用AI小程序编造德阳某学校的“校园霸凌”虚假信息被警方行政处罚。1月15日,办案民警向新闻记者讲述了详细案情。

新闻记者还梳理发现,国内多地也出现利用AI编造、传播网络谣言案件,并被警方查处。这种新型违法犯罪,值得公众警惕。女子编造传播“校园霸凌”虚假信息被处罚。


去年12月20日,一篇题为《12岁女生被8人轮流扇耳光3小时,致耳膜穿孔》的文章发布在某平台,引发大量网民关注,也引起德阳罗江警方关注。随后,有网友举报该文为虚假信息,几小时后文章被平台下架。两天后,罗江警方找到了始作俑者刘某群,她才知道自己已触犯法律。

经警方调查,刘某群将2023年12月实际发生在外省某地已被处理的“校园霸凌事件”截取相关事件图片后,利用AI小程序自动编辑功能,嫁接为发生在德阳某学校的“校园霸凌”虚假信息,制作了上述文章在某平台发布,引发大量网民关注,对社会秩序、校园治理造成严重的负面影响。

“为博取流量,获得平台浏览奖励,她被警方挡获时获利就几十元钱。”一名负责该案的民警介绍,刘某群(四川成都人),20多岁,待业在家,在一些平台注册了账号,平日靠写点文章博取流量,获得平台浏览奖励,“文章基本上是用AI写的。”

面对警方,刘某群主动交代了自己的造谣行为,称自己法律意识淡薄,非常后悔。警方对其进行了批评教育,并依据《治安管理处罚法》对她进行行政处罚,并对其造谣账号采取关停措施。


华人网阿肆编辑报道


女子 ai 编造 谣言 被处罚 校园霸凌 被滥用 用AI
上一篇: 美媒:OpenAI删除了禁止其技术被用于军事用途的条款      下一篇: 编造“水库管理人员将人杀死后抛尸水库”谣言,被拘10天
注册   /   登录    登录用户可留评论
网站地图