美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

人工智能
每次青少年大规模枪击事件发生之后,我们都不禁疑惑:这些迹象到底是怎么被一一错过的?

​美国再发枪击案。

5月24日,得克萨斯州尤瓦尔迪市罗布小学发生枪击事件,至少19名儿童和2名教师遇害。这是自2012年康涅狄格州纽敦镇桑迪胡克小学枪击案以来,美国境内致死人数最多的校园枪击事件,也是美国2022年发生的至少第30起幼儿园及中小学校园枪击案。

根据法国媒体报道,枪击案事件肇事者可能是一名17岁的青少年。

当地时间29日,美国总统拜登和第一夫人吉尔·拜登当天前往得克萨斯州尤瓦尔迪市罗布小学大规模枪击案现场,他们参观了在该小学外设立的一处纪念场所,并向遇难者献花。

图片

每次青少年大规模枪击事件发生之后,我们都不禁疑惑:这些迹象到底是怎么被一一错过的?

AI正在阻止学校暴力事件

锁定个人与早期干预是至关重要的。

目前,学校也越来越依赖于监控软件来检查他们在网上发布的帖子和文章,因为他们几乎总是记录这些计划。

这些软件系统,来自Gaggle,Lightspeed Systems和Bark等公司,可以监控在学校发行的设备和网络上的通信。其中AI可以检测到一些语言,表明学生有伤害自己或他人的倾向。

谷歌文档和微软Office上写的电子邮件或者是一些暴力计划,以及网络搜索武器或自杀方法等行为,都被标记给管理员,然后管理员必须决定威胁是否可信以及如何采取行动。

“这是一个预警系统,提醒我们可能会发生的事情,所以我们可以帮助他们回到一个相对正常的水平”。Quintin Shepherd说。

虽然无法得知有多少校园枪击事件被预防,用户表示,这项技术能在学生正在使用学校服务进行交流的地方标记警告,同时学校必须做好在警报出现时采取行动的准备,评估警告,做出反应。

警报通常包含被标记的措辞、威胁的类型以及学生聊天打字的地方。当威胁被认为是可信的时候,比如学生写到自己有自杀的想法而不是为课堂项目时,学校辅导员就需要进行家访。

学校官员说,家长们经常表示惊讶。根据不同情况,学生可能会住院,转介给治疗师进行治疗,或由咨询师进行更密切的监控。

这名青少年男子被控本月早些时候在纽约州布法罗的一家超市杀害10人,此前也曾被转到医院。医务人员确定他没有危险,也没有精神疾病,才把他送回家。

维多利亚地区使用了Gaggle,每个学生一年的费用约为6美元。

然而,Shepherd说,学区不能仅仅依靠技术来防止学校暴力事件。四年前,当他成为督学时,他询问了社区成员的担忧,学生安全排名靠前。大人们都表达了需要更多的身体安全措施的要求,比如学校警察和通知系统。学生们说,他们需要更多的心理健康支持,并帮助他们发展应对技能。

图片

各学区已经收到了数十亿美元的救济资金,用于解决心理健康问题和学习损失,他们也正努力使用所能使用的所有工具来检测和防止暴力。

Shepherd说,他所在的地区减少了300个运营、行政和教学工作,为学生提供更多的心理健康服务。维多利亚是一个有13500名学生的地区,来自一个低收入的西班牙裔社区。它为每一所学校增加了一名社会情感行为专家,帮助陷入困境的学生和家庭。

“我们意识到,每个来学校的学生都带着一些感觉,有时这些感觉是悲伤、愤怒或沮丧的。如果我们能尽早看到,我们就能帮助孩子们不让他们的感觉劫持他们的情绪,那正是坏事发生的时候。”

94%的计划会被提前分享

去年,美国特勤局分析了67起避免了针对学校的暴力阴谋,他们发现,在94%的案件中,攻击者都会通过电子信息或在线帖子口头分享计划。也有人在没有被分享的期刊、文件、视频或录音中概述了他们的计划。

乌瓦尔德大学的枪手曾在脸书上向一名海外少女发短信,说他计划在枪击事件发生前杀死自己的祖母和学生。据说,他还在社交媒体上发布了有关枪支和自残的照片和视频。

根据联邦调查局的一份关于枪手导致攻击的行为的报告,活跃的枪手表现出四到五种与周围人有关的行为,比如心理健康的变化、困难的人际交往和对暴力的讨论。

枪手在枪击发生前一年也经历了多重问题,从学校的纪律处分到家里的虐待。抑郁、焦虑或偏执狂等心理健康问题在这些枪手中普遍存在。然而,在联邦调查局调查的案件中,只有大约25%的人在袭击前得到了正式诊断。

联邦调查局发现,对于18岁以下的枪手来说,同学们比家人更有可能观察到自己的行为。41%的案件向执法部门报告了这种行为,在大多数情况下,关于该行为的唯一讨论是在枪手和同伴之间。

据联邦调查局和其他官员说,自杀的念头在那些继续伤害他人的青少年中也很常见。

图片

“那些有杀人倾向的人往往有自杀倾向,这是对地区的潜在威胁。”科罗拉多州法尔肯市49学区安全安全主任David Watson说,该学区利用Bark向管理人员提醒学生的威胁。

Watson表示,他所在的学区在2017-2018学年开始注意到青少年心理健康问题的上升,此后,科罗拉多斯普林斯东北部地区发生了大量学生自杀事件。

Bark为学校提供免费的人工智能服务,以扫描他们的通讯。该软件不是一个独立的应用程序,也不是一个跨学校网络使用的过滤器;相反,它是在学校的谷歌和微软Office365中实现的。每个学生的年费2美元,学区就可以在放学后让审查人员来审查可能出现的严重威胁。

但正如Shepherd所说,我们不能完全依赖技术,AI能在多大程度上解决这类问题,我们仍需要继续观察并摸索。

相关报道:https://www.wsj.com/articles/how-do-schools-spot-possible-shooters-before-tragedy-strikes-this-tech-can-help-11653602532​

责任编辑:武晓燕 来源: 大数据文摘
相关推荐

2018-05-09 10:19:24

AI校园暴力校园

2013-11-07 15:27:07

2022-06-14 07:17:43

Wazuh开源

2024-01-08 08:52:33

2022-06-06 08:33:17

物联网技术检测枪支物联网

2016-03-16 09:33:40

2013-05-24 10:33:01

服务器宕机系统管理员

2013-06-26 09:29:30

系统管理员

2023-08-24 21:58:26

2018-08-24 09:45:52

FIXWindows 10管理员帐户

2013-06-14 10:15:45

大数据

2013-01-08 15:37:40

2009-08-25 14:40:24

2024-01-05 08:44:52

2013-12-26 10:47:58

2023-07-21 14:10:08

2009-12-28 14:57:52

2020-03-20 18:40:04

人工智能AI医疗行业

2013-08-20 10:11:20

Go系统管理员

2012-06-06 10:41:37

系统管理员运维
点赞
收藏

51CTO技术栈公众号