Apesar de toda a sua impressionante frequência, os tiroteios nas escolas continuam sendo um horror desconcertante.
Não só há pouco consenso sobre como pará-los - com sugestões que vão desde restringir o acesso de armas a professores de armar - mas há ainda menos certeza sobre por que um estudante abrir fogo contra seus colegas de classe.
Agora, alguns cientistas estão começando a explorar se a inteligência artificial (IA) poderia ajudar a encontrar respostas. A ideia é que os algoritmos possam analisar melhor os dados relacionados aos tiroteios nas escolas e, talvez, até mesmo identificar padrões na linguagem ou no comportamento dos alunos que possam prenunciar a violência escolar. A pesquisa ainda está em seus estágios iniciais, e a perspectiva de usar máquinas para prever quem pode se tornar um atirador escolar levanta questões de privacidade e outras questões éticas associadas a qualquer tipo de perfil, particularmente porque o processo envolveria crianças. O objetivo, no entanto, é ver se o poder analítico das máquinas inteligentes pode fornecer mais clareza às tragédias, muitas vezes consumidas em um turbilhão de altas emoções e retórica política.
Voltando-se para a tecnologia
Usar a inteligência artificial como uma forma de levar a análise científica a algo tão insondável quanto os tiroteios nas escolas era muito atraente para Shreya Nallapati. Ela acabou de se formar no ensino médio no Colorado, mas em fevereiro, após a morte de 17 estudantes em Parkland, na Flórida, ela se inspirou na líder estudantil Emma Gonzalez para agir.
"Eu senti que não deveríamos apenas estar postando nossos pensamentos e condolências", diz Nallapati. “Eu achava que, como uma geração crescente de millennials, deveríamos tentar usar o que conhecemos melhor - tecnologia”.
Então, Nallapati, que estuda inteligência artificial no ensino médio, procurou outras jovens que conhece por meio de um programa chamado Aspirations in Computing, do National Center for Women & Information Technology. Aspirations in Computing encorajam as mulheres jovens a ingressarem nos campos da computação e da tecnologia.
Nallapati pediu a outras pessoas do grupo que se juntassem a ela em um novo projeto, #NeverAgainTech. Ela espera que o esforço colaborativo resulte em uma compilação e análise conduzida por IA de uma ampla gama de dados relacionados a tiroteios em escolas - desde informações demográficas e socioeconômicas sobre atiradores passados, a qualquer história de uso de drogas ou distúrbios neurológicos, até disponibilidade de armas nos estados onde ocorreram ataques. O objetivo é desenvolver um detalhamento mais abrangente dos muitos componentes dos tiroteios nas escolas do que qualquer coisa que exista atualmente, e disponibilizar o software resultante para o público, particularmente escolas e órgãos de segurança pública, no próximo ano.
Avaliando o risco
Uma equipe de pesquisadores do Centro Médico do Hospital Infantil de Cincinnati está adotando uma abordagem diferente no uso da IA para lidar com a violência escolar. Ele publicou um estudo recente sugerindo que o aprendizado de máquina poderia ajudar potencialmente os terapeutas e conselheiros a discernir o nível de risco que um aluno pode apresentar.
Especificamente, os cientistas descobriram que a IA era tão precisa quanto uma equipe de psiquiatras infantis e adolescentes quando se tratava de avaliar o risco de comportamento violento, com base em entrevistas com 119 crianças entre 12 e 18 anos. agressão, o pesquisador-chefe Drew Barzman diz que também era aplicável para avaliar o risco de tiro na escola.
"Geralmente há sinais de alerta antes que haja violência na escola", diz ele. Em particular, a linguagem que um estudante usa durante uma entrevista pode ajudar a distinguir um adolescente de alto risco de um adolescente de baixo risco, de acordo com uma pesquisa anterior dirigida por Barzman. Esse estudo concluiu que o primeiro era mais propenso a expressar sentimentos negativos sobre si mesmo e sobre os atos de outros. Ele também era mais propenso a falar sobre atos violentos envolvendo ele mesmo e videogames ou filmes violentos.
A equipe deu outro passo ao fazer com que um algoritmo de IA usasse os resultados do estudo anterior para analisar as transcrições dos alunos entrevistados para a nova pesquisa. Com base nos padrões de linguagem, indicou se uma pessoa tinha um alto ou baixo risco de cometer violência. Em mais de 91% das vezes, o algoritmo, usando apenas os transcirípticos, foi alinhado com as avaliações mais extensas de uma equipe de psiquiatras infantis e adolescentes, que também tiveram acesso a informações de pais e escolas.
Os estudantes do estudo foram em grande parte recrutados em ambulatórios de psiquiatria, unidades de internação e departamentos de emergência. Alguns exibiram recentemente grandes mudanças comportamentais, mas, para outros, as mudanças foram menores. Barzman diz que eles freqüentam uma grande variedade de escolas, embora nenhum tenha estudado em casa.
De acordo com Barzman, o estudo se concentrou em prever a agressão física na escola, mas ainda não se sabe se o aprendizado de máquina poderia realmente prevenir a violência. O foco neste ponto é fornecer aos terapeutas e conselheiros uma ferramenta que possa aprimorar suas avaliações de alunos com base em entrevistas. A intenção, Barzman observa, não é ter máquinas que tomem decisões sobre os alunos.
"Basicamente, seria destinado a ajudar o clínico em sua tomada de decisão", diz Barzman. "Nós estaríamos fornecendo a eles uma estrutura daquilo que consideramos ser questões importantes. Pode ser difícil entrevistar um aluno, escolher as informações certas e lembrar de tudo. A ideia é dar a elas uma ferramenta que possa ajudá-las através do processo e aumentar a precisão de suas avaliações ".
Matty Squarzoni é outro crente no potencial da inteligência artificial em lidar com a violência escolar. Ele é CEO de uma startup da Califórnia chamada Sitch AI, que planeja comercializar tecnologia que, segundo ele, pode ajudar as escolas a lidar com essas ameaças. O foco inicial será o desenvolvimento de um sistema de sensores que permitirá aos policiais detectar a localização precisa dos tiros e também rastrear os movimentos de um atirador em uma escola. Mas Squarzoni diz que a empresa também está procurando maneiras de usar a análise preditiva para detectar possíveis problemas antes que se tornem violentos.
Ele acredita que a inteligência artificial poderia analisar os dados de um aluno e sinalizar mudanças notáveis em seu desempenho ou comportamento. Squarzoni reconhece possíveis preocupações sobre privacidade, mas diz que a empresa não conhece as identidades dos estudantes.
"Não estamos falando em criar perfis", diz ele. “Nós estaríamos olhando para cada pessoa como uma entidade única. Mas os humanos são criaturas de hábitos. Quando começam a ter irregularidades, é quando você começa a olhar para elas. Você vê bandeiras, e talvez as bandeiras comecem a ficar cada vez mais próximas. Eles podem ser problemas de saúde mental, ou talvez suas notas estejam caindo.
“Não estamos olhando para poder dizer: 'Essa pessoa vai ser um atirador'. Queremos ser capazes de dizer: "Essa pessoa precisa de ajuda".
Não tão rápido?
Mas outros têm sérias preocupações sobre a pressa em usar algoritmos de software para abordar questões sociais complexas.
“Agora estamos vendo uma tendência de IA ser aplicada a domínios muito sensíveis em velocidades alarmantes, e as pessoas que fazem esses algoritmos não necessariamente entendem todos os aspectos sociais, e até políticos, dos dados que estão usando”, diz Rashida Richardson., diretor de pesquisa política no AI Now Institute, um programa da Universidade de Nova York que estuda as implicações sociais da inteligência artificial.
Uma área em que o uso da IA está sob fogo é o que é conhecido como policiamento preditivo. Esses são produtos de software que analisam estatísticas de crimes e, em seguida, prevêem onde os crimes são mais prováveis de serem cometidos. Mas os críticos apontam que dados como prisões podem ser o resultado de um viés humano, que pode ser incorporado ao algoritmo.
Isso é sempre um risco de análise preditiva e porque a fonte dos dados é um fator-chave para determinar o quão objetivo ele realmente pode ser. Com a ferramenta AI sendo desenvolvida pelos pesquisadores do Hospital Infantil de Cincinnati, no entanto, a análise é baseada no que os alunos dizem durante uma entrevista, em vez de uma ampla compilação de estatísticas.
Ainda assim, Richardson acredita que é importante que as equipes que criam esse tipo de software sejam “interdisciplinares”, de modo que os educadores, por exemplo, estejam envolvidos em programas que avaliam o comportamento dos alunos.
“Os pesquisadores podem não entender muitas das nuances do que as pessoas no mundo da educação e da política legal chamam de clima escolar. Isso inclui questões de segurança e comportamentais ”, diz ela. “O tipo de escola em que você frequenta freqüentemente dita como o comportamento é tratado e como a disciplina é tratada.
“Por exemplo, descobriu-se que as escolas charter têm políticas disciplinares muito mais rigorosas”, acrescenta Richardson. “As crianças nesse ambiente serão tratadas de maneira muito diferente do que em uma escola particular de alto padrão e até mesmo em diferentes escolas públicas.
“Tentar entender os problemas muito complicados que têm uma infinidade de informações e aplicar uma solução de tecnologia que reflete uma parte dela é um problema porque pode reiterar os mesmos problemas que vemos na sociedade ou criar uma solução para um problema que não está presente. "
Richardson diz que outra preocupação é que, mesmo que um programa de inteligência artificial seja desenvolvido com a melhor das intenções, ele pode acabar sendo usado de maneiras não previstas por seus criadores.
"Uma vez que você tenha essas ferramentas", ela diz, "não é como se você continuasse a ter controle sobre como elas são implementadas ou como elas continuarão afetando a sociedade como um todo".
