OKLAHOMA CITY (AP) — Uma câmera corporal capturou cada palavra e latido proferido enquanto o sargento Matt Gilmore e seu cão policial, Gunner, procuravam um grupo de suspeitos por quase uma hora.
Normalmente, o sargento da polícia de Oklahoma City pegaria seu laptop e gastaria de 30 a 45 minutos escrevendo um relatório sobre a busca. Mas desta vez, ele usou inteligência artificial para redigir o primeiro rascunho.
Utilizando todos os sons e conversas de rádio captados pelo microfone acoplado à câmera corporal de Gilmore, a ferramenta de IA produziu um relatório em oito segundos.
“Foi um relatório melhor do que eu poderia ter escrito, e estava 100% preciso. Fluiu melhor”, disse Gilmore. A ferramenta até documentou um detalhe que ele não se lembrava de ter ouvido: a menção de outro oficial sobre a cor do carro de onde os suspeitos fugiram.
O departamento de polícia de Oklahoma City é um dos poucos que está experimentando o uso de chatbots de IA para produzir os primeiros rascunhos de relatórios de incidentes. Os policiais que experimentaram a tecnologia estão entusiasmados com o tempo economizado, enquanto alguns promotores, grupos de vigilância policial e acadêmicos do direito estão preocupados com como isso pode alterar um documento fundamental no sistema de justiça criminal, que desempenha um papel crucial em determinar quem é processado ou preso.
Desenvolvida com a mesma tecnologia do ChatGPT e vendida pela Axon — conhecida por desenvolver o Taser e ser a principal fornecedora de câmeras corporais nos EUA —, a ferramenta pode se tornar, como Gilmore descreve, mais um “divisor de águas” para o trabalho policial.
“Eles se tornam policiais porque querem fazer o trabalho policial, e passar metade do dia inserindo dados é apenas uma parte tediosa do trabalho que eles odeiam”, disse Rick Smith, fundador e CEO da Axon, descrevendo o novo produto de IA — chamado Draft One — como aquele que teve a “reação mais positiva” de todos os produtos introduzidos pela empresa.
“Agora, certamente há preocupações”, acrescentou Smith. Em particular, ele disse que os promotores querem ter certeza de que os policiais — e não apenas um chatbot de IA — são responsáveis por redigir seus relatórios, pois podem ter que testemunhar no tribunal sobre o que presenciaram.
“Eles nunca querem colocar um policial no tribunal que diga: ‘Foi a IA que escreveu, não eu’”, disse Smith.
A tecnologia de IA não é nova para as agências policiais, que já adotaram ferramentas algorítmicas para ler placas de veículos, reconhecer rostos de suspeitos, detectar sons de tiros e prever onde crimes podem ocorrer. Muitas dessas aplicações geraram preocupações de privacidade e direitos civis, além de tentativas de legisladores de estabelecer salvaguardas. Mas a introdução de relatórios policiais gerados por IA é tão recente que há poucas, se é que existem, diretrizes orientando seu uso.
Preocupações sobre preconceitos raciais e sociais serem incorporados na tecnologia de IA são apenas parte do que o ativista comunitário de Oklahoma City, Aurelius Francisco, considera “profundamente preocupante” sobre a nova ferramenta, que ele conheceu através da Associated Press. Francisco prefere usar letras minúsculas em seu nome como uma tática para resistir ao profissionalismo.
“O fato de que a tecnologia está sendo usada pela mesma empresa que fornece Tasers para o departamento já é alarmante”, disse Francisco, cofundador da Foundation for Liberating Minds em Oklahoma City.
Ele afirmou que automatizar esses relatórios vai “facilitar a capacidade da polícia de assediar, vigiar e infligir violência aos membros da comunidade. Embora torne o trabalho do policial mais fácil, torna a vida de pessoas negras e pardas mais difícil.”
Antes de experimentar a ferramenta em Oklahoma City, os oficiais de polícia a mostraram para promotores locais, que aconselharam cautela antes de usá-la em casos criminais de alto risco. Por enquanto, ela só é usada para relatórios de incidentes menores que não levam à prisão de ninguém.
“Então, sem prisões, sem crimes graves, sem crimes violentos”, disse o capitão da polícia de Oklahoma City, Jason Bussert, que lida com tecnologia da informação no departamento, composto por 1.170 oficiais.
Isso não é o caso em outra cidade, Lafayette, Indiana, onde o chefe de polícia Scott Galloway disse à AP que todos os seus oficiais podem usar o Draft One em qualquer tipo de caso, e que a ferramenta tem sido “incrivelmente popular” desde que o piloto começou no início deste ano.
Ou em Fort Collins, Colorado, onde o sargento da polícia Robert Younger disse que os oficiais são livres para usá-la em qualquer tipo de relatório, embora tenham descoberto que não funciona bem em patrulhas no distrito de bares do centro da cidade devido a uma “quantidade esmagadora de ruído.”
Além de usar IA para analisar e resumir gravações de áudio, a Axon experimentou visão computacional para resumir o que é “visto” nas filmagens de vídeo, mas rapidamente percebeu que a tecnologia ainda não estava pronta.
“Dadas todas as sensibilidades em torno do policiamento, da raça e de outras identidades das pessoas envolvidas, acho que vamos ter que fazer um trabalho significativo antes de introduzi-la,” disse Smith, CEO da Axon, descrevendo algumas das respostas testadas como não “abertamente racistas”, mas insensíveis de outras formas.
Esses experimentos levaram a Axon a se concentrar apenas no áudio no produto lançado em abril durante sua conferência anual para oficiais de polícia.
A tecnologia usa o mesmo modelo de IA generativa que alimenta o ChatGPT, criado pela OpenAI, com sede em San Francisco. A OpenAI é uma parceira comercial próxima da Microsoft, que é a fornecedora de computação em nuvem da Axon.
“Usamos a mesma tecnologia subjacente ao ChatGPT, mas temos acesso a mais ajustes e controles do que um usuário normal do ChatGPT teria”, disse Noah Spitzer-Williams, que gerencia os produtos de IA da Axon. Reduzir o “nível de criatividade” ajuda o modelo a se ater aos fatos, de forma que ele “não embeleze ou alucine da mesma maneira que faria se estivesse usando o ChatGPT sozinho”, explicou.
A Axon não revela quantos departamentos de polícia estão usando a tecnologia. Ela não é a única fornecedora; startups como Policereports.ai e Truleo estão promovendo produtos semelhantes. Mas, dada a relação profunda da Axon com departamentos de polícia que compram seus Tasers e câmeras corporais, especialistas e oficiais de polícia esperam que os relatórios gerados por IA se tornem mais comuns nos próximos meses e anos.
Antes que isso aconteça, o acadêmico do direito Andrew Ferguson gostaria de ver mais discussões públicas sobre os benefícios e os possíveis danos. Por exemplo, os grandes modelos de linguagem por trás dos chatbots de IA são propensos a inventar informações falsas, um problema conhecido como alucinação, que pode inserir falsidades convincentes e difíceis de detectar em um relatório policial.
“Tenho receio de que a automação e a facilidade da tecnologia façam com que os policiais sejam menos cuidadosos ao escrever,” disse Ferguson, professor de direito na American University, que está trabalhando no que se espera ser o primeiro artigo de revisão jurídica sobre essa nova tecnologia.
Ferguson disse que um relatório policial é importante para determinar se a suspeita de um oficial “justifica a perda de liberdade de alguém.” Às vezes, é o único testemunho que um juiz vê, especialmente em crimes menores.
Relatórios policiais gerados por humanos também têm falhas, disse Ferguson, mas ainda é uma questão em aberto saber qual é mais confiável.
Para alguns policiais que experimentaram a ferramenta, ela já está mudando a forma como respondem a um crime relatado. Eles estão narrando o que está acontecendo para que a câmera capture melhor o que eles desejariam colocar por escrito.
À medida que a tecnologia se populariza, Bussert espera que os oficiais se tornem “cada vez mais verbais” ao descrever o que está diante deles.
Após Bussert carregar o vídeo de uma parada de trânsito no sistema e apertar um botão, o programa produziu um relatório em estilo narrativo, com linguagem conversacional, que incluía datas e horários, assim como um policial teria digitado a partir de suas anotações, tudo baseado no áudio da câmera corporal.
“Foi literalmente questão de segundos,” disse Gilmore, “e estava feito a ponto de eu pensar: ‘Não tenho nada a mudar.’”
Ao final do relatório, o policial deve clicar em uma caixa que indica que ele foi gerado com o uso de IA.
—————
O’Brien reportou de Providence, Rhode Island
—————
A Associated Press e a OpenAI têm um acordo de licenciamento e tecnologia que permite à OpenAI acesso a parte dos arquivos de texto da AP.
Por SEAN MURPHY e MATT O’BRIEN
Artigo Original: APNEWS
Foto: O capitão Jason Bussert demonstra o Draft One, um software com tecnologia de IA que cria relatórios policiais a partir do áudio da câmera corporal, na sede da polícia de Oklahoma City na sexta-feira, 31 de maio de 2024 em Oklahoma City, Oklahoma. (Foto AP/Nick Oxford)
