Em maio e junho de 2013, quando a taxa de homicídio de Nova Orleans era a sexta maior dos Estados Unidos, o advogado do distrito de Orleans publicou duas acusações de crime contra dúzias de homens acusados ​​de ser membros de duas bandas violentas de tráfico de drogas da Central City, 3NG e os 110ers. Os membros de ambas as gangues foram acusados ​​de cometer 25 assassinatos, bem como várias tentativas de assassinatos e assaltos à mão armada.

Pesquisas subsequentes do Bureau of Alcohol, Tabaco, Armas de Fogo e Explosivos, o Federal Bureau of Investigation e agências locais produziram mais acusações de RICO, incluindo a de um homem de 22 anos chamado Evans “Easy” Lewis, um membro de uma gangue chamou os 39ers que foram acusados ​​de participar de um anel de distribuição de drogas e vários assassinatos.

De acordo com Ronal Serpas, o chefe do departamento na época, uma das ferramentas utilizadas pelo Departamento de Polícia de Nova Orleans para identificar membros de gangues como a 3NG e os 39ers veio da empresa Silanti Valley Palantir. A empresa forneceu software para um programa NOPD secreto que rastreou os laços das pessoas com outros membros das gangues, delineou histórias criminais, analisou as mídias sociais e previu a probabilidade de que indivíduos cometiam violência ou se tornassem uma vítima. Como parte do processo de descoberta no julgamento de Lewis, o governo transferiu mais de 60.000 páginas de documentos detalhando as evidências recolhidas contra ele de informantes confidenciais, balísticos e outras fontes – mas não fizeram menção à parceria do NOPD com Palantir, de acordo com uma fonte familiar com o teste de 39ers.

O programa começou em 2012 como uma parceria entre a New Orleans Police e a Palantir Technologies, uma empresa de mineração de dados fundada com dinheiro semente da empresa de capital de risco da CIA. De acordo com entrevistas e documentos obtidos pela The Verge, a iniciativa era essencialmente um programa policial preditivo, semelhante à “lista de calor” em Chicago, que pretende prever quais pessoas são provavelmente motoristas ou vítimas de violência.

A parceria foi ampliada três vezes , com a terceira extensão programada para expirar em 21 de fevereiro de 2018. A cidade de Nova Orleans e Palantir não responderam a perguntas sobre o status atual do programa.

A tecnologia preditiva de policiamento provou ser altamente controversa onde quer que seja implementada, mas em Nova Orleans, o programa escapou do aviso público, em parte porque Palantir estabeleceu como uma relação filantrópica com a cidade através do programa NOLA For Life da prefeita Mitch Landrieu. Graças ao seu status filantrópico, bem como ao modelo de governo “forte prefeito” de Nova Orleans, o acordo nunca passou por um processo de contratação pública.

“NINGUÉM EM NOVA ORLEANS SABIA SOBRE ISSO, PELO MEU CONHECIMENTO”.

Na verdade, os principais membros do conselho da cidade e os advogados contatados pela The Verge não tinham idéia de que a cidade tinha algum tipo de relacionamento com a Palantir, nem sabia que Palantir usou seu programa em Nova Orleans para comercializar seus serviços para outra agência de aplicação da lei para um contrato multimilionário.

Mesmo James Carville, o instrumento político decisivo para promover a colaboração da Palantir com a NOPD, disse que o programa não era público. “Ninguém em Nova Orleans sabe mesmo sobre isso, a meu conhecimento”, disse Carville.

Mais de metade da década após a parceria com Nova Orleans, a Palantir patenteou pelo menos um sistema de previsão de crime e vendeu software similar aos serviços de inteligência estrangeiros para prever a probabilidade de os indivíduos cometerem terrorismo.

Mesmo dentro da comunidade de aplicação da lei, há preocupações sobre as possíveis implicações das liberdades civis do tipo de previsão individualizada que Palantir desenvolveu em Nova Orleans e se é apropriado para o sistema de justiça criminal americano.

“NÃO É A FERRAMENTA CERTA PARA AS AUTORIDADES LOCAIS E ESTADUAIS”.

“Eles estão criando uma lista de destino, mas não vamos depois da Al Qaeda na Síria”, disse um ex-policial que observou o trabalho de Palantir de primeira mão, bem como os campos de vendas da empresa para o policiamento preditivo. O ex-funcionário falou sob condição de anonimato para discutir livremente suas preocupações com a mineração de dados e o policiamento preditivo. “Palantir é um ótimo exemplo de uma quantidade absolutamente ridícula de dinheiro gasto em uma ferramenta tecnológica que pode ter alguma aplicação”, disse o ex-funcionário. “No entanto, não é a ferramenta certa para a aplicação da lei local e estadual”.

Há seis anos, uma das empresas tecnológicas mais secretas e poderosas do mundo desenvolveu um produto de inteligência contencioso em uma cidade que serviu de laboratório neoliberal para tudo, desde escolas charter até reforma radical da habitação desde o furacão Katrina. Como o programa nunca foi público, questões importantes sobre seu funcionamento básico, risco de viés e propriedade geral nunca foram respondidas.

Co-fundada em 2004 por Alexander Karp e Peter Thiel (o maior acionista da empresa), a rápida ascensão de Palantir Technologies para se tornar uma das empresas privadas de valor mais importantes do Vale do Silício foi impulsionada por contratos lucrativos com os serviços de inteligência do Pentágono e dos Estados Unidos , bem como serviços de segurança estrangeiros. Nos últimos anos, a Palantir procurou expandir seus negócios de fusão e análise de dados para o setor privado, com sucesso misto .

A previsão não é um novo território para o Palantir. Desde pelo menos 2009, Palantir foi usado pelo Pentágono para prever a localização de dispositivos explosivos improvisados ​​no Afeganistão e no Iraque – um programa de avaliação de risco em tempo de guerra, ausente das preocupações com as liberdades civis que acompanham o policiamento preditivo individualizado. Sua plataforma de software comercial, Metropolis, também supostamente usa análise preditiva para ajudar as empresas a desenvolver mercados consumidores e agilizar investimentos. Mas antes de 2012 com o programa de Nova Orleans, não há registro disponível publicamente de que Palantir se aventurou no policiamento preditivo.

O interesse e o investimento em tecnologia de policia preditiva aceleraram depois de 2009, quando o Instituto Nacional de Justiça começou a conceder subsídios para projetos-piloto em previsão de crime. Essas subvenções apoiam alguns dos mais conhecidos – e mais escrupulosos – esforços de policia preditiva em Chicago e Los Angeles. Os programas variam, e os algoritmos são muitas vezes proprietários, mas todos visam ingerir vastas lojas de dados – geografia, registros criminais, tempo, histórias de mídia social – e fazer previsões sobre indivíduos ou lugares que possam estar envolvidos em um crime. Nos próximos anos, muitas empresas iniciantes têm lutado para monetizar o método de combate ao crime – sobretudo o PredPol , um arranque da Califórnia, cujos prêmios de contrato se derrubaram depois de uma explosão inicial de publicidade no início de 2010.

ANTES DE 2012 COM O PROGRAMA DE NOVA ORLEANS, NÃO HÁ REGISTRO DISPONÍVEL PUBLICAMENTE DE QUE PALANTIR SE AVENTUROU NO POLICIAMENTO PREDITIVO

À medida que mais departamentos e empresas começaram a experimentar o policiamento preditivo, a pesquisa financiada pelo governo lançou duvidas sobre sua eficácia e acadêmicos independentes descobriram que pode ter um impacto diferente nas comunidades de cores pobres. Um estudo de 2016 algoritmo de PredPol de engenharia reversa e descobriu que replicou “viés sistêmico” contra comunidades de cores super policiadas e que os dados históricos do crime não previam com precisão a atividade criminosa futura. Um dos pesquisadores, um candidato a um PhD de Michigan chamado William Isaac, não havia ouvido falar da parceria de Nova Orleans com Palantir, mas reconheceu o modelo de mapeamento de dados no coração do programa. “Eu acho que os dados que eles estão usando, há questões sérias sobre seu poder preditivo. Vimos muito pouco sobre sua capacidade de prever crimes violentos “, disse Isaac.

De acordo com entrevistas e documentos obtidos pela The Verge , Palantir se aproximou de Nova Orleans em 2012 através de um intermediário bem conhecido: James Carville, o corretor de poder do Partido Democrata e arquiteto da bem sucedida campanha presidencial de Bill Clinton em 1992. Carville é um conselheiro pago da Palantir, cujo envolvimento com a empresa de mineração de dados remonta pelo menos até 2011 .

“EU SOU O ÚNICO MOTOR DESSE PROJETO”.

Em uma entrevista, Carville disse a The Verge que ele foi o impulso para a colaboração entre Palantir e New Orleans. “Eu sou o único motor desse projeto. Foi inteiramente minha idéia “, disse Carville, acrescentando que ele e o CEO da Palantir, Alex Karp, voaram para Nova Orleans para se encontrar com o prefeito Landrieu. “Para mim, era um caso de moralidade. Os jovens estavam atirando um para o outro, e o público não estava tão envolvido como deveriam ter sido “.

Os documentos que descrevem o relacionamento de Palantir com Nova Orleans descrevem o papel da empresa como “pro bono” e filantrópico. Em 2015, Palantir mencionou seu trabalho em Nova Orleans em seu relatório anual filantrópico , caracterizando o esforço como “análise de rede” colaborativa para a aplicação da lei e outras partes interessadas da cidade.

As observações de Carville em uma estação de rádio pública da Bay Area quatro anos atrás elucidam como o relacionamento de Palantir com a cidade surgiu. Em uma apresentação de janeiro de 2014 no talk show do KQED, Carville e sua esposa, Mary Matalin, apresentaram o trabalho de Palantir em Nova Orleans como principal motor no declínio da taxa de assassinato de dois anos na cidade.

“O CEO de uma empresa chamada Palantir – o CEO, um cara chamado Alex Karp – disse que queriam fazer algum trabalho de caridade e o que eu acho? Eu disse, temos uma taxa de crime realmente horrível em Nova Orleans “, disse Carville ao anfitrião do KQED Forum Michael Krasny, sem mencionar sua relação profissional com Palantir. “E então ele desceu e se encontrou com o nosso prefeito … ambos tiveram a mesma reação quanto à imoralidade absoluta de jovens matando outros jovens e a sociedade não fazendo nada sobre isso. E fomos capazes, sem nenhum custo para a cidade, começar a integrar dados e prever e intervir em relação a onde esses conflitos surgirão. Vimos provavelmente um terço de uma redução em nossa taxa de homicídio desde que este projeto começou. ”

Matalin, que também é consultor político, deixou claro a Krasny que o trabalho de previsão feito com a NOPD pela empresa Palo Alto era um protótipo e potencialmente poderia varrer pessoas inocentes.

“A MENOS QUE VOCÊ SEJA O PRIMO DE UM TRAFICANTE DE DROGAS QUE FICOU RUIM, VOCÊ VAI FICAR BEM”.

“Somos um tipo de protótipo”, disse Matalin. “A menos que você seja o primo de um traficante de drogas que ficou ruim, você vai ficar bem”.

Ronal Serpas, chefe de polícia de Nova Orleans de 2010 até agosto de 2014, lembrou seu contato inicial com o pessoal de Palantir durante uma reunião iniciada pelo gabinete do prefeito Landrieu. “Eles vieram e discutiram o tipo de trabalho que eles fazem nos teatros de guerra, o tipo de trabalho que eles fazem em outras partes do mundo”, disse Serpas durante uma entrevista em seu escritório na Universidade Loyola. “Minha impressão era que Palantir também estava interessado em tentar desenvolver produtos que pudessem fazer alguma previsão do crime”.

A relação entre Nova Orleans e Palantir foi finalizada em 23 de fevereiro de 2012, quando o prefeito Landrieu assinou um acordo que concede acesso gratuito à plataforma de integração de dados do setor público da Nova Orleans. Licenças e suporte tecnológico para a plataforma de aplicação da lei da Palantir podem ser executados em milhões de dólares por ano, de acordo com uma auditoria do Departamento do xerife do condado de Los Angeles.

Em janeiro de 2013, a New Orleans também permitiria que a Palantir usasse sua conta de lei para o produto Accurint da LexisNexis, que é composto por milhões de registros publicitários pesquisáveis, limas de tribunal, licenças, endereços, números de telefone e dados de redes sociais. A empresa também obteve acesso gratuito a dados criminosos e não penais da cidade para capacitar seu software para a previsão do crime. Nem os moradores de Nova Orleães nem os principais membros do conselho da cidade cujo trabalho é supervisionar o uso de dados municipais estavam conscientes do acesso de Palantir às resmas de seus dados.

Palantir tem uma história de sigilo e New Orleans não é a única instância da empresa que realiza negócios com agências governamentais através de organizações sem fins lucrativos associadas, evitando o processo de contratação pública.

A Palantir fornece análise de dados e integração para o Departamento de Polícia de Los Angeles, mas o acordo foi feito através da Fundação de Polícia de Los Angeles, e não o próprio LAPD. Em Nova York, o contrato da empresa não foi divulgado pelo controlador da cidade por razões de segurança (a NYPD faz isso com contratos de equipamentos de vigilância ), e nunca foi levado ao conselho municipal para aprovação. O trabalho de Palantir com a NYPD só se tornou público quando os documentos sobre o seu relacionamento tumultuado com a maior força policial do país foram divulgados ao repórter BuzzFeed , William Alden.

Em Nova Orleans, de acordo com o extenso relatório da The Verge , o escritório do prefeito Landrieu, o advogado da cidade e o NOPD parecem ser as únicas entidades conscientes do trabalho da empresa na cidade. Os membros-chave do conselho da cidade não estavam cientes do trabalho de Palantir em Nova Orleans até serem abordados pelo The Verge .

A parceria Palantir provavelmente receberia mais escrutínio do conselho da cidade se fosse detalhada em um orçamento, mas a aprovação do conselho não é necessária para tal programa. A estrutura do governo da cidade em Nova Orleans se baseia em um modelo de “prefeito forte” onde o conselho não possui autoridade de aprovação sobre contratos ou políticas para o departamento de polícia da cidade.

Cidades em todo o país começaram recentemente a lidar com a questão de saber se e como os municípios devem regular o compartilhamento de dados e a privacidade. Algumas cidades como Seattle e Oakland aprovaram a legislação que estabelece comitês para elaborar diretrizes e conduzir a supervisão, enquanto outras como Nova York estão discutindo o papel que os conselhos municipais devem desempenhar em relação à privacidade na era digital.

“EU NÃO ACHO QUE HAJA NINGUÉM NO CONSELHO QUE DIRIA QUE ELES ESTAVAM CONSCIENTES DE QUE ISSO MESMO OCORREU”.

Vários advogados civis e criminais que estão fortemente envolvidos com o sistema de justiça criminal de Nova Orleans também não conheciam esforços de policia preditivos da NOPD. Múltiplos advogados criminais nunca tinham visto os produtos analíticos de Palantir como parte de qualquer material de descoberta entregue a eles no decurso de casos de julgamento, embora tal análise normalmente fosse obrigada a ser dada ao advogado da defesa se tivesse sido usado como parte de uma investigação NOPD .

Jason Williams, presidente do conselho da cidade de Nova Orleans e ex-advogado de defesa, analisou a documentação da colaboração da Palantir com a NOPD a pedido da The Verge . Williams disse que nunca ouviu falar do envolvimento da empresa com a NOPD.

“Eu não acho que haja alguém no conselho que dissesse que eles estavam cientes de que isso ocorreu mesmo porque isso não faz parte de nenhuma das nossas alocações orçamentárias ou nossa supervisão”, disse Williams em uma entrevista durante uma reunião do conselho.

Williams, que também serviu como juiz do tribunal criminal antes de sua eleição para o conselho da cidade em 2014, disse que não se opunha necessariamente ao uso de métodos orientados a dados para ajudar os Nova Orleanianos em risco.

“Minha principal preocupação seria como isso foi usado na minha cidade. Se fosse usado para identificar pessoas marginalizadas que correm o risco de ser prejudicadas, para impedir que elas sejam prejudicadas, eu vou ter uma apreciação muito diferente disso do que eu vou ter se esse sistema fosse usado com nefonia “.

“É QUASE COMO SE NOVA ORLEANS ESTIVESSE CONTRATANDO SUA PRÓPRIA VERSÃO DA NSA”.

A conselheira Susan Guidry, que preside o comitê de justiça criminal do conselho e está no cargo desde 2010, também desconhecia a parceria de Nova Orleans com Palantir e o trabalho de previsão do crime da NOPD. Quando mostrou a documentação NOPD do programa, Guidry disse a The Verge que ela nunca tinha encontrado antes.

A Verge compartilhou documentação do programa com um grupo de advogados de direitos civis de Nova Orleans. Nenhum estava ciente do trabalho de previsão da NOPD – embora se tivessem ouvido rumores de que Palantir estava colaborando com a NOPD – e estavam preocupados com o segredo que cercava o programa.

“É especialmente perturbador que este nível de pesquisa intrusiva sobre a vida dos moradores comuns seja mantido praticamente um segredo”, disse Jim Craig, diretor do escritório da Louisiana do Roderick e Solange MacArthur Justice Center. Craig, que analisou a documentação do programa no The Vergepedido, comparou o esforço de policia preditivo para sinalizar o trabalho de inteligencia. “É quase como se Nova Orleans estivesse contratando sua própria versão da NSA para realizar uma vigilância 24/7 das vidas de suas pessoas”, disse Craig. As autoridades, ele acredita, mantiveram o programa em segredo porque provocaria uma indignação generalizada. “Agora, as pessoas estão indignadas com as câmeras de trânsito e não tem idéia de que este projeto de mineração de dados está acontecendo”, disse Craig. “O Sul ainda é um lugar onde as pessoas valorizam muito sua privacidade”.

Nicholas Corsaro e Robin Engel são dois professores da Universidade de Cincinnati que realizaram uma avaliação recente da estratégia de redução de violência de Nova Orleans para a qual Palantir foi usado e ajudaram a projetar uma base de dados de gangs NOPD que o modelo de previsão de Palantir desenha. Tanto a Engel quanto a Corsaro desconheciam os esforços de policia de previsão de Nova Orleans, seu envolvimento com o Palantir, ou mesmo o fato de que o banco de dados que eles projetaram estava alimentando o programa. “Tentando prever quem vai fazer o que se baseia nos dados do ano passado é apenas cavalos”, disse Corsaro em uma entrevista.

Palantir às vezes referiu publicamente seu trabalho em Nova Orleans. No entanto, nenhuma das apresentações públicas de Palantir sobre o programa que a The Verge conseguiu identificar foi detalhada sobre previsão individualizada de crime, raspagem de dados de redes sociais ou uso de análises de redes sociais para a previsão do crime. Em vez disso, a empresa representou seu trabalho em Nova Orleans como “desenvolver uma melhor compreensão da propensão ao crime violento e projetar intervenções direcionadas para proteger as populações mais vulneráveis ​​da cidade”.

“TENTANDO PREVER QUEM VAI FAZER O QUE SE BASEIA NOS DADOS DO ANO PASSADO É APENAS CAVALOS”.

Em uma aparição de opinião pública, onde ele promoveu a eficácia de seu trabalho em Nova Orleans, Courtney Bowman, um engenheiro de liberdades civis de Palantir, fortemente envolvido com o trabalho da empresa com a NOPD, reconheceu que o segredo excessivo poderia aprofundar a fenda entre as forças policiais e as comunidades sobrecarregadas . Durante uma apresentação de 6 de maio de 2016 na conferência Data School School of Information da UC Berkeley, Bowman disse: “Esses tipos de programas só funcionam se a comunidade estiver confortável com o grau de aplicação desse tipo de informação e se eles estão conscientes de como a informação está sendo usada “.

A cidade de Nova Orleans e Palantir recusaram pedidos de comentários sobre como sua parceria foi formada e qual o tipo de insumos que outras autoridades eleitas e o público tiveram nos esforços de policia preditiva da empresa de mineração de dados.

Ronal Serpas, que dirigiu o NOPD quando a parceria com Palantir começou, disse que acreditava que o conselho da cidade e o público em geral deveriam ter sido informados sobre a decisão do departamento de polícia de se envolver em policiamento preditivo com a Palantir. O papel das legislaturas locais e dos órgãos de governo na supervisão da partilha de dados do governo está longe de ser resolvido, mas a Serpas acredita que os acordos com empresas como Palantir garantem maior escrutínio.

“É, para mim, algo que certamente exige uma visão, exige um visual”, disse Serpas.

Embora nem o pessoal de Palantir nem os atuais funcionários de Nova Orleans falassem sobre o funcionamento cotidiano da iniciativa de previsão do crime, os documentos obtidos pelo The Verge , estudos externos e as lembranças do ex-chefe Serpas oferecem um retrato de como o policiamento preditivo O teste beta funcionou nos últimos seis anos.

Um deck de slides para uma apresentação dos funcionários da cidade de Nova Orleans na conferência interna “HobbitCon” de Palantir em 2014 sobre o trabalho pro bono da empresa em Nova Orleans.

O modelo de previsão de Palantir em Nova Orleans usou uma técnica de inteligência chamada análise de rede social (ou SNA) para estabelecer conexões entre pessoas, lugares, carros, armas, endereços, postagens de redes sociais e outros índices em bancos de dados previamente infectados. Pense na análise como uma versão prática de uma pintura de Mark Lombardi que destaca conexões entre pessoas, lugares e eventos. Depois de inserir um termo de consulta – como uma placa de licença parcial, um apelido, um endereço, um número de telefone ou um assistente de mídia social ou pós-analista da NOPD, revisar as informações raspadas pelo software de Palantir e determinar quais indivíduos correm o maior risco de cometer violência ou tornando-se uma vítima, com base na sua conexão com vítimas ou agressores conhecidos.

Os dados sobre os indivíduos vieram de informações extraídas das mídias sociais, bem como bases de dados criminais da NOPD para balística, gangues, liberdade condicional e informações de liberdade condicional, telefonemas de jailhouse, solicitações de serviço, o sistema central de gerenciamento de casos (ou seja, todos os casos que a NOPD registrou) , e o repositório de cartões de entrevista de campo do departamento. O último banco de dados representa cada encontro documentado que a NOPD tem com os cidadãos, mesmo aqueles que não resultam em prisões. Em 2010, The Times-Picayune revelou que o Chefe Serpas tinha mandado que a coleção de cartões de entrevista de campo seja usada como uma medida de desempenho de oficiais e distritos, resultando em mais de 70.000 cartões de entrevista de campo preenchidos em 2011 e 2012. A prática se assemelhava ao programa de “parada e frisco” da NYPD e foi instituído com o propósito expresso de reunindo toda a inteligência sobre os novos Orleanianos possível, independentemente de ter cometido ou não um crime.

UMA PLACA DE LICENÇA PARCIAL, UM APELIDO, UM ENDEREÇO, UM NÚMERO DE TELEFONE, UMA MÍDIA SOCIAL
NOPD usou a lista de potenciais vítimas e perpetradores de violência gerados por Palantir para segmentar indivíduos para o programa CeaseFire da cidade. O CeaseFire é uma forma da estratégia de décadas de cenoura e de pau desenvolvida por David Kennedy, um professor do John Jay College, em Nova York. No programa, a aplicação da lei informa potenciais ofensores com antecedentes criminais de que eles sabem de suas ações passadas e as processará na medida máxima se re-ofendê-las. Se os sujeitos optarem por cooperar, eles são “convocados” para uma reunião necessária como parte de suas condições de liberdade condicional e liberdade condicional e são oferecidos treinamento profissional, educação, potencial colocação e serviços de saúde. Em Nova Orleans, o programa CeaseFire é executado sob o guarda-chuva mais amplo da NOLA For Life,

De acordo com a Serpas, a pessoa que inicialmente administrava análises de redes sociais de Nova Orleans de 2013 a 2015 foi Jeff Asher, ex-agente de inteligência que se juntou à NOPD da CIA. Se alguém tivesse sido baleado, Serpas explicou: Asher usaria o software Palantir para encontrar pessoas associadas a eles através de entrevistas de campo ou dados de redes sociais. “Esta análise de dados traz nomes e conexões entre pessoas em FIs [cartões de entrevista de campo], em paradas de trânsito, em vítimas de relatórios, denunciando vítimas de crimes juntos, seja qual for o caso. Esse tipo de informação é valiosa para quem está fazendo uma investigação “, disse Serpas.

De acordo com a documentação de Palantir , Asher e seus colegas realizaram análises de redes sociais de cada vítima de um tiroteio fatal ou não fatal em Nova Orleans de 2011 a 2013. Através desta técnica, que Asher apelidou de “O modelo NOLA”, a cidade desenvolveu uma lista de cerca de 3.900 pessoas que estavam no maior risco de se envolverem em violências armadas por causa de sua conexão com um atirador ou vítima anterior. “Nós podemos identificar 30-40% das vítimas de tiroteio”, afirmou Asher na conferência interna de Palantir em 2014. Asher recusou pedidos repetidos para uma entrevista.

“O MODELO NOLA”.

Teoricamente, a abordagem de Asher é substancialmente influenciada pela pesquisa de Andrew Papachristos, um professor de Yale que rastreou a violência como se fosse uma doença transmissível se espalhando por meio de redes de associação. No entanto, como seu trabalho foi citado como base acadêmica para modelos de previsão de crime empregados pela PredPol e pelo Departamento de Polícia de Chicago, Papachristos procurou distanciar sua pesquisa desses métodos.

Uma vez que a NOPD gerou sua lista de provadores e vítimas prováveis, o departamento de polícia e os prestadores de serviços sociais – do lado da “cenoura” da NOLA For Life – selecionariam pessoas que estavam presas ou supervisionadas no tribunal para uma “reunião de chamada”.

O gabinete do prefeito Landrieu apresentou o programa freqüentemente, referindo-se a ele como uma parte essencial da política de justiça criminal de Nova Orleans. Palantir também reivindicou crédito: “estamos ajudando a quebrar o ciclo da violência” em Nova Orleans, leia uma passagem no relatório de engenharia de filantropia 2015 da empresa . Mas o seu impacto real não está claro.

Das 308 pessoas que participaram de inscrições entre outubro de 2012 e março de 2017 , sete completaram treinamento profissional, nove completaram “experiência de trabalho remunerado”, nenhum terminou um diploma de ensino médio ou curso de GED, e 32 foram empregados em um momento ou outro através de referências. Cinquenta participantes foram detidos após o chamado, e dois já morreram.

Em contrapartida, a aplicação da lei perseguiu vigorosamente o fim do programa. A partir de novembro de 2012, quando a nova Unidade de Gangues Multi-Agências foi fundada, até março de 2014, as acusações de escrutínio aumentaram: 83 supostos membros de gangue em oito gangues foram indiciados no período de 16 meses, de acordo com uma apresentação interna de Palantir .

A CIDADE ELABOROU UMA LISTA DE CERCA DE 3.900 PESSOAS QUE CORREM O MAIOR RISCO DE SE ENVOLVEREM EM VIOLÊNCIA ARMADA

Call-ins declinou precipitadamente após os primeiros anos. De acordo com os registros da cidade, oito inscrições grupais ocorreram de 2012 a 2014, mas apenas três ocorreram nos três anos seguintes. Robert Goodman, nativo de Nova Orleans que se tornou um ativista da comunidade depois de completar uma pena de prisão por assassinato, trabalhou como “respondente” para o programa CeaseFire da cidade até agosto de 2016, desencorajando as pessoas de se engajarem em violência de retaliação. Ao longo do tempo, Goodman percebeu mais uma ênfase no componente “stick” do programa e mais controle sobre os aspectos não-punitivos do programa pela prefeitura que ele acredita prejudicou o trabalho de intervenção. “É suposto ser executado por pessoas como nós em vez de a cidade tentando nos ditar como essa coisa deveria parecer”, disse ele. “Enquanto eles não estão colocando recursos nos capuzes, nada vai mudar.

Após os dois primeiros anos de envolvimento de Palantir com a NOPD, a cidade viu uma queda marcada nos assassinatos e na violência armada, mas foi de curta duração . Mesmo o ex-chefe da NOPD, Serpas, acredita que o efeito preventivo da chamada em dezenas de indivíduos em risco – e acusando dezenas de eles – começou a diminuir.

“Quando acabamos com quase nove ou 10 acusações com cerca de 100 réus para violações federais ou estaduais de RICO de matar pessoas na comunidade, acho que temos muita atenção das pessoas nesse ambiente criminoso”, disse Serpas, referindo-se à acusações de escrutínio. “Mas com o tempo, deve ter desgastado porque antes de sair em agosto de 14, pudemos ver que as coisas começavam a deslizar”

Nick Corsaro, professor da Universidade de Cincinnati, que ajudou a construir o banco de dados de gangs da NOPD, também trabalhou em uma avaliação da estratégia CeaseFire de Nova Orleans. Ele descobriu que o declínio geral de homicídios de Nova Orleans coincidiu com a implementação do programa CeaseFire da cidade, mas os bairros da Central City visados ​​pelo programa “não apresentaram declínios estatisticamente significativos que correspondiam à data de início de novembro de 2012”.

Colocando claramente, o estudo não confirmou as reivindicações de Palantir e funcionários da cidade de que as intervenções baseadas em dados estavam por trás da suspensão temporária de crimes violentos.

“É EXATAMENTE ESSA FACETA DO MODELO DE LISTA DE” CALOR “DE CHICAGO QUE EXPÔS O CPD A UM GRANDE ESCRUTÍNIO PÚBLICO”.

Embora os call-ins tenham caído, os e-mails obtidos pela The Verge indicam que o NOPD continuou a usar o Palantir para a aplicação da lei. Palantir recusou pedidos repetidos de comentários, mas os e-mails também mostram que a empresa estava ciente dos riscos potenciais colocados pelos algoritmos de policiamento preditivo e da publicidade negativa que vem com eles. Em 23 de maio de 2016, a engenheira de liberdades civis de Palantir, Courtney Bowman, respondeu a um pedido do analista de crime da NOPD, Zach Donnini, sobre se Palantir poderia ajudar a gerar rankings numéricos para o risco dos indivíduos de se comprometer ou se tornar vítima de um tiroteio.

“Tenho algumas preocupações sérias sobre a instituição de uma abordagem de classificação ou classificação numérica”, escreveu Bowman . “É exatamente essa faceta do modelo de lista de” calor “de Chicago que expôs o CPD a um grande escrutínio público”, diz o e-mail, vinculando dois artigos criticando a abordagem policial preditiva de Chicago.

“A preocupação iminente é que um algoritmo de pontuação opaco substitui o verniz da certeza quantitativa por um julgamento mais holístico, qualitativo e culpabilidade humana”, escreveu Bowman. “Uma das virtudes duradouras do trabalho do SNA que fizemos até o momento é que mantivemos analistas humanos no caminho para garantir que as redes sejam exploradas e analisadas de uma maneira que passe o teste de” face direta “.

Independentemente da sustentabilidade da redução do assassinato de Nova Orleans, Palantir usou seu trabalho com a NOPD para solicitar grandes contratos com outras cidades americanas. Mais tarde, a empresa ganhou contratos lucrativos para programas preditivos com governos estrangeiros.

De acordo com os emails obtidos pela The Verge , a equipe de marketing da Palantir entrou em contato com o Departamento de Polícia de Chicago no final de 2013 sobre a possibilidade de vender um pacote de policia preditivo com base no trabalho da firma em Nova Orleans, eventualmente estabelecendo um preço de US $ 3 milhões. Através de uma série de bolsas federais concedidas ao CPD a partir de 2009, a polícia de Chicago e os acadêmicos do Instituto de Tecnologia de Illinois já criaram seu próprio programa de previsão de crimes que atribuiu uma pontuação de risco a indivíduos com base em dados criminais e histórias de mídia social.

Em 19 de agosto de 2014, Katie Laidlaw, executiva de marketing da Palantir, enviou uma mensagem ao comandante da polícia de Chicago, Jonathan Lewin. “Gostaria de acompanhar a conexão com o Superintendente McCarthy, especificamente para enquadrar o potencial envolvimento de Palantir em torno de nossos resultados comprovados em apoiar a redução de homicídios em Nova Orleans”, escreveu Laidlaw.

PALANTIR USOU SEU TRABALHO COM NOPD PARA SOLICITAR GRANDES CONTRATOS

Os e-mails também mostram que a Polícia de Chicago esperava receber dinheiro do Departamento de Segurança Interna para financiar a aquisição do software Palantir. No entanto, o Departamento de Polícia de Chicago nunca pilotou ou comprou o software Palantir.

O comandante Lewin, responsável pelo modelo de policia preditiva da lista de calor de Chicago e que estava no fim do campo de vendas de Katie Laidlaw para Palantir, disse em uma entrevista que estava ciente do trabalho de Palantir com outras agências de aplicação da lei, mas nunca aprovou uma execução de teste ou a compra do software Palantir.

Embora a Palantir não tenha conseguido vender suas ferramentas testadas no New Orleans para a Polícia de Chicago, a empresa de mineração de dados vendeu com sucesso produtos de previsão para serviços de segurança estrangeiros.

Em 2016, os serviços nacionais de polícia e inteligência assinaram um contrato de 84 meses com a Palantir – informou na imprensa dinamarquesa que valia entre US $ 14,8 e US $ 41,4 milhões – para um pacote de tecnologia preditiva destinado a identificar potenciais terroristas. De acordo com os documentos de aquisição, o programa usa dados de aplicação da lei, como registros de leitores de placas, vídeo CCTV e relatórios policiais para fazer previsões sobre a probabilidade de os indivíduos cometerem terrorismo. O legislador nacional da Dinamarca teve que dispensar uma isenção aos regulamentos de proteção de dados da União Européia para comprar o software de Palantir.

A DINAMARCA TEVE QUE DISPENSAR UMA ISENÇÃO AOS REGULAMENTOS DE PROTEÇÃO DE DADOS DA UNIÃO EUROPÉIA PARA COMPRAR O SOFTWARE DE PALANTIR

Antes do contrato de 2016 com a Dinamarca, o trabalho relatado pela Palantir Technologies com a aplicação da lei nunca mencionou as capacidades de previsão ou previsão.

No ano passado, o jornal liberal israelense Haaretz informou que os serviços de segurança de Israel usaram sistemas analíticos que rasparam as redes sociais e outros dados para prever potenciais atacantes “solitários” de comunidades palestinas na Cisjordânia e que Palantir era uma das duas únicas empresas de tecnologia para fornecer sistemas de inteligência preditiva às organizações de segurança israelenses. O projeto de Nova Orleans é a primeira instância relatada de Palantir usando dados de redes sociais como parte da análise da rede social da empresa.

“Não estou surpreso ao descobrir que as pessoas estão sendo detidas no exterior usando essa informação”, disse o presidente do conselho de Nova Orleans, Jason Williams, apontando as diferenças entre os sistemas legais de Israel e os Estados Unidos. “Minha preocupação é, o uso da tecnologia para contornar a Constituição – isso não é algo que eu gostaria de ver nos Estados Unidos”.

Em todo o país, cidades como Nova York estão pesando legislação sobre como supervisionar os algoritmos que as agências governamentais usam para tomar decisões. Esses debates ainda não começaram em Nova Orleans, onde a taxa de criminalidade intratável da cidade absorve grande parte do oxigênio no discurso público. No entanto, o segredo do relacionamento de Palantir com a NOPD levanta bandeiras vermelhas para observadores externos e faz perguntas sobre como os algoritmos da empresa estão sendo usados.

William Isaac, pesquisador do estado de Michigan, que analisou os sistemas de policiamento preditivo para o viés, disse que há muito suspeita de que Palantir se engajou em algum tipo de programa de previsão individual. “Eles apenas reconheceram publicamente até que ponto sua tecnologia é a deconflicção e visualização de dados”, disse Isaac.

Depois de ser percorrida a documentação do projeto Palantir em Nova Orleans, Isaac disse que o programa era notavelmente semelhante ao modelo individual de “lista de calor” de Chicago, que um estudo da RAND Corporation descobriu não teve impacto em crimes violentos e foi composto predominantemente de jovens afro-americanos e Homens latinos com extenso contato de aplicação da lei.

“AS MESMAS FALHAS QUE ESTAVAM NO PROGRAMA DE PREVISÃO DE CHICAGO SERÃO AMPLIFICADAS NO CONJUNTO DE DADOS DE NOVA ORLEANS”.

“Se você está tentando prever qualquer coisa, você precisa ter alguma representação no universo que você está tentando prever. Se você está tentando prever o crime, você precisa ter exemplos positivos e negativos para cada possível ofensa “, disse Isaac. Os departamentos da polícia tendem a ter bons dados sobre as comunidades onde estão presentes, mas poucos dados sobre comunidades onde eles não patrulham tão vigorosamente – que tendem a ser afluentes e brancos.

“As mesmas falhas que estavam no programa preditivo de Chicago serão amplificadas no conjunto de dados de Nova Orleans”, disse Isaac.

O segredo em torno do programa NOPD também levanta questões sobre se os arguidos receberam provas de que eles têm o direito de ver. Sarah St. Vincent, pesquisadora da Human Rights Watch, publicou recentemente uma investigação de 18 meses sobre a construção paralela ou a prática da aplicação da lei que esconde evidências recolhidas da atividade de vigilância. Em uma entrevista, St. Vincent disse que o acúmulo ou a análise de informações que impedem a aplicação da lei, como o trabalho de policiamento preditivo de Nova Orleans, efetivamente rótula os controles e contrapesos do sistema de justiça criminal. Na Conferência de vigilância de Cato Institute de 2017, em dezembro, St. Vincent levantou preocupações sobre o motivo pelo qual a informação obtida dos sistemas de policia preditiva não estava aparecendo em acusações ou queixas criminais.

“É o papel do juiz avaliar se o que o governo fez neste caso era legal”, disse St. Vincent sobre o programa de Nova Orleans. “Eu acho que os advogados de defesa deveriam se preocupar com o uso de programas que possam ser imprecisos, discriminatórios ou extraídos de dados inconstitucionais”.

Se a parceria de Palantir com New Orleans tivesse sido pública, as questões de legalidade, transparência e propriedade poderiam ter sido destruídas em um fórum público durante uma discussão informada com legisladores, policiais, a empresa e o público. Durante seis anos, isso nunca aconteceu.