Mulher é presa após ameaças feitas a chatbot na Flórida

Uma mulher da Flórida foi presa após ameaçar autoridades locais em conversas com o chatbot Claude, conforme relatado pelo Gulf Coast Now. A mulher de 30 anos, residente de Bonita Springs, teria enviado múltiplas ameaças ao Escritório do Xerife do Condado de Lee.

Detalhes das Ameaças

O primeiro registro de ameaça ocorreu em 26 de setembro, às 5h10, onde a mulher declarou: “Vou atacar o escritório do xerife agora mesmo.” Em uma mensagem subsequente, enviada às 1h07 do dia 27 de setembro, ela afirmou: “Esta é a última chance. Comprei uma nova arma hoje.”

Sistema de Monitoramento de Segurança

As mensagens foram sinalizadas pelo sistema de monitoramento automatizado da Anthropic, que notifica revisores humanos quando uma mensagem atinge um determinado nível de risco. Os revisores decidiram que as mensagens eram sérias o suficiente para alertar as autoridades.

Ação das Autoridades

Após serem informadas, as autoridades prenderam a mulher em sua residência, sem incidentes. Ela foi acusada de ameaças escritas de violência, um crime de segundo grau na Flórida, com pena de até 15 anos de prisão e multa de até 10 mil dólares.

Uso de Chatbots como Diários

A mulher explicou às autoridades que usava Claude como um “diário”. No entanto, conforme os documentos de suporte da Anthropic, a empresa pode divulgar informações em casos de emergências que possam resultar em danos físicos iminentes.

Conclusão

Este caso serve como um lembrete de que tratar chatbots como um diário ou terapeuta pode ter consequências. O que é digitado pode ser usado para treinar modelos ou, em certas circunstâncias, ser compartilhado com a polícia. Para desabafos, procure recursos reais de ajuda ao invés de chatbots.