A startup ThroughLine detecta e redireciona usuários do ChatGPT que mostram sinais de extremismo violento para recursos de desradicalização. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

Uma startup da Nova Zelândia, ThroughLine, está desenvolvendo uma ferramenta para detectar e redirecionar usuários de chatbots como o ChatGPT que mostram sinais de extremismo violento em direção a recursos humanos e de desradicalização apoiados por IA. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Apoiada pela OpenAI, Google e Anthropic, a iniciativa visa conectar usuários em risco com linhas de ajuda do mundo real e suporte especializado ao invés de bloqueá-los, abordando preocupações de que uma moderação agressiva possa empurrar extremistas para plataformas não regulamentadas. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. O projeto está em fase inicial sem data de lançamento definida. The project is in early stages with no release date set.