A Sora AI, agora a melhor aplicação para iPhone, espalha mídia sintética, aumentando os temores de uso indevido de deepfake, apesar das medidas de segurança. Sora AI, now top iPhone app, spreads synthetic media, raising fears of deepfake misuse despite safety measures.

O gerador de vídeo Sora AI da OpenAI, agora o aplicativo iPhone mais baixado, está rapidamente espalhando mídia sintética, tornando os deepfakes de alta qualidade fáceis de criar e compartilhar, alertam especialistas. OpenAI’s Sora AI video generator, now the top downloaded iPhone app, is rapidly spreading synthetic media by making high-quality deepfakes easy to create and share, experts warn. Apesar de medidas de segurança como moderação de conteúdo e marcas d'água, os usuários estão ignorando os controles, levantando preocupações sobre o uso indevido de desinformação, propaganda e conteúdo não consensual. Despite safety measures like content moderation and watermarks, users are bypassing controls, raising concerns about misuse for disinformation, propaganda, and non-consensual content. A integração da ferramenta com algoritmos de mídia social amplifica seu alcance, desfocando realidade e ficção, enquanto a concorrência da indústria pode enfraquecer as salvaguardas. The tool’s integration with social media algorithms amplifies its reach, blurring reality and fiction, while industry competition may weaken safeguards. Embora a OpenAI prometa maior controle para os detentores de direitos e compartilhamento de receita, especialistas temem que os danos à confiança pública já possam ser irreversíveis. Although OpenAI promises greater control for rights holders and revenue sharing, experts fear the damage to public trust may already be irreversible.