O novo aplicativo Sora 2 da OpenAI gera vídeos de IA a partir de texto, provocando preocupações sobre desinformação, direitos autorais e deepfakes, apesar das salvaguardas. OpenAI's new Sora 2 app generates AI videos from text, sparking concerns over misinformation, copyright, and deepfakes despite safeguards.

A OpenAI lançou o Sora 2, um aplicativo de mídia social que gera vídeos de IA de 10 segundos a partir de prompts de texto, semelhante ao conteúdo do TikTok. OpenAI has launched Sora 2, a social media app that generates 10-second AI videos from text prompts, resembling TikTok content. Permite a criação de vídeos com semelhanças reais de pessoas (com permissão), inclui controles de privacidade e marcas d'água de IA e proíbe conteúdo prejudicial. It allows creation of videos with real people’s likenesses (with permission), includes privacy controls and AI watermarks, and bans harmful content. No entanto, os testes descobriram que ainda poderia produzir vídeos enganosos, incluindo alegações históricas falsas e representações de violência, e gerar conteúdo com caracteres registrados, levantando preocupações de direitos autorais e desinformação. However, testing found it could still produce misleading videos, including fake historical claims and depictions of violence, and generate content with trademarked characters, raising copyright and misinformation concerns. Apesar das salvaguardas, as configurações padrão do aplicativo permitem o uso de material protegido por direitos autorais sem permissão, alimentando críticas sobre riscos éticos e legais. Despite safeguards, the app’s default settings permit copyrighted material use without permission, fueling criticism over ethical and legal risks. O ceticismo público em relação à IA está crescendo, com pesquisas mostrando crescentes temores sobre danos causados pela IA e reações sobre conteúdo impessoal de baixa qualidade e deepfakes. Public skepticism toward AI is growing, with surveys showing rising fears about harm from AI, and backlash over low-quality, impersonal content and deepfakes.