A OpenAI lança um novo programa Safety Bug Bounty para identificar os riscos de abuso da IA. OpenAI launches new Safety Bug Bounty program to identify AI abuse risks.

A OpenAI lançou um novo programa Safety Bug Bounty para identificar riscos de abuso da IA, complementando seu programa de segurança existente. OpenAI has launched a new Safety Bug Bounty program to identify AI abuse risks, complementing its existing security program. A iniciativa se concentra em questões como o sequestro de agentes de IA para danos, expondo informações proprietárias e contornando controles anti-automação. The initiative focuses on issues like hijacking AI agents for harm, exposing proprietary information, and bypassing anti-automation controls. Os investigadores podem ganhar recompensas por descobertas acionáveis, embora as omissões gerais da política de conteúdo sejam excluídas, salvo se causarem danos diretos. Researchers can earn rewards for actionable findings, though general content-policy bypasses are excluded unless they cause direct harm.