O professor Carnegie Zico Kolter, da Carnegie Mellon, lidera o comitê de segurança da OpenAI, que pode interromper as liberações de IA para garantir a segurança durante sua transição para uma entidade com fins lucrativos. Zico Kolter, a Carnegie Mellon professor, leads OpenAI’s safety committee, which can halt AI releases to ensure safety during its transition to a for-profit entity.

Zico Kolter, professor de ciência da computação da Universidade Carnegie Mellon, de 42 anos, lidera o Comitê de Segurança e Segurança da OpenAI, um painel de quatro membros com o poder de deter as liberações de IA consideradas inseguras. Zico Kolter, a 42-year-old computer science professor at Carnegie Mellon University, leads OpenAI’s Safety and Security Committee, a four-member panel with the power to halt AI releases deemed unsafe. Nomeado há mais de um ano, seu papel tornou-se um requisito fundamental para a transição da OpenAI para 2025 em uma corporação de benefício público com fins lucrativos, mandatada por reguladores da Califórnia e Delaware. Appointed over a year ago, his role became a key requirement for OpenAI’s 2025 transition into a for-profit public benefit corporation, mandated by California and Delaware regulators. Os acordos garantem que as decisões de segurança tenham precedência sobre os objetivos financeiros, concedendo a Kolter direitos de observação completos para reuniões de conselho com fins lucrativos e acesso a dados de segurança. The agreements ensure safety decisions take precedence over financial goals, granting Kolter full observation rights to for-profit board meetings and access to safety data. O comitê aborda riscos, incluindo o uso indevido de IA no desenvolvimento de armas, ataques cibernéticos e danos à saúde mental. The committee addresses risks including AI misuse in weapons development, cyberattacks, and mental health harm. Kolter se recusou a confirmar se o painel já bloqueou um lançamento, mas enfatizou o crescente cenário de ameaças da IA avançada. While Kolter declined to confirm if the panel has ever blocked a release, he emphasized the growing threat landscape of advanced AI. Sua liderança reflete um escrutínio elevado à medida que a OpenAI navega sua mudança de missão sem fins lucrativos para empresa comercial. His leadership reflects heightened scrutiny as OpenAI navigates its shift from nonprofit mission to commercial enterprise.