O software TorchPass do Clockwork.io evita falhas no treinamento de IA ao permitir a migração ao vivo da GPU, economizando milhões anualmente em grandes clusters de IA. Clockwork.io's TorchPass software prevents AI training crashes by enabling live GPU migration, saving millions annually in large AI clusters.

O Clockwork.io lançou o TorchPass, uma solução de software que permite a migração ao vivo da GPU e tolerância a falhas em grandes clusters de treinamento de IA, evitando reinicializações caras durante falhas de hardware, problemas de rede ou erros de driver. Clockwork.io has launched TorchPass, a software solution that enables live GPU migration and fault tolerance in large AI training clusters, preventing costly restarts during hardware failures, network issues, or driver bugs. O sistema mantém a continuidade do treinamento sem checkpointing, suporta failover reativo, proativo e baseado em manutenção, e pode economizar mais de US $ 6 milhões por ano em uma configuração de 2.048-GPU. The system maintains training continuity without checkpointing, supports reactive, proactive, and maintenance-based failover, and can save over $6 million annually in a 2,048-GPU setup. medida que as taxas de falha aumentam em clusters maciços – deixando cair o tempo médio para o fracasso de apenas 1,8 horas em um sistema de 16.384 GPU – o TorchPass melhora a confiabilidade, a utilização da GPU e a eficiência do treinamento do modelo. As failure rates rise in massive clusters—dropping mean time to failure to just 1.8 hours in a 16,384-GPU system—TorchPass improves reliability, GPU utilization, and model training efficiency. Os primeiros adotantes relatam melhor desempenho de throughput, resiliência e acordo de nível de serviço, oferecendo uma correção orientada por software para uma grande barreira de custo na infraestrutura de IA. Early adopters report enhanced throughput, resilience, and service-level agreement performance, offering a software-driven fix to a major cost barrier in AI infrastructure.