A Cloudflare publicou hoje, 26 de outubro, um relatório sobre um problema no modelo de IA GLM-5.3, disponível na plataforma Workers AI. Entre 27 de agosto e 9 de setembro de 2026, algumas respostas dadas a clientes continham dados de pedidos feitos ao mesmo modelo por outros clientes, pouco antes deles. Ao todo, 155 respostas foram afetadas, todas para textos com mais de 681.280 tokens, que são as unidades em que os modelos de IA leem e escrevem texto.

O problema foi descoberto em 8 de setembro pelo pesquisador Gadi Evron, da Knostic, que informou a empresa pelo programa de recompensas HackerOne. A Cloudflare tirou o modelo do ar em até 40 minutos depois de declarar incidente, corrigiu a configuração e o motor de inferência, e restaurou o serviço em 9 de setembro. Segundo a empresa, nenhum outro modelo da plataforma foi afetado, e não há evidência de que alguém tenha explorado a falha de propósito.

A causa tem duas partes. A primeira foi uma configuração errada do SGLang, um motor de código aberto que roda os modelos. A memória reservada para guardar o 'cache KV', uma espécie de caderno de anotações que o modelo usa enquanto lê o texto, comportava 681.280 tokens, mas o modelo aceitava até 1.048.576. A segunda foi um bug no SGLang: quando um pedido era grande demais, ele era marcado como recusado e substituído por um texto de um único token, mas o sistema não cancelava o pedido e acabava lendo páginas de memória que ainda tinham conteúdo de conversas anteriores. Uma comparação simples: é como um hotel que aluga um quarto sem trocar os lençóis, e o hóspede novo acaba dormindo com as coisas do anterior.

A correção aumentou a memória reservada para cerca de 2,04 milhões de tokens, o dobro do limite do modelo, e o SGLang foi ajustado para recusar esses pedidos com erro antes de qualquer leitura de memória. A Cloudflare afirma que o bug já aparecia na issue #30233 do SGLang, aberta em 6 de julho de 2026 por outro usuário. As correções saíram na versão 0.5.20 e foram completadas nas versões 0.5.21 e 0.5.22. A recomendação da empresa é que todos os operadores que usam SGLang atualizem para a versão 0.5.22 ou posterior.

Para quem usa aplicações de IA, o recado principal é que o caso ilustra como erros de configuração e de gerenciamento de memória podem vazar informações entre usuários sem gerar nenhum alerta. A Cloudflare diz que está trabalhando com a equipe do SGLang para criar verificações de propriedade das páginas de memória e formalizar a segurança do protocolo de transferência, mas essas melhorias ainda estão em desenvolvimento.

Quem opera o SGLang em configuração disaggregated deve atualizar para a versão 0.5.22 ou aplicar as correções manualmente. Para os demais usuários, não há ação prática indicada na fonte além de seguir as orientações oficiais dos provedores de serviço.