A Cloudflare anunciou o Origin Range Requests, um recurso que muda a forma como seu cache atende a pedidos de partes de arquivos grandes. Um exemplo: quando um player de vídeo pula para o meio de um filme, ele pede só alguns megabytes, mas o sistema antigo podia buscar 128 MiB na origem e transportá-los entre data centers, às vezes depois de o espectador já ter saído.

As chamadas requisições de intervalo (range requests) permitem pegar só um trecho de um arquivo. Elas são usadas por players de vídeo, gerenciadores de download que retomam downloads interrompidos e gerenciadores de pacotes. Segundo a empresa, o cache antigo, que usava um tamanho de bloco configurado por cliente, gerava desperdício de banda e de operações de disco, além de problemas de travamento entre requisições simultâneas.

A solução foi reconstruir o cache para armazenar os arquivos em blocos de tamanho fixo, aproveitando um recurso que o novo servidor de cache Pingora já usava. Assim, o próprio bloco passa a ser a unidade de busca, e o cliente não precisa ajustar nenhum tamanho. Quando faltam bytes no cache, a Cloudflare busca na origem os blocos alinhados e devolve ao cliente apenas o trecho pedido. Ainda há custo extra em alguns casos, mas ele fica limitado e previsível.

Segundo a empresa, no R2, seu serviço de armazenamento de objetos, o tempo até o primeiro byte no percentil 99 caiu cerca de pela metade, e uma melhoria posterior reduziu em cerca de 6% o tráfego de cache em camadas para o R2 e cargas parecidas.

O recurso está disponível para todos os planos, sem necessidade de falar com o suporte. Para ativar, basta criar uma Cache Rule que selecione o tráfego de arquivos grandes e definir Origin Range Requests como ativo, pelo painel em Caching > Cache Rules ou pela API. A Cloudflare afirma que pretende torná-lo o padrão para certos tipos de arquivo, com possibilidade de ajuste por regras de cache.

Vale lembrar que o recurso não torna cacheável uma resposta que não era cacheável antes, e a origem precisa suportar requisições por intervalo de bytes para que a melhoria funcione. Para quem opera sites com arquivos grandes, a notícia é técnica e voltada a administradores e engenheiros de infraestrutura.