Durante el ultimo ano, las edge functions se convirtieron en la pieza central de como nuestros clientes construyen experiencias dinamicas cerca del usuario. Pero teniamos un problema persistente: el arranque en frio.
Un cold start de 80 milisegundos no parece mucho, pero cuando ocurre en el percentil 99 de peticiones reales, es la diferencia entre una experiencia instantanea y una que se siente lenta. Nos propusimos llegar a menos de 5ms.
La clave estuvo en abandonar el modelo de contenedor por funcion y migrar a un pool de isolates pre-calentados que comparten un runtime comun. Cada isolate arranca en microsegundos y se recicla de forma segura entre invocaciones.
Tambien reescribimos el cargador de modulos para hacer streaming del bytecode mientras se compila, en lugar de esperar a tener todo el bundle en memoria. El resultado: el codigo empieza a ejecutarse antes de terminar de descargarse.
En produccion, esto se traduce en un p99 de cold start de 4.2ms a traves de las 38 regiones. Las funciones que antes necesitaban warming artificial ahora simplemente funcionan. Edge Functions v2.5 ya esta disponible para todos los planes Pro y Enterprise.