Etre des millions a regarder The Mandalorian simultanement : une prouesse rendue possible par les CDN

Nobori Partners est une start-up de conseil et d’edition logicielle specialisee dans les projets cloud public et la data.

Dans cet environnement en pleine croissance, nous sommes amenes a devoir constamment apprendre et monter en competence sur de nouvelles technologies, services et pratiques pour servir au mieux nos clients.

Afin de rendre ce secteur plus accessible, et de partager nos connaissances au plus grand nombre, nous avons decide de publier des series d’articles retracant les expertises et convictions acquises au fil de nos missions.

Voici le premier article de la serie CDN : comment un streamer musical peut-il en tirer parti ?, qui examine et detaille le fonctionnement des Content Delivery Networks, pierres angulaires d’Internet, encore meconnus du grand public.

Etre des millions a regarder The Mandalorian simultanement : une prouesse rendue possible par les CDN

Premiere de The Mandalorian, lancement du dernier Iphone, Black Friday… : ces evenements Internet generent un trafic enorme et soudain. Alors comment font les sites pour ne pas … planter ? Ils passent par un CDN, un Content Delivery Network [1]! Ils permettent a votre page de charger tres vite, meme si vous etes des milliers d’utilisateurs, sur le meme site, au meme moment.

Peu connus du grand public, ils sont omnipresents dans la vie Internet quotidienne et jalonnent la plupart des requetes : la serie Disney+ du dimanche soir, les achats de Noel sur Amazon, les sessions musiques sur Spotify…

Depuis leur creation dans les annees 1990, leur utilisation n’a cesse d’augmenter avec la croissance du numerique. Le besoin en CDN s’est accru avec la crise sanitaire, ses confinements, et la consommation de contenus (video, streaming et reseaux sociaux) arrivee a son paroxysme : il a fallu livrer de plus en plus de contenus, a une audience grandissante.

En France, le trafic a presque double entre fin 2019 et fin 2020 [2]! Au debut de la crise sanitaire “les capacites d’interconnexions avec les CDN se sont remplies de maniere extremement rapide. Sur certaines, nous etions montes a plus de 90 % d’utilisation”[3] soulignait alors Jean-Luc Vuillemin, directeur des Reseaux et Services internationaux d’Orange. La saturation des reseaux etait telle, que le lancement de Disney+ en France a ete retarde [4], de peur que cela n’entraine un engorgement total.

Je comprends la deception des fans de Disney mais en ce moment se donner un peu plus de temps pour bien mesurer tous ensemble les consequences de ce lancement sur les reseaux, c’est aussi une question de bon sens

— Jean-Luc Vuillemin (@jlvuillemin) March 21, 2020

Les CDN se sont alors averes incontournables. Un operateur de CDN comme Fastly a vu sa capitalisation boursiere tripler depuis mars 2020 [5]. Ils sont progressivement devenus des centres nevralgiques d’Internet, et continuent d’avoir le vent en poupe.

Mais qu’est-ce qui les rend aussi indispensables et pourquoi ?

Pierre angulaire a la diffusion de contenus sur Internet, un CDN est constitue d’un ensemble de serveurs (ordinateurs) mis en reseau via Internet. Cet ensemble de serveurs repond a un besoin concret : reduire le temps de chargement d’un contenu (temps de latence), induit par la distance physique entre l’utilisateur et le serveur du site d’origine. Pour cela, ses serveurs vont etre disposes partout dans le monde, de maniere a etre au plus pres des utilisateurs. Ainsi le CDN va pouvoir livrer rapidement le contenu aux utilisateurs, ou qu’ils soient.

Un CDN en chiffres, ca donne quoi ?

Akamai par exemple, un des plus grands operateurs CDN, a installe environ 325 000 serveurs repartis dans plus de 135 pays, deployes sur presque 1 435 reseaux a travers le monde [6].

Le marche est partage par plusieurs operateurs de CDN, comme Akamai. A ces derniers s’ajoutent les reseaux proposes par les operateurs telecoms, et les entreprises comme Netflix, qui ont developpe leur propre CDN.

Comment les CDN fonctionnent-ils ?

Le CDN va copier les contenus du serveur d’origine (“l’origine”) sur ses propres serveurs, disposes a travers le monde. C’est ce qu’on appelle les Points de Presence (Pop). Lorsqu’un utilisateur fait une requete, le reseau va le connecter au Pop le plus proche, et non a l’origine — situee potentiellement a l’autre bout du monde. La duree de transmission du contenu est donc plus courte, et le service plus rapide.

La mise en cache des contenus, c’est-a-dire leur stockage ephemere sur les serveurs du CDN, se fait selon quelques principes :

• La copie d’un contenu se fait lors de la premiere requete de ce contenu. Une fois que le Pop a l’information “en stock”, il n’a plus besoin de retourner a l’origine ;
• Seuls les contenus statiques sont stockes sur les Pop, c’est-a-dire les contenus qui ne changent pas (image, video, fichiers JavaScript etc.) ;

Et quand vous cliquez pour acceder a votre serie, comment ca se passe ?

Prenons l’exemple de Marion :

Zoom sur la duree de cache :

La duree de cache, dite duree de vie, d’un contenu est configure par l’utilisateur (le client) du CDN.

> Duree de vie trop longue, quelle consequence ?

Si le contenu a une duree de cache trop longue, et qu’il est modifie a l’origine, son actualisation sur le Pop ne se fera qu’une fois la duree de cache expiree — soit tardivement apres la modification a l’origine.

> Duree de vie trop courte, quelle consequence ?

Le CDN va sur-solliciter l’origine de maniere impromptue pour verifier la coherence du contenu cache. Le CDN va donc perdre de son interet.

Zoom sur la cle de cache :

A chaque objet est associee une cle de cache unique, qui permet d’identifier le fichier. Cette cle unique va optimiser les performances du cache en evitant de delivrer un contenu incoherent et de stocker des doublons.

Si un objet, comme une image, existe en plusieurs tailles ou qualites, alors cette caracteristique devra apparaitre dans la cle de cache. Il y aura ainsi une cle de cache par qualite/taille de l’image.

Le CDN permet ainsi une meilleure experience utilisateur

Qui dit meilleure experience utilisateur, dit meilleurs taux de conversion et de fidelite. On comprend pourquoi les CDN sont si utiles aux entreprises. Mais ce ne sont pas la leurs seules vertus. Leur preponderance accrue est egalement due aux autres avantages qu’ils presentent :

1. Un CDN va soulager les serveurs du site d’origine et augmenter la disponibilite des contenus.

Lors d’operations commerciales comme le Black Friday ou lorsqu’une chanteuse comme Adele vend des milliers de places de concert en quelques minutes, les requetes sont massives et simultanees, et les serveurs tres sollicites. Dans ce genre de cas, le CDN permet aux services de tenir la charge.

Grace a son fonctionnement en reseau, le CDN va “distribuer” les requetes a ses differents serveurs, et ponderer le trafic. De cette facon, le CDN ne va pas etre submerge.

En absorbant cette charge soudaine, il sert de tampon entre les requetes et l’origine. L’origine peut ainsi monter en charge progressivement, et livrer ses contenus correctement.

Bonus : cela permet a l’origine d’etre “disponible” pour gerer les requetes auxquelles le CDN ne peut repondre, comme la livraison de contenus dynamiques. Lors de la vente de places de concert par exemple, la localisation des places disponibles — contenus dynamiques — sont uniquement livres par l’origine.

2. Un CDN reduit la bande passante, et son cout !

Avec la mise en cache de ses contenus sur le CDN, la quantite de donnees fournies par l’origine reduit. Cette baisse entraine la diminution de sa consommation en bande passante, et de ses couts d’hebergement.

Bonus : cela soulage internet en general et tout le monde en beneficie.

• Les fournisseurs de contenus livrent plus rapidement, et a moindre cout.
• Les utilisateurs finaux peuvent acceder aux contenus plus rapidement.
• Les Fournisseurs d’Acces a Internet (FAI) doivent fournir moins de bande passante. En effet, si les FAI devaient gerer des surplus de bande passante, le prix se repercuterait sur les clients.

3. Un CDN apporte de la securite grace a son fonctionnement “on edge”, en bordure.

Cela signifie qu’il se situe entre le systeme d’information (la ou il y a les donnees), et les requetes qu’on va lui adresser. Grace a cette configuration, il va servir de barriere, et bloquer les attaques avant qu’elles n’entrent dans le systeme d’information.

Exemple : Dans le cas d’une attaque de deni de service distribue (DDoS) (quand on submerge un site de requetes afin de perturber son trafic), le CDN ne va pas faire suivre les requetes, ni les faire entrer dans le systeme. De cette facon, le systeme est protege.

Bonus : en filtrant des l’entree les requetes legitimes, le CDN va pouvoir optimiser le nombre de serveurs mis a contribution.

Tous ces avantages rendent essentielle l’utilisation de CDN.

Les sites utilisateurs en deviennent totalement tributaires pour assurer leur fonctionnement. La panne du 8 juin 2021 de Fastly en atteste. Les sites diffuses par ce CDN, comme celui du gouvernement britannique, de la Maison Blanche ou du Monde, ont ete rendus indisponibles pendant plus d’une heure. Cela peut etre pallie par l’utilisation de plusieurs CDN, comme le fait Disney+, afin de passer par un autre reseau en cas de probleme.

Les CDN presentent certaines limites techniques. Le CDN est un service mutualise. Il va devoir mettre en cache les contenus de l’ensemble de ses clients : or sa capacite de cache est limitee. Si le volume de contenus devient trop important, le CDN privilegiera le stockage des contenus les plus demandes, en depit de la duree de cache prevue des autres contenus.

Resultat : la reelle duree de cache des objets sur le CDN peut difficilement etre optimisee et le client aura peu de maitrise dessus.

Cette limite technique peut etre attenuee par des architectures adaptees avec un niveau de cache supplementaire ou un stockage dedie, comme on le verra dans le prochain article, avec l’exemple d’un streamer musical.

Malgre certaines limites, le contexte actuel laisse presager une evolution croissante des CDN. Le trafic provenant des CDN devrait augmenter pour atteindre 72% du trafic total d’internet en 2022 selon Cisco [8].

Dans cet environnement exigeant en forte croissance, Nobori Partners peut vous accompagner dans l’optimisation, ou la mise en place d’un CDN, et vous conseiller afin de repondre a vos besoins specifiques.

Pour aller plus loin

• Découvrez notre expertise Platform Engineering pour des architectures de diffusion performantes
• Consultez notre expertise Architecture pour concevoir des infrastructures scalables

Références

1. Wikipedia, Content Delivery Network — fr.wikipedia.org
2. Arcep, Rapport sur l’etat d’internet en France 2021 — arcep.fr
3. ZDNet, Interview de Jean-Luc Vuillemin, Orange — zdnet.fr
4. Numerama, Lancement de Disney+ retarde en France — numerama.com
5. Fastly, Capitalisation boursiere — fastly.com
6. Akamai, Facts & Figures — akamai.com
7. Illustration Nobori Partners
8. Cisco, Annual Internet Report 2018-2023 — cisco.com
9. Cloudflare, What is a CDN? | How do CDNs work? — cloudflare.com
10. Fastly, Video Streaming and CDN Performance — fastly.com
11. Mozilla Developer Network, HTTP Caching — developer.mozilla.org