Détectez et résolvez les problèmes de qualité vidéo en temps réel

Table of Contents

1. Introduction
2. Le Projet Auto Tech
3. La Plateforme Conveybar
4. L'Industrie du Streaming Vidéo
5. Problèmes dans les Pérégrinations de Streaming
   • 5.1. Exemple de Problème avec l'iPhone
   • 5.2. Scénario de Diffusion en Direct
6. La Nécessité d'un Système de Détection d'Anomalies
7. Fonctionnement du Système Alert
   • 7.1. Analyse des Séries Temporelles
   • 7.2. Détection des Anomalies
   • 7.3. Analyse de la Cause Racine
8. Algorithme de Détection des Anomalies
   • 8.1. Estimation de la Ligne de Base
   • 8.2. Calcul du Seuil de Tolérance
   • 8.3. Analyse de l'Étendue de l'Anomalie
9. Algorithme de Diagnostic des Anomalies
   • 9.1. Construction du Graphe de Diagnostic
   • 9.2. Détection des Anomalies dans le Graphe
   • 9.3. Identification de la Cause Racine
10. Implémentation Distribuée avec Spark
11. Performances et Résultats
12. Perspectives d'Amélioration
13. Conclusion

Introduction

Bienvenue à notre présentation! Je m'appelle Yen et voici mon collègue Ray. Nous faisons tous deux partie de l'équipe d'ingénierie chez Kanaeva. Aujourd'hui, nous allons parler d'un projet que nous avons développé chez Kuvira : l'Alerte Auto Tech Diagnostique. Ce système innovant permet de détecter et de diagnostiquer automatiquement les problèmes sur les flux vidéo en temps réel.

Le Projet Auto Tech

Auto Tech est un système qui vise à identifier les anomalies le long du pipeline de streaming vidéo sur Internet. Notre objectif est de diagnostiquer automatiquement la cause racine de ces problèmes afin de pouvoir les résoudre rapidement. Nous surveillons différents indicateurs de performance tels que les délais de transmission, les temps d'attente et la qualité vidéo. Grâce à des algorithmes sophistiqués, nous sommes en mesure d'optimiser l'expérience de visionnage des utilisateurs en réduisant les temps de chargement, les mises en mémoire tampon et les échecs de lecture.

La Plateforme Conveybar

Conveybar est la plateforme que nous avons développée pour soutenir notre projet Auto Tech. Cette plateforme nous permet de surveiller les flux vidéo, de calculer les indicateurs de performance et d'optimiser la qualité vidéo. Elle offre des fonctionnalités avancées telles que l'analyse des séries temporelles, la détection d'anomalies et l'analyse de la cause racine.

L'Industrie du Streaming Vidéo

Le streaming vidéo en ligne, également appelé OTT (Over-The-Top), connaît une croissance rapide ces dernières années. De nombreux éditeurs de contenus ont délaissé les méthodes traditionnelles de diffusion, telles que la télévision par câble, pour se concentrer sur le streaming en ligne. Selon une étude de Cisco, d'ici 2019, plus de 80% du trafic Internet mondial sera lié au streaming vidéo en ligne. Cette croissance exponentielle pose de nombreux défis aux acteurs de l'industrie, notamment en ce qui concerne la garantie d'une diffusion de qualité.

Problèmes dans les Pérégrinations de Streaming

Le pipeline de streaming vidéo est complexe et comprend de nombreux acteurs. Chaque entité peut rencontrer des problèmes techniques à tout moment. Par exemple, un bug dans le lecteur vidéo d'un iPhone peut entraîner des mises en mémoire tampon prolongées pour tous les utilisateurs utilisant cet appareil. De même, une défaillance d'un encodeur en amont peut entraîner l'arrêt de la diffusion sur un CDN, ce qui affecte tous les utilisateurs. Il est donc essentiel de pouvoir diagnostiquer rapidement la cause racine de ces problèmes.

Exemple de Problème avec l'iPhone

Prenons l'exemple d'un bug sur l'iPhone qui impacte la qualité du streaming. Ce bug peut affecter plusieurs flux provenant de différents CDN. Notre système doit être capable de détecter cette anomalie et d'identifier l'iPhone comme la cause racine du problème.

Scénario de Diffusion en Direct

Dans un contexte de diffusion en direct, où les utilisateurs peuvent choisir différents appareils pour regarder la vidéo, il est encore plus complexe de diagnostiquer les problèmes. Par exemple, si un encodeur en amont a un problème, cela peut entraîner l'échec de la diffusion sur un CDN spécifique. Dans ce cas, notre système doit être en mesure d'identifier l'encodeur comme la cause racine et non pas le CDN ou les appareils utilisés par les utilisateurs.

La Nécessité d'un Système de Détection d'Anomalies

Il est essentiel d'avoir un système capable de détecter en temps réel les problèmes de qualité sur les flux vidéo. En effet, la qualité de diffusion est un élément clé de l'engagement des utilisateurs. Des études ont montré qu'une augmentation de seulement 1% du taux de mise en mémoire tampon peut entraîner une baisse de 16 minutes du temps de visionnage et une augmentation de 58% du risque d'abandon. Il est donc crucial de prendre des actions rapides pour résoudre ces problèmes et garantir une expérience de visionnage optimale.

Fonctionnement du Système Alert

Alert est le système que nous avons développé pour répondre à ces besoins. Il utilise des techniques avancées d'analyse des séries temporelles pour détecter les anomalies de qualité et diagnostiquer automatiquement leur cause racine.

Analyse des Séries Temporelles

La première étape de notre système consiste à analyser les séries temporelles de chaque indicateur de performance. Nous construisons un historique des mesures de qualité et nous comparons les mesures actuelles avec les tendances passées. Cela nous permet de détecter les variations significatives qui pourraient indiquer un problème de qualité.

Détection des Anomalies

Une fois que nous avons construit les séries temporelles, nous utilisons un algorithme de détection des anomalies pour marquer les points où la qualité devient anormale. Cet algorithme est basé sur une estimation de la ligne de base de chaque indicateur de performance. Nous calculons ensuite un seuil de tolérance basé sur l'écart-type des mesures passées. Si une mesure dépasse ce seuil, elle est considérée comme une anomalie.

Analyse de la Cause Racine

L'étape suivante consiste à identifier la cause racine de chaque anomalie détectée. Pour cela, nous construisons un graphe de diagnostic qui représente les relations entre les différents groupes de sessions vidéo. En traversant ce graphe de manière récursive, nous pouvons remonter jusqu'à la cause racine de l'anomalie. Par exemple, si un groupe de sessions utilisant des iPhones présente une anomalie, nous remontons le graphe jusqu'à ce groupe pour identifier l'iPhone comme la cause racine.

Algorithme de Détection des Anomalies

Notre algorithme de détection des anomalies repose sur deux étapes clés : l'estimation de la ligne de base et le calcul du seuil de tolérance.

Estimation de la Ligne de Base

Pour estimer la ligne de base de chaque indicateur de performance, nous utilisons les mesures historiques. Nous calculons la moyenne des mesures passées pour obtenir une estimation de la performance normale à un instant donné.

Calcul du Seuil de Tolérance

Une fois que nous avons estimé la ligne de base, nous calculons un seuil de tolérance qui représente un certain nombre d'écart-types au-dessus de la ligne de base. Les mesures en dessous de ce seuil sont considérées comme normales, tandis que les mesures au-dessus du seuil sont marquées comme anormales. Le seuil de tolérance peut être ajusté en fonction des préférences de nos clients.

Analyse de l'Étendue de l'Anomalie

Pour évaluer l'impact d'une anomalie, nous calculons l'aire sous la courbe de chaque pic. Cette aire représente l'ampleur de l'anomalie et nous permet de classer les problèmes en fonction de leur gravité. Les anomalies avec une aire supérieure à un certain seuil sont considérées comme significatives et nécessitant une intervention.

Algorithme de Diagnostic des Anomalies

Une fois que nous avons détecté les anomalies, nous devons trouver la cause racine de chaque problème. Pour ce faire, nous utilisons un algorithme de diagnostic des anomalies qui se base sur le graphe de diagnostic que nous avons construit.

Construction du Graphe de Diagnostic

Le graphe de diagnostic représente les relations entre les différents groupes de sessions vidéo. Chaque groupe correspond à une entité du pipeline de streaming, telle qu'un CDN, un appareil ou un encodeur. Les liens entre les groupes indiquent les relations parent-enfant.

Détection des Anomalies dans le Graphe

Une fois que nous avons construit le graphe, nous exécutons l'algorithme de détection des anomalies pour chaque groupe. Cela nous permet de marquer les groupes qui présentent des anomalies.

Identification de la Cause Racine

En parcourant le graphe de manière récursive, nous identifions la cause racine de chaque anomalie. Nous remontons le graphe depuis les groupes marqués comme anormaux jusqu'à ce que nous trouvions un groupe dont tous les sous-groupes sont également marqués comme anormaux. Ce groupe est identifié comme la cause racine de l'anomalie.

Implémentation Distribuée avec Spark

Notre système est conçu pour fonctionner à grande échelle, en supportant jusqu'à 25 éditeurs de vidéos et des millions de sessions par minute. Pour cela, nous utilisons le framework Spark pour le traitement distribué des données.

Performances et Résultats

Dans notre mise en production, nous avons réussi à identifier avec succès une défaillance d'un CDN en temps réel. Grâce à notre système de détection d'anomalies, nous avons pu détecter un pic anormal dans les séries temporelles des sessions vidéo et trouver la cause racine du problème. Les performances de notre système sont satisfaisantes, avec un temps d'exécution moyen de 45 secondes par minute.

Perspectives d'Amélioration

Bien que notre système soit déjà opérationnel, nous avons encore des perspectives d'amélioration. Nous souhaitons mettre en place un processus d'évaluation plus approfondi pour mesurer l'exactitude de la détection et du diagnostic des anomalies. Nous devons également optimiser le traitement en temps réel et la latence de notre système pour répondre aux exigences de nos clients.

Conclusion

En conclusion, notre système Alert est capable de détecter et de diagnostiquer automatiquement les problèmes de qualité sur les flux vidéo en temps réel. Grâce à son fonctionnement basé sur l'analyse des séries temporelles et l'identification de la cause racine, notre système permet d'intervenir rapidement pour résoudre les problèmes de qualité et d'optimiser l'engagement des utilisateurs.