« Retour

Saga de l'audiovisuel - Et l'automatisation alors ?

Saga de l'audiovisuel

Pourquoi automatiser ?

Bienvenue à nouveau dans le monde de l'audiovisuel. Nous avons évoqué les enjeux du test en télévision numérique, ainsi que les différents types de test et leur protocoles. Abordons maintenant le sujet de l'automatisation.

Les pauvres testeurs ! On trouvait ça cool nous, d'être payé à regarder la télé derrière son bureau, mais en fait c'est dur comme boulot !

Exactement, c'est pas tous les jours facile la vie de testeur dans l'audiovisuel, beaucoup de tâches répétitives, j'appuie sur la touche menu, j'observe, je mesure, et à la longue, la concentration diminue, et le risque d'erreur, de passer à côté d'une anomalie augmente.

D'autre part, durant les longues phases de test d'endurance, le testeur connaît l'état de son décodeur au lancement du test, puis à l'issue du test, mais comment savoir s'il n'y a pas eu d'erreur pendant le test, un redémarrage imprévu après lequel la set top box s'est remise sur pied d'elle même, des problèmes de qualité audio/video, un message d'erreur temporaire,...

Certains problèmes, comme un redémarrage du décodeur, peuvent-être détectés en "instrumentant" un décodeur en test, c'est-à-dire, en récupérant les logs ou traces de l'application, mais cette solution a le défaut d'influer sur les performance du décodeur, et ne reproduit pas fidèlement le comportement d'un décodeur sur le terrain qui eux sont configurés pour ne plus produire de logs.

Robots de test

Oyez, testeurs, vous n'êtes pas seuls. Quelques sociétés du secteur informatique et télécommunication, Sopra, S3 TV Technology (racheté par Accenture), ou encore Witbe on mis au point des solutions d'automatisation des test pour la télévision numérique.

Le rôle de ces équipements, ou robots de test, est de reproduire les actions d'un utilisateur réel et d'analyser les comportements du matériel testé.

Pour ce faire, un robot possède des "mains", ou plutôt un émetteur infrarouge (ou bluetooth ou RF) contrôlable avec lequel il peut envoyer des commande au décodeur. Il possède également des "yeux", une carte d'acquisition vidéo lui permettant de visualiser la sortie vidéo du décodeur, des "oreilles", une carte d'acquisition audio pour récupérer la sortie audio, et pour gérer tout ça, un cerveau rapide et puissant, composé d'un processeur, de beaucoup de mémoire vive et d'algorithmes complexes lui permettant par exemple :

  • De reconnaître des images spécifiques : message d'erreur, mogo de démarrage, bannière information, ou toute autre image fixe pouvant être vue par un humain
  • De reconnaître des caractères (OCR) : numéro de chaîne, nom du programme en cours
  • De mesurer le volume audio et inversement de détecter une absence de son ou un niveau anormal
  • De détecter une image figée non prévue
  • De détecter un écran noir

Voici un schéma explicatif d'un environnement de test automatisé au moyen d'un robot de test :

 

La combinaison de toutes les fonctionnalités décrites ci-dessus, offre aux robot de test, la possibilité d'effectuer des tâches répétives et complexes de navigation, de reconnaissance des menus affichés, des mesures précises des temps de zapping ou encore de démarrage.

Les robots n'ont pas besoin de sommeil, ainsi, il peuvent observer, détecter et enregistrer toutes les anomalies survenant jour et nuit ce qui, comme nous l'avons vu précédemment peut s'avérer très utile lors des tests d'endurance.

Les robots possèdent également des capacités d'analyse de la qualité audio/vidéo (QoE pour Quality of Experience). Ils sont notamment capables de détecter des "artefacts", qui sont des défauts de qualité comme la présence de courts écrans noirs, ou encore de macroblocs (présence de carrés anormaux sur l'image, comme quand vous regardez un film en streaming et que soudain, votre débit internet diminue, vous entendez alors des bruits étranges, les glitchs audio, et votre image se dégrade, devient, rouge, verte, violette avec pleins de carrés, comme si l'image se pixelisait.

Enfin, les capacités de reconnaissance d'image des robots permettent également de faire de la supervision afin de connaitre en temps réel la disponibilité des services vidéo (QoS pour Quality of Services) délivrés. Ce sujet s'écarte de la pure problématique qualité d'un décodeur numérique, et touche à la diffusion des programme vidéos (broadcasting). Nous y reviendrons sûrement dans un autre article.

Hommes de test

Ah on est rassurés, on ne leur demande pas d'appuyer 100 000 fois sur une touche de leur télécommande. Mais ils ne risquent pas de se faire virer si des machines peuvent faire leur travail à leur place ?

Aucune chance, et gare à celui qui viserait cet objectif. Les robots n'ont pas de perte de concentration, sont insomniaques et sont des bourreaux de travail, mais ils ont un point faible, ils ont besoin de l'Homme pour savoir quoi faire, comment le faire et pour comprendre leur langage. Ces deux là sont totalement complémentaires, symbiotiques. Les robots soulagent les testeurs en prenant en charge les tâches longues et répétitives, les testeurs, en échange les entretiennent, les optimisent, et interprètes les données qu'ils fournissent.

Le plus souvent, lorsque qu'un robot est déployé, là où il n'y avait qu'un testeur, il y a maintenant, en plus, un responsable d'exploitation chargé de l'infrastructure, de la rédaction et de la maintenance des scripts de tests.

Et côté ROI, pas d'inquiétude non plus, c'est tout de même l'un des interêts, une gestion automatisée des tests augmentera la capacité de l'équipe et la fiabilité des tests, diminuant significativement les coûts de non qualité.

Conclusion

Si nous avions un conseil à vous donner, n'ayez pas peur d'automatiser ! Que ce soit en confiance, en fiabilité, en couverture, en rapidité, vous y gagnerez. Et si nous avions un second conseil à vous donner, automatisez intelligemment ! Toutes les solutions existantes ne vous sont pas forcément nécéssaires. Prenez le soin et le temps d'étudier votre besoin et les compétences de vos équipes avant de vous jeter sur la solution la plus attirante ou la moins chère. A titre d'exemple, il vaut peut-être mieux investir dans une solution plus coûteuse mais pour laquelle l'écriture des scripts se fait dans un langage de programmation déjà connu de vos équipes. Bonne automatisation !

Découvrez nos autres séries d'articles !

Notre série dédiée aux tests de sécurité

Celle dédiée à Protractor

Le kit de secours métaphorique du testeur agile

Un avis ? Un commentaire ?

Cet espace est pour vous.