L’AB testing sur mobile : retour d’expérience du Club du Marketing Mobile

Le Club du Marketing Mobile s’est réuni en atelier pour échanger sur l’AB testing mobile et ses bonnes pratiques. Retrouvez le retour d’expérience présenté par Patrizia Romualdi, responsable optimisation et AB-test chez Voyages-SNCF.com et les échanges des membres du Club.

Le retour d’expérience de VSC en  matière d’AB testing Mobile

Patrizia Romualdi, Responsable Optimisation et AB-test chez VSC, considère que le projet démarre vraiment aujourd’hui. Sur l’optimisation mobile, l’entreprise va s’appuyer sur l’expertise d’AB Tasty, avec qui a été noué un partenariat  d’exploration pensé autour de l’échange de compétences : ainsi VSC va pouvoir monter en compétence et, en contrepartie, met à disposition d’AB Tasty  des développeurs iOS ; AB Tasty espère aller plus loin dans le développement, optimiser sa solution de beta in app pour iOS et pouvoir ainsi proposer la meilleure solution du marché.

Comment fonctionne ce partenariat ? Aux yeux de VSC, les avantages de ce  fonctionnement  sont nombreux : VSC bénéficie d’un apport d’expertise et de connaissance de ce qui se passe sur les OS,  qui ne sont pas  disponibles  en interne, ainsi que de  statistiques  très poussées et donc de résultats plus fiables qu’une solution interne. Dans cette manière de procéder, VSC développe ses versions (dans le code) et les transmets directement à AB Tasty, sans passer par la validation du store ; lorsque la version est gagnante, elle peut effacer les  autres versions. En corollaire, la qualité de toutes les versions doit être irréprochable ; elles doivent être entièrement développées. Le facteur sensible réside dans la bande passante des équipes et le matching de ces projets avec  les dates internes des deliveries. Pour autant, VSC reste à l’écoute de toute autre solution. Ainsi,  lorsqu’android, depuis Dublin, lance  une solution  d’AB test, VSC s’estime devenu  assez  compétent pour savoir aborder les sujets.

Pour ce qui est de l’analyse du ROI, faire de l’AB testing représente un  investissement difficilement  quantifiable en termes d’organisation : VSC dispose d’une équipe dédiée au développement  des applications mobiles que les développeurs des équipes innovation peuvent aider ; ainsi, le développement devient aussi fluide que possible. L’’AB testing s’envisage comme un changement de mindset : l’objectif de l’équipe est de créer le « réflexe » AB Test et, plutôt que de parler de mise en production, les équipes raisonnent en termes de mise en test validée par le client lui-même.

Où eOù en sont les grands annonceurs en matière d’AB testing sur mobile ? 

La maturité des grands annonceurs en matière d’AB testing mobile est très variable.

Ainsi, le PMU a démarré l’AB testing sur desktop il y a environ 3 ans. La culture de la mesure et l'AB test d'ergonomie sont bien ancrées. La question se pose d’ailleurs pour augmenter la fréquence et industrialiser les AB tests, tout en mesurant les aspects budgétaires de maintenir plusieurs versions. L’expérience très positive  sur le desktop à l’ouverture de compte (+ 1.5 point de conversion) incite le PMU à faire également de l’AB testing sur le mobile. Le PMU cherche à s’appuyer sur des prestataires capable d’analyser et recouper les expériences entre web et mobile. Le PMU travaille à faire entrer l’AB testing mobile dans des cycles agiles et internaliser pour pouvoir  industrialiser.

Pour sa part, Allianz utilise régulièrement l’AB testing pour mesurer l’efficacité des créations publicitaires qui incitent au téléchargement « utile », c’est-à-dire le téléchargement suivi d’une utilisation de l’application. Cela a notamment permis de mettre en valeur une création sous format interstitiel qui représente désormais 20% des téléchargements quotidiens.  

Nestlé (en tout cas sur l’activité Nestlé Bébé) ne réalise quant à lui pas encore d’AB testing mobile.

QuQQu'en est-il de la fréquence des releases  et du traitement de Windows Phone ?

La démarche d’AB testing sous-entend  la possibilité de faire des releases plus fréquentes. Qu’en est-il chez les différents annonceurs ? Comment sont gérés les OS comme Windows Phone ?

Voyage-SNCF.com fait des releases  tous les mois à tous les mois œ  mais a pour objectif en 2016 de  raccourcir ces intervalles à maximum 1 mois. Le point le plus bloquant est l’agilité, pas uniquement technique, mais aussi au niveau de la conception des interfaces. VSC externalise le développement Windows Phone dont l’usage client n’est pas encore au même niveau que celui des autres OS. Pour VSC,  Windows Phone 10 présente une nouvelle  logique à suivre, autour des interactions entre les applications et l’environnement Microsoft et de la posture « venez comme vous êtes ».

Le PMU a  des releases tous les  mois.  Les équipes on line fonctionnent à 100% en mode agile mais doivent travailler avec les autres départements de la DOSI qui ne travaillent pas forcément en agilité. Le PMU n’est pas présent sur Windows Phone au travers d’une appli  mais s’interroge pour investir sur cet OS en fonction de la Part de Marché de Windows Phone (8%), le coût d’entrée, la stabilisation de l’appli dans le temps et l’arrivée de W10.

Chez Air France les applis iOS et android sont développées en  interne et l’application Windows Phone a été développée à l'extérieur, mais est maintenue en interne. Les utilisateurs Windows représentent moins de 2% des visites. En théorie, les releases d’applications se font toutes les 3 semaines ; la réalité est autre. Une  grosse refonte en préparation se traduit par 10 sprints passés sans livrer. La nature des plateformes influe sur le rythme de releases : les fonctionnalistes sont en effet différentes entre le web et le mobile : le web est dédié à la vente alors que le mobile sert à l’accompagnement (cartes d’accès, cartes de fidélité ...). Sur le mobile, la moitié des visites se fait sur le site et l’autre moitié sur l’application.

La marque Nestlé bébé n’est pas présente sur Windows Phone. Sa cible se renouvelle tous les ans car le consommateur est un  bébé entre 0 et 12 mois ; il y a donc un moindre besoin de  changer les contenus et les releases se font tous les 3 mois.

Les cibles d’Allianz sont principalement des CSP+ senior. Ils sont généralement équipés iOS (54%). L’entreprise a peu de visibilité et de verbatim sur Windows Phone mais suppose une demande faible sur l’OS. L’équipe mobile se tient à jour sur la possibilité de porter le code Android sur Windows Phone dans une logique de solution à coût maitrisé. Allianz fait des releases  app mobile tous les 3 mois, pas nécessairement  plus riches sur le mobile que sur le web. Les releases web et mobile ne sont pas corrélées.

Etaient présents pour cet Atelier du  Club du Marketing Mobile : Vincent Fillon d’Air France, Gérald Filin d’Allianz, Frank Desvignes d’AXA, Marie Renouard de Monoprix, Pascale Martin de Nestlé bébé, Julie London du PMU, Thierry Elkaim de Transdev, Ingrid Peiniau pour représenter Pascal Lannoo de Voyage-SNCF.com, Rodolphe Roux de Wiko mobile.

Si vous êtes annonceur et souhaitez faire partie du Club du Marketing Mobile, merci de contacter julie.poilleux@mmaf.fr.

Microsoft / Android