Le fonctionnement interne du filtrage de Gmail

Si vos messages arrivent en boîte de réception chez certains utilisateurs de Gmail et dans le dossier spam chez d’autres, la raison tient à la façon dont Gmail décide du placement. Les exigences de Gmail envers les expéditeurs disent ce que Gmail vérifie. Ce qui suit décrit ce que Gmail fait du résultat. Deux faits dominent, et ils expliquent pourquoi la délivrabilité chez Gmail résiste à un diagnostic unique :

1. La réputation est calculée sur le domaine d’envoi authentifié, pas sur l’adresse IP. C’est l’inverse de la plupart des serveurs de réception, qui centrent la réputation sur les adresses IP. L’authentification est la condition préalable qui permet tout simplement d’évaluer un message.
2. Le placement est appris pour chaque utilisateur. Le même message du même expéditeur peut arriver en boîte de réception chez un destinataire et dans le dossier spam chez un autre, car Gmail laisse l’historique de signalements et de marquages d’un utilisateur l’emporter sur la réputation générale de l’expéditeur. Il n’y a pas de réponse unique à « est-ce que j’arrive en boîte de réception chez Gmail ? », seulement une répartition entre destinataires.

Tout cela est documenté, et non déduit, principalement à partir des propres travaux de recherche de Google (Taylor, CEAS 2006 ; Taylor, Fingal et Aberdeen, NIPS 2007) et de ses pages d’aide et de blog. L’article de 2006 décrit un système de l’époque de la version bêta, et les mécanismes ont depuis été reconstruits sur l’apprentissage automatique (voir classification par apprentissage automatique). Mais cet article est le seul endroit où Google a exposé concrètement la logique de la réputation, et ses principes décrivent toujours le comportement du système : évaluation sur le domaine authentifié, autocorrection par les votes des utilisateurs, et zone intermédiaire confiée à un filtre statistique. Considérez les formules comme des illustrations du modèle, pas comme le code qui tourne aujourd’hui.

Le modèle de réputation du domaine authentifié

Source : « Sender Reputation in a Large Webmail Service », de Bradley Taylor (Google), CEAS 2006 (Third Conference on Email and Anti-Spam). Gmail a été lancé en version bêta en avril 2004, et l’article décrit le système de réputation construit pendant cette bêta.

Pourquoi le domaine, et pas l’IP

Google a écarté la réputation d’IP comme clé principale, car l’IP « est une forme d’authentification rudimentaire » (is a crude form of authentication). Un même expéditeur n’utilise pas toujours la même IP. À cause du transfert, l’IP qui se connecte n’est pas toujours le véritable expéditeur. Les adresses IP des en-têtes Received ne peuvent pas être authentifiées de façon fiable. Et quand plusieurs domaines partagent un ensemble d’adresses IP, un seul domaine qui envoie du spam « peut ruiner la réputation de tous les autres domaines » (can ruin the reputation for all the other domains). Gmail classe donc les messages selon qui envoie (le domaine authentifié) plutôt que selon ce que contient le message. L’article présentait Gmail comme « le seul » (the only one) des grands systèmes de réputation à fonctionner sur le domaine authentifié plutôt que sur l’IP.

Voici les méthodes d’authentification utilisées pour établir le domaine, et leur répartition dans les messages qui arrivaient chez Gmail :

DomainKeys, le prédécesseur de DKIM, était l’autre signal. Gmail l’a adopté tôt, en partie parce que SPF casse lors d’un transfert alors qu’une signature y survit. La recommandation de Google, hier comme aujourd’hui, est de mettre en place les deux, pour que si un transfert ou une modification du message casse l’un, l’autre authentifie encore : « si les deux sont présents, le signal d’authentification est d’autant plus fort » (if both are present, it is that much stronger of an authentication signal).

Les taux d’authentification étaient très différents entre les messages souhaités et les messages indésirables, si bien que l’authentification est en soi un signal de réputation :

Le calcul de la réputation

Chaque message livré enregistre un événement avec son classement et son authentification. Quatre compteurs s’accumulent pour chaque domaine authentifié :

La réputation est un nombre de 0 à 100 : « on peut voir la réputation comme la probabilité que les messages d’un expéditeur donné ne soient pas du spam » (you can think of the reputation as the probability that a given sender’s mail is not spam). 0 correspond au plus spammeur, et 100 au moins spammeur.

good       = autononspam + manualnonspam − manualspam
total      = autospam + autononspam
reputation = 100 × good / total

La version affinée plafonne les termes manuels, pour qu’un petit nombre de votes ne puisse pas dominer, et évite la division par zéro (si total = 0, il n’y a pas de réputation) :

manualnonspam2 = min(autospam,    manualnonspam)
manualspam2    = min(autononspam, manualspam)
good2          = autononspam + manualnonspam2 − manualspam2
reputation     = 100 × good2 / total

Exemples chiffrés tirés de l’article :

• weliketospam.com envoie 100 spams. 60 atterrissent automatiquement dans le dossier spam et 40 arrivent en boîte de réception comme faux négatifs, ce qui donne une réputation de 40. Quand 30 utilisateurs signalent ensuite les spams qui ont échappé au filtre, la réputation tombe à 10.
• weneverspam.com envoie 100 messages. 5 arrivent à tort dans le dossier spam comme faux positifs, ce qui donne une réputation de 95. Quand 3 utilisateurs annulent ce classement, la réputation monte à 98.

La réputation sert aussi de taux de faux positifs attendu. Pour un expéditeur dont la réputation est de 2, avec un seuil de dossier spam fixé sous une réputation de 5, « vous aurez des faux positifs sur les messages de cet expéditeur environ 2 % du temps ».

Autocorrection, pondération des votes et dynamique de rétablissement

• Les réputations sont calculées sur de nombreux jours, si bien qu’un domaine solide « peut se bâtir une réputation très solide » (can build up a very solid reputation) et qu’« un petit accès de spam [...] est absorbé comme du bruit » (a little blip of spam ... is absorbed as noise). En contrepartie, un domaine qui envoie du spam pendant longtemps puis se corrige met quelques jours à se rétablir.
• Les boutons Report Spam et Not Spam sont tous deux essentiels. Si seuls les signalements de spam sont pris en compte, la réputation ne peut pas remonter après une erreur du filtre, et ne peut donc pas se corriger d’elle-même. Google qualifie la présence des deux boutons d’« essentielle au succès » (critical for the success) du système.
• Tous les utilisateurs ne votent pas, et les votes sont limités. Seule une partie des utilisateurs, « ceux qui fourniront les meilleures informations » (the ones that will provide the best information), est prise en compte, et les utilisateurs qui ne signalent jamais ni spam ni non-spam sont exclus. Pour éviter que les utilisateurs qui reçoivent beaucoup de messages dominent, chaque utilisateur est limité à un signalement de spam par domaine et par heure, soit 24 votes par domaine et par jour au maximum.

L’usage de la réputation (le partage en trois)

Après avoir authentifié l’expéditeur et calculé la réputation du domaine, Gmail procède ainsi :

1. Une réputation au-dessus d’un seuil envoie tous les messages de l’expéditeur en boîte de réception.
2. Une réputation sous un seuil les envoie tous dans le dossier spam.
3. Entre les deux (ou si elle est inconnue), le message est transmis, avec la valeur de réputation, à un filtre antispam statistique qui prend la décision finale sur le contenu.

Point essentiel : un utilisateur peut passer outre la politique générale pour des adresses d’expéditeur précises. C’est la raison documentée pour laquelle le placement diffère d’un utilisateur à l’autre.

À quoi ressemblait la répartition des réputations

• Les domaines de spam se regroupent étroitement autour de 0, et les domaines de messages souhaités dans la fourchette 90–100. Pour les expéditeurs légitimes de gros volumes, un score inférieur à 90 est « le reflet de pratiques d’envoi loin d’être idéales » (a reflection of less-than-ideal sending practices). Une hygiène imparfaite se traduit par un score moyen, pas par un zéro.
• Réputations de quelques domaines (2006, à titre d’illustration du modèle) : aol.com 98,5 ; yahoo.com 95,6 avec SPF et 95,0 avec DomainKeys (DK) ; hotmail.com 95,4 ; ebay.com 95,2 avec SPF contre 98,2 avec DomainKeys ; earthlink.net 93,3 avec SPF contre 98,0 avec DK. Les domaines signalés comme spam obtenaient de 1,5 à 3,3.
• L’écart entre SPF et DomainKeys pour ebay.com est instructif. eBay ne signait avec DomainKeys que ses messages transactionnels, et ces messages « étaient probablement plus souhaités par les utilisateurs que les autres » (would likely be more wanted by users than other mail), si bien que le flux signé obtenait un meilleur score. C’est une première illustration de l’intérêt de la séparation des flux (voir Segmentation avancée des adresses IP et Pratiques d’infrastructure d’envoi).

Défaillances documentées et règles qui en découlent pour l’expéditeur

L’article relève ces problèmes, et tous sont encore d’actualité :

• Le transfert : les utilisateurs transfèrent des messages (spam compris) avec des outils comme procmail, qui réécrivent l’expéditeur d’enveloppe. Le spam transféré s’authentifie alors comme venant du service de transfert, et « nuit injustement à la réputation du domaine qui transfère » (hurts the reputation of the forwarding domain unfairly). La règle qui en découle est de ne pas authentifier les messages que vous ne faites que transférer, sauf si vous en avez d’abord filtré le spam, car les signer revient à assumer la responsabilité du flux qui en résulte. ARC a plus tard traité le même problème.
• Les listes de diffusion : le domaine d’une liste (l’exemple de l’article est Yahoo Groups, signé yahoogroups.com) peut avoir une bonne réputation globale alors que certains groupes qu’il héberge envoient du spam, si bien qu’une confiance généralisée « laissera passer du spam » (will allow some spam through). En outre, les utilisateurs trouvent souvent plus facile de signaler une liste comme spam que de se désabonner, ce qui nuit à la réputation de l’expéditeur de la liste « plus que nécessaire » (worse than it needs to be). C’est un argument pour une option de désabonnement bien visible et sans friction (voir List-Unsubscribe et désabonnement en un clic).

Politiques que l’article recommande aux expéditeurs :

1. Authentifiez-vous avec à la fois SPF et DomainKeys ou DKIM (vous disposez peut-être déjà implicitement de SPF best-guess).
2. N’authentifiez pas les messages que vous ne faites que transférer, sauf si vous en avez d’abord filtré le spam.
3. Tenez les spammeurs et les machines zombies à l’écart de votre réseau, et respectez les bonnes pratiques d’envoi en masse : « si un expéditeur fait quelque chose de mal, comme utiliser le simple opt-in au lieu du double opt-in, cela se traduit simplement par une mauvaise réputation et une plus grande probabilité de finir dans le dossier spam » (if a sender is doing something bad such as using single opt-in instead of double opt-in, it simply translates into a poor reputation and a greater likelihood of ending up in the spam folder). Ce sont les utilisateurs qui font respecter les consignes de Gmail sur les envois en masse, à travers la réputation, pas un règlement.

Classification du spam et du phishing par apprentissage automatique

Le modèle de réputation ci-dessus répond à la question « cet expéditeur est-il digne de confiance ? ». Pour tout ce qui se trouve dans la zone intermédiaire ambiguë, le verdict sur le contenu vient de classificateurs à apprentissage automatique, reconstruits et agrandis à plusieurs reprises.

• « The War Against Spam: A Report from the Front Line » (Taylor, Fingal et Aberdeen, NIPS 2007 Workshop on Machine Learning in Adversarial Environments) présente le filtrage antispam de Gmail comme un succès concret de l’apprentissage automatique en environnement adverse : l’immense majorité du spam est identifiée avec certitude, avec une grande précision (peu de faux positifs). Ce cadre adverse compte. Les spammeurs s’adaptent, donc les filtres doivent être réentraînés en continu au lieu d’appliquer un ensemble de règles figé.
• 2014 : une reconstruction à l’échelle de TensorFlow. Les filtres à règles de Google avaient atteint environ 99 % de précision. À partir de 2014, Google a ajouté des algorithmes d’apprentissage automatique fondés sur TensorFlow qui « régénèrent en continu » (continuously regenerate) les filtres antispam, trouvent de nouveaux schémas et s’adaptent « bien plus vite que les anciens systèmes manuels » (far quicker than previous manual systems). Résultat annoncé : plus d’un milliard d’utilisateurs de Gmail évitent le spam, avec une efficacité d’environ 99,9 %.
• Annonces de 2017 sur le modèle de sécurité (Google, 31 mai 2017) : plus de 99,9 % de précision dans le blocage du spam et du phishing, et 50–70 % de tous les messages que reçoit Gmail sont du spam. Les classificateurs combinent des milliers de signaux de spam, de logiciels malveillants et de rançongiciels avec des heuristiques sur les pièces jointes et des signatures d’expéditeurs. Les défenses contre le phishing combinent Google Safe Browsing avec une analyse de la réputation et de la similarité des URL. Un modèle de détection précoce du phishing peut retarder de façon sélective les messages à risque pour une analyse plus poussée, ce qui concerne moins de 0,05 % des messages en moyenne. Des avertissements au moment du clic, des avertissements sur les réponses à des destinataires externes et des défenses contre les rançongiciels et les logiciels malveillants polymorphes complètent le dispositif.
• 2024 : des classificateurs à grand modèle de langage. Google a déployé un grand modèle de langage (LLM) entraîné sur le phishing, les logiciels malveillants et le spam qui bloque 20 % de spam en plus et examine 1 000 fois plus de spam signalé par les utilisateurs chaque jour, avec un second modèle « superviseur » qui évalue des centaines de signaux de menace lorsqu’un message à risque est repéré. Voir le durcissement pendant les fêtes plus bas.

Conséquence pour les expéditeurs : le classificateur est une cible mouvante, entraînée sur tout ce que signalent les utilisateurs. Il n’existe aucune liste blanche de contenu à satisfaire, car le filtre optimise ce que les utilisateurs traitent comme souhaité. C’est le mécanisme qui sous-tend les recommandations de Contenu et design au service de la délivrabilité : éviter les schémas de spam et optimiser l’engagement, plutôt que suivre une liste de mots-clés.

La catégorisation de la boîte de réception (les onglets)

La catégorisation est une décision distincte, prise après l’acceptation, du verdict entre boîte de réception et spam. Un message qui a déjà gagné la boîte de réception est ensuite rangé dans l’une des cinq catégories par défaut (dans le type de boîte de réception « Default » de Gmail). Arriver dans un onglet de catégorie autre que Primary n’est pas un échec de délivrabilité. Promotions, c’est la boîte de réception, pas le spam.

Fonctionnement :

• Les utilisateurs activent ou désactivent les catégories dans Quick Settings, puis Default inbox type, puis Customize. Désactiver entièrement les catégories impose de passer à une autre disposition de boîte de réception. Comme c’est le destinataire qui choisit les onglets présents, un expéditeur ne peut même pas supposer qu’un destinataire donné possède un onglet Promotions.
• Les expéditeurs ne peuvent pas choisir l’onglet à l’avance. Les destinataires déplacent les messages d’un onglet à l’autre par glisser-déposer (avec une option d’annulation), ce qui apprend leur préférence à Gmail pour qu’il « trie vos emails plus précisément » (sort your email more accurately) au fil du temps. C’est une autre préférence de l’utilisateur qui l’emporte.
• Demander aux lecteurs engagés de faire glisser vos messages vers Primary est légitime et efficace. Voir Contenu et design au service de la délivrabilité pour les facteurs de contenu (personnalisation, style conversationnel, nombre limité d’images et de liens) qui orientent les messages vers Primary plutôt que Promotions.

La prédiction de catégorie comme problème d’apprentissage automatique

Source : « Email Category Prediction », de Zhang, Garcia Pueyo, Wendt, Najork et Broder (Google, WWW 2017 Companion). Les points clés pour les expéditeurs :

• Environ 90 % des emails grand public sont générés par des machines. La catégorisation vise les messages issus de modèles (reçus d’achat, campagnes promotionnelles, confirmations de réservation, rappels de factures), pas les échanges entre personnes.
• L’approche exploite la découverte des modèles et les « fils causaux » (causal threads) des séquences d’emails, car les messages automatiques légitimes suivent des schémas prévisibles (une commande, puis une confirmation d’expédition, puis une alerte de livraison). Les séquences prévisibles qui correspondent à leurs modèles se classent proprement ; une structure erratique, non.
• Comparaison des modèles : les réseaux de neurones (perceptrons multicouches, ou MLP, et réseaux de mémoire à long et court terme, ou LSTM) surpassent largement une référence à chaîne de Markov, les LSTM devançant légèrement les MLP. Les applications citées comprennent le remplissage de l’agenda, les alertes d’expédition, la publicité ciblée et la détection du spam : la catégorisation alimente donc à son tour le filtrage.

Les signaux de personnalisation par utilisateur

Au-delà du vote spam ou non-spam, Gmail exploite un modèle d’importance propre à chaque utilisateur et des contrôles antispam propres à chaque utilisateur. Ce sont ces mécanismes qui rendent le placement individuel.

Marqueurs d’importance (rubrique d’aide « Importance markers in Gmail »). Gmail prédit quels messages comptent pour chaque utilisateur à partir :

• de la fréquence à laquelle l’utilisateur échange avec l’expéditeur ;
• des messages que l’utilisateur ouvre et auxquels il répond ;
• des mots-clés présents dans les emails que l’utilisateur lit habituellement ;
• des interactions : ajout d’une étoile, archivage, suppression.

Les utilisateurs voient un marqueur d’importance jaune, peuvent le corriger (ce qui entraîne le modèle) et peuvent retrouver les messages marqués avec is:important. Un utilisateur peut désactiver le marquage prédictif (« Don’t use my past actions to predict which messages are important ») ou masquer complètement les marqueurs. Ces réglages se modifient dans le navigateur, mais s’appliquent à toutes les applications.

Contrôles antispam qui alimentent la personnalisation (rubrique d’aide sur le tri du spam dans Gmail) :

Le fil conducteur : l’historique du destinataire lui-même peut l’emporter sur la réputation globale de l’expéditeur, dans les deux sens. Un expéditeur dont le domaine a une solide réputation arrive tout de même en spam chez tout destinataire qui l’a bloqué ou signalé à plusieurs reprises. Un expéditeur à la réputation faible arrive en boîte de réception chez les destinataires qui l’ont ajouté à leurs contacts ou ont cliqué sur Not Spam.

Durcissement pendant les fêtes de fin d’année

Google durcit publiquement ses filtres pendant les périodes de forte fraude. Pour la saison des fêtes 2024 (billet de blog, décembre 2024) :

• Gmail bloque plus de 99,9 % du spam, du phishing et des logiciels malveillants.
• Le classificateur à LLM nouvellement déployé et le modèle superviseur (voir classification par apprentissage automatique) ont été mis en service avant le Black Friday.
• Résultat : les utilisateurs ont signalé 35 % d’arnaques en moins arrivées en boîte de réception pendant le premier mois de la saison des fêtes, par rapport à l’année précédente.
• Les schémas d’arnaques de fin d’année contre lesquels Gmail a renforcé ses défenses : les arnaques à la facture (de fausses factures qui invitent le destinataire à appeler un numéro pour les contester), les arnaques aux célébrités (usurpation d’identité ou fausse recommandation) et les arnaques à l’extorsion (des menaces qui citent une adresse personnelle ou un détail privé).

Conséquence pour les expéditeurs : les seuils des filtres ne sont pas constants tout au long de l’année. Un flux à la réputation limite qui arrive en boîte de réception pendant un mois calme peut basculer en spam pendant une période de durcissement. Constituez une marge de réputation avant le quatrième trimestre (Q4), et ne lancez pas de nouveaux flux ni de nouvelle chauffe à l’approche du pic des fêtes.

À retenir pour l’expéditeur : ce qui fait réellement bouger le placement chez Gmail

1. Authentifiez-vous pour que vos messages puissent être évalués, puis bâtissez la réputation du domaine. Utilisez SPF et DKIM alignés sur le domaine From. La réputation s’attache à ce domaine authentifié, pas à votre IP. Les messages non authentifiés ne peuvent pour la plupart pas être évalués, et ils sont corrélés au spam (environ 60 % du spam n’est pas authentifié, contre environ 26 % des messages souhaités).
2. Le seul indicateur qui pilote directement le modèle est le vote spam de l’utilisateur. Report Spam fait baisser la réputation ; Not Spam et l’ajout de l’expéditeur aux contacts la font monter. Maintenez le taux de spam dans Postmaster Tools sous 0,10 %, et ne le laissez jamais atteindre 0,30 %. Ce sont les seuils des exigences envers les expéditeurs qui correspondent à ce vote.
3. La réputation évolue lentement dans les deux sens. Des jours de comportement régulier la construisent, un accès isolé est absorbé comme du bruit, et le rétablissement après un abus prolongé « prend quelques jours » (takes a few days). Il n’y a pas de solution du jour au lendemain ; voir Rétablissement après un incident de réputation.
4. Séparez vos flux. Dès 2006, les messages transactionnels signés séparément des messages marketing obtenaient un meilleur score, car les destinataires ne souhaitent pas les deux flux au même degré. Segmentez par domaine ou sous-domaine d’envoi et par type de contenu.
5. La catégorisation n’est pas la délivrabilité. Promotions, c’est la boîte de réception. Améliorez le placement par onglet grâce au contenu (personnalisation, ton conversationnel, moins d’images et de liens), pas en essayant de déjouer le classificateur : vous ne pouvez pas choisir l’onglet à l’avance.
6. La personnalisation pour chaque utilisateur met en échec le diagnostic unique. Les marqueurs d’importance, les blocages, les contacts et les préférences par adresse s’appliquent tous destinataire par destinataire, si bien que « où arrivent mes messages chez Gmail ? » n’a pas de réponse unique, seulement une répartition. Les tests sur liste de test portent sur une poignée de comptes neufs sans historique propre, et ne peuvent donc pas représenter ce que voit un vrai destinataire engagé (ou désengagé). Fiez-vous davantage aux tendances de la réputation agrégée et du taux de spam dans Postmaster Tools qu’à une capture d’écran d’une seule boîte de réception (voir Distorsions du suivi et de la mesure).

Note sur les sources : la réponse d’aide de Gmail 6596 (« Gmail inbox tabs and categories ») recoupe les recommandations sur les onglets Gmail de Contenu et design au service de la délivrabilité et la présentation de la catégorisation ci-dessus. Elle n’a pas été utilisée séparément, car elle n’apporte rien de plus que la réponse 3094499, déjà citée.

Voir aussi

• Exigences de Gmail envers les expéditeurs, les règles vérifiables et les seuils de taux de spam qui alimentent ce modèle
• Erreurs SMTP de Gmail et dépannage, y compris les messages de blocage pour réputation
• Google Postmaster Tools
• Contenu et design au service de la délivrabilité
• Fondamentaux de la délivrabilité des emails
• ARC, la correction ultérieure du problème de transfert décrit dans l’article de 2006