Techniques et rechercheSystème interne décrit

Meta utilise du calcul temporairement libre pour mieux sélectionner les publicités

L’essentiel de l’annonce

Meta décrit un système qui utilise momentanément la puissance de calcul disponible pour ses publicités. Il peut comparer davantage de candidats ou confier certaines demandes à des modèles plus puissants.

Date de publication de la source
Catégorie
Techniques et recherche
Périmètre et accès
Système exploité en interne chez Meta pour les recommandations publicitaires. Le billet du 12 octobre explique son fonctionnement, sans proposer d’outil public.
Sujet du contenu
Calcul disponible et recommandations
Entreprises / organismes
Meta

Utiliser un surplus de calcul temporaire

Quand une partie du calcul reste libre, le système ajoute un traitement optionnel. Il réduit ce travail si cette capacité est nécessaire au service principal.

Surplus et charge optionnelle
1

Repérer une capacité disponible

La puissance disponible peut changer à tout moment.

2

Ajouter un traitement optionnel

Le système examine plus de candidats ou utilise un modèle plus puissant.

3

Réduire le travail supplémentaire

Le surplus est retiré lorsque la capacité devient nécessaire.

Repérer une capacité disponible

La puissance disponible peut changer à tout moment.

Ajouter un traitement optionnel

Le système examine plus de candidats ou utilise un modèle plus puissant.

Réduire le travail supplémentaire

Le surplus est retiré lorsque la capacité devient nécessaire.

Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.

Points techniques et opérationnels

  • Rank More Ads examine davantage de publicités candidates.
  • Serve Better Models augmente la part confiée aux modèles plus puissants.

Préserver le fonctionnement du service principal

Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.

Exemple pédagogique

Un surplus qui disparaît

Une équipe disposant d’un service comparable pourrait réserver le surplus aux traitements optionnels, tout en maintenant une capacité suffisante pour le service principal.

Deux questions pour évaluer l’intérêt

  • La charge supplémentaire peut-elle être retirée rapidement ?
  • Le service principal garde-t-il ses capacités ?

Qui peut l’utiliser, avec quelles limites ?

Système interne décrit

Retour technique de Meta. Aucun gain financier généralisable à d’autres services n’est établi.

Conditions d’accès : Système exploité chez Meta. Ce billet n’annonce pas un outil public.

Réserver le surplus aux tâches optionnelles

Interprétation éditoriale à partir de l’annonce.

Meta décrit une utilisation du calcul libre qui peut être retirée lorsque la demande principale augmente. Une organisation disposant d’un service comparable pourrait étudier ce principe pour des tâches optionnelles. Son intérêt dépendrait de la rapidité avec laquelle ces tâches peuvent être réduites. Le retour technique de Meta ne fournit pas un gain financier transposable à tous les services.

Les mots utiles pour comprendre

Exécution d’un modèle

Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.

Comprendre cette technologie

Sources et vérifications

Meta Engineering - Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations

Lire la source officielle

Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.

Système interne expliqué le 12 octobre. Aucun outil public ou nouveau modèle génératif annoncé.

Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.