Technologie

Recherche multimodale

La recherche multimodale utilise plusieurs formats, comme le texte et les images, pour retrouver une information. Elle peut repérer une page grâce à un détail visuel. Les documents couverts et les résultats doivent être vérifiés.

Comprendre le mécanisme

Retrouver une image avec une description

Une recherche multimodale rapproche des formats différents. Dans une approche par représentations, chaque image et chaque texte deviennent des listes de nombres comparables. Le système calcule leur proximité pour classer les contenus susceptibles de correspondre à la demande.

Une équipe pourrait préparer une collection de photographies fictives et rechercher une étagère portant des boîtes rouges. Elle vérifierait les premiers résultats sans utiliser les noms de fichiers. Une seconde recherche inclurait un détail absent pour examiner les propositions sans correspondance exacte.

Proximité et preuve

Un résultat proche est un candidat à examiner. Sa place dans le classement ne prouve pas qu’il contient exactement le détail recherché.

Dans un projet

Retrouver une page grâce à un visuel

Une personne peut rechercher un document en décrivant un détail présent dans une image ou un graphique. Un outil compatible compare cette demande aux documents préparés. Le passage retrouvé permet de contrôler si le résultat est pertinent.

Vous fournissez
Description fictive d’une étagère et collection d’images de test.
Vous contrôlez le résultat
Images classées à confronter aux détails demandés.

Exemple fictif. Il illustre un usage, sans résultat mesuré.

Les points à vérifier

Vérifiez les documents couverts, les formats pris en charge et la pertinence des passages retrouvés.

  • Premiers résultats utilesCompter les images pertinentes parmi les premiers résultats examinés.
  • Éléments manquésCompter les images attendues que la recherche ne retrouve pas.
  • Absence de correspondanceExaminer les propositions lorsque le détail demandé n’existe pas.
1

Les documents

Des textes, images ou vidéos préparés

2

Votre question

Le système cherche les éléments proches

3

Les extraits trouvés

Vous vérifiez leur lien avec la question

Illustration du principe. Les fonctions disponibles dépendent de l’outil et de vos accès.

3 articles à explorer

Articles 1 - 3 sur 3. Les mots-clés, les dates et les conditions d’accès vous aident à choisir.

Techniques et rechercheAnnonce

Perplexity publie des modèles de recherche dans les textes et les images

Perplexity

L’essentiel

Perplexity publie des modèles pour retrouver des textes, des images et des pages de PDF. Les modèles sont accessibles sur Hugging Face, avec un accès par connexion applicative annoncé progressivement.

DisponibleTarif à vérifier
Accès
Modèles ouverts
À prévoir
Modèles publiés ; accès API (interface de communication entre logiciels) annoncé progressivement.
Recherche multimodale

Source vérifiée le

Modèles et assistantsAnnonce

Google publie un modèle pour rechercher dans les textes, images et enregistrements

Google

L’essentiel

EmbeddingGemma 2 rapproche textes, images, sons et vidéos pour les retrouver. Ses fichiers sont disponibles pour un appareil compatible.

DisponibleTarif à vérifier
Accès
Disponible
À prévoir
Fichiers sur Hugging Face et Kaggle. Intégration nécessaire.
Modèle multimodalRecherche multimodaleExécution d’un modèle

Source vérifiée le

Outils et usagesCas d’usage

Condé Nast recherche des scènes dans ses archives vidéo

AWS et Condé Nast

L’essentiel

Condé Nast utilise les images, les sons et les paroles de ses vidéos pour retrouver des scènes. La recherche peut repérer un détail visible même si personne ne le mentionne à voix haute.

Cas documentéTarif à vérifier
Accès
Cas client
À prévoir
Retour client publié par AWS, sans garantie sur d’autres archives.
Recherche multimodale

Source vérifiée le