Technologie

Modèle multimodal

Un modèle multimodal peut lire plusieurs formats, comme le texte et les images. Dans un rapport, il peut examiner un paragraphe et le graphique qui l’accompagne. Les formats réellement pris en charge dépendent de l’outil.

Comprendre le mécanisme

Poser une question avec du texte et une image

Un modèle multimodal reçoit plusieurs formats, comme du texte et une image. Un traitement prépare chaque format avant le calcul de la réponse. Certains modèles acceptent aussi le son et la vidéo.

Une équipe pourrait créer un graphique fictif et demander quel mois atteint la plus forte valeur. Elle comparerait la réponse avec les chiffres écrits sur le graphique. Un second essai utiliserait une image moins nette pour repérer ce que le modèle ne lit plus correctement.

Lire un format et le produire

Accepter une image en entrée ne signifie pas pouvoir créer une image en sortie. Les capacités doivent être examinées pour chaque format.

Dans un projet

Lire un rapport et ses graphiques

Une personne peut fournir un rapport comportant du texte et des graphiques. Un outil compatible peut examiner ces formats pour préparer une synthèse. Il faut conserver les pages d’origine afin de vérifier les valeurs et leur interprétation.

Vous fournissez
Graphique fictif et question sur la valeur la plus élevée.
Vous contrôlez le résultat
Réponse à confronter aux valeurs et aux libellés visibles.

Exemple fictif. Il illustre un usage, sans résultat mesuré.

Les points à vérifier

Vérifiez les formats acceptés, la lecture des petits caractères et la correspondance entre la réponse et les pages citées.

  • Formats couvertsLister les formats effectivement acceptés dans le parcours choisi.
  • Valeurs exactesCompter les valeurs et libellés correctement lus sur les graphiques.
  • Détails lisiblesComparer les erreurs entre images nettes, réduites et moins contrastées.

Texte seulement

Lire les paragraphes

Le modèle utilise les informations écrites que vous lui donnez.

Texte + image

Lire aussi le visuel

Un modèle multimodal peut examiner une image, selon ses capacités.

Par exemple, un graphique peut contenir des chiffres qui ne figurent pas dans les paragraphes du document.

Illustration du principe. Les fonctions disponibles dépendent de l’outil et de vos accès.

49 articles à explorer

Articles 11 - 20 sur 49. Les mots-clés, les dates et les conditions d’accès vous aident à choisir.

Modèles et assistantsAnnonce

Rime présente un modèle vocal avec un texte contrôlable avant la réponse orale

Rime

L’essentiel

Prism écoute la voix, prépare un texte vérifiable et peut continuer d’écouter pendant sa réponse. Rime travaille son adaptation avec des clients bêta, sans accès général aux poids établi.

BêtaTarif à vérifier
Accès
Accès limité
À prévoir
Accès selon les conditions et les intégrations du fournisseur. Disponibilité, droits et coûts à vérifier pour le projet.
Modèle multimodalAgent IA

Source vérifiée le

Modèles et assistantsAnnonce

NVIDIA réunit transcription, traduction et analyse audio dans un modèle guidé par des consignes

NVIDIA

L’essentiel

Nemotron 3.5 Transcribe peut traiter un enregistrement selon une consigne pour le transcrire, le traduire ou répondre à des questions sur son contenu. NVIDIA publie aussi des outils de préparation des données audio.

DisponibleTarif à vérifier
Accès
Modèle et outils publiés
À prévoir
Poids et outils publiés. Licence, ressources de calcul et coûts d’exploitation à vérifier selon le déploiement.
Modèle multimodalExtraction d’informations

Source vérifiée le

Techniques et rechercheRecherche

Google et la NASA testent un robot guidé par des consignes en langage courant

Google

L’essentiel

Un prototype relie vision, langage et mouvement pour déplacer du matériel dans un laboratoire. Les premiers résultats portent sur une tâche précise et ne démontrent pas une autonomie spatiale sûre.

ExpérimentationTarif à vérifier
Accès
Prototype de laboratoire
À prévoir
Prototype de recherche, sans produit opérationnel ni accès commercial annoncé pour cette démonstration.
Modèle multimodalAgent IA

Source vérifiée le

Création et médiasRecherche

Google présente Genie 4 pour explorer des mondes générés avec leurs sons

Google DeepMind

L’essentiel

Genie 4 génère un environnement explorable avec du son et des événements guidés par Gemini. Google le réserve pour l’instant à des testeurs de confiance.

Préversion / accès anticipéTarif à vérifier
Accès
Recherche annoncée
À prévoir
Testeurs de confiance. Arrivée prochaine annoncée dans Project Genie pour AI Ultra et auprès de partenaires API (interface de communication entre logiciels), sans date générale.
Modèle multimodalGénération de contenuInterface interactive

Source vérifiée le

Modèles et assistantsAnnonce

Baidu publie un modèle pour lire de très longs documents

Baidu

L’essentiel

Baidu publie Unlimited-OCR 2 pour convertir des documents très longs en texte. Le modèle réduit le contexte conservé à chaque étape, avec un compromis possible sur les liens entre pages.

DisponibleTarif à vérifier
Accès
Annonce vérifiée
À prévoir
Modèle et exemples publiés sur Hugging Face. Intégration technique nécessaire. Ressources de calcul et coûts de déploiement à établir.
Modèle multimodalExtraction d’informations

Source vérifiée le

Techniques et rechercheAnnonce

Google ouvre une préversion cloud pour le raisonnement de haut niveau des robots

Google

L’essentiel

Gemini Robotics ER 2 devient accessible sur Google Cloud pour planifier des tâches et vérifier leur progression. Le modèle s’appuie sur des contrôleurs spécialisés et ne certifie pas la sûreté du robot.

Préversion / accès anticipéTarif à vérifier
Accès
Préversion publique cloud
À prévoir
Préversion publique dans Model Garden sur la plateforme Gemini. Compte cloud, intégration et conditions applicables à vérifier.
Modèle multimodalAgent IA

Source vérifiée le

Modèles et assistantsAnnonce

Liquid AI publie de petits modèles multimodaux à adapter et exécuter localement

Liquid AI

L’essentiel

La famille LFM3 réunit texte, images, vidéo et voix selon la variante. Les poids sont téléchargeables, avec des conditions commerciales et des limites liées à la petite taille des modèles.

DisponibleTarif à vérifier
Accès
Poids disponibles
À prévoir
Poids sous LFM Open License v1.0. Usage commercial soumis à un seuil de chiffre d’affaires de 10 millions de dollars et à des conditions distinctes.
Exécution d’un modèleModèle multimodalAgent IA

Source vérifiée le

Création et médiasAnnonce

Microsoft ouvre MAI Image en préversion pour retoucher les images par instructions

Microsoft

L’essentiel

MAI Image 2.7 permet de demander des retouches sur une image existante. Microsoft ouvre une préversion, tandis que la génération à partir de texte seul reste annoncée pour plus tard.

Préversion / accès anticipéTarif à vérifier
Accès
Annonce documentée
À prévoir
Préversion de retouche sur les interfaces indiquées. Conditions précises et génération depuis texte à vérifier.
Génération de contenuModèle multimodal

Source vérifiée le

Modèles et assistantsAnnonce

OpenAI lance Terra pour lire les écrans et agir dans les logiciels

OpenAI

L’essentiel

GPT-6.1 Terra associe raisonnement visuel, usage d’ordinateur et rédaction. OpenAI le rend accessible dans Work, Codex et son API (interface de communication entre logiciels), avec un tarif inférieur à celui du précédent Terra.

DisponibleOffre payante
Accès
Annonce vérifiée
À prévoir
API (interface de communication entre logiciels) standard à 1 $/million de jetons entrants, 0,05 $ en cache et 5 $ sortants. Conditions propres à chaque offre.
Modèle multimodalExécution d’un modèle

Source vérifiée le

Modèles et assistantsAnnonce

Tencent ouvre Hy-SimulMT pour traduire la parole chinois–anglais en continu

Tencent Hunyuan

L’essentiel

Tencent publie un modèle qui traduit pendant que la personne parle. Code et ressources sont annoncés ouverts, avec une intégration nécessaire pour restituer la voix.

DisponibleTarif à vérifier
Accès
Code publié, intégration nécessaire
À prévoir
Code et ressources annoncés publics. Matériel et service de voix à prévoir.
Modèle multimodalGénération de contenu

Source vérifiée le