Catégorie

Sécurité et règles

Autorisations, provenance et maîtrise des risques.

79 articles à explorer

Articles 51 - 60 sur 79. Les mots-clés, les dates et les conditions d’accès vous aident à choisir.

Sécurité et règlesAnnonce

Pydantic AI corrige deux risques liés aux traces et aux appels d’outils des agents

Pydantic

L’essentiel

Pydantic AI est une bibliothèque Python pour développer des agents reliés à des modèles et des outils. Deux avis publiés le 20 octobre décrivent des secrets exposables dans les traces techniques et un appel d’outil possible sans requête au modèle. Les correctifs sont disponibles, avec des conditions précises d’exposition.

DisponibleTarif à vérifier
Accès
Correctifs disponibles
À prévoir
Correctifs dans 2.58.0. Le problème de traces est aussi corrigé dans 1.107.8. Logiciel à intégrer dans une application.
Agent IAConnexion par MCP

Source vérifiée le

Sécurité et règlesAnnonce

Darwin AI ouvre Finch en bêta pour interroger les usages d’IA d’une administration

Darwin AI

L’essentiel

Darwin AI, éditeur de gouvernance de l’IA pour le secteur public américain, ouvre Finch en bêta à ses clients. Cet assistant interroge les données d’usage déjà présentes dans Darwin et prépare des rapports. Il ne s’agit pas d’un accès libre à toutes les données d’une administration.

BêtaTarif à vérifier
Accès
Bêta pour les clients Darwin
À prévoir
Bêta annoncée pour les clients Darwin existants. Prix propre à Finch et conditions détaillées non publiés dans l’annonce.
Agent IADonnées connectéesGénération de contenu

Source vérifiée le

Sécurité et règlesAnnonce

Microsoft annonce des permissions d’agents adaptées à la tâche et au risque

Microsoft

L’essentiel

Microsoft étend Project Perception au contrôle des agents utilisés dans l’entreprise. Les nouveautés annoncées associent des permissions limitées à une tâche et une réévaluation du risque pendant son exécution. Un agent pourrait conserver le droit de lire tout en perdant celui de modifier des données.

Annonce / accès prévuTarif à vérifier
Accès
Fonctions annoncées
À prévoir
Extension annoncée de Project Perception. Éligibilité, disponibilité et coût de chaque fonction à préciser.
Agent IAEnvironnement isolé

Source vérifiée le

Sécurité et règlesAnnonce

LiteLLM désactive par défaut les outils qui lancent des commandes sur sa passerelle

BerriAI

L’essentiel

LiteLLM, la passerelle de BerriAI entre applications et modèles, change les accès de certains outils reliés aux agents. Sa version 1.106.0 désactive par défaut les serveurs MCP (protocole reliant un assistant à ses outils) qui lancent des commandes sur la machine de la passerelle. Les connexions distantes ne sont pas concernées.

DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Version stable du 18 octobre. Réglage intégré au proxy. Les connexions HTTP et SSE distantes restent disponibles selon leurs autorisations.
Connexion par MCPAgent IA

Source vérifiée le

Sécurité et règlesAnnonce

Anthropic annonce un fonds d’intérêt général alimenté par ses actions

Anthropic

L’essentiel

Anthropic, l’entreprise qui développe Claude, annonce un fonds d’intérêt général. Il recevrait 5 % de ses actions, sous réserve de l’accord des actionnaires.

Annonce / accès prévuTarif à vérifier
Accès
Création annoncée
À prévoir
Annonce du 18 octobre. Aucun guichet de candidature décrit.
Génération de contenu

Source vérifiée le

Sécurité et règlesAnnonce

Abacus publie Smaug pour aider à repérer les images générées par IA

Abacus.AI

L’essentiel

Abacus.AI, qui développe des outils d’IA pour les entreprises, publie Smaug. Ce modèle estime si une image a été produite par une IA et peut fonctionner sur une machine locale.

DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Publication du 17 octobre sous Apache 2.0. Modèle à déployer. Matériel, intégration et coûts de calcul restent à prévoir.
Modèle multimodal

Source vérifiée le

Sécurité et règlesAnnonce

Red Hat généralise sa passerelle pour encadrer les outils accessibles aux agents IA

Red Hat

L’essentiel

Red Hat rend sa passerelle MCP (protocole reliant un assistant à ses outils) généralement disponible dans Connectivity Link 1.5 pour OpenShift. MCP, pour Model Context Protocol, relie un assistant à des outils et à des ressources. La passerelle place un point de contrôle entre les agents et les services de l’entreprise.

DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Annonce du 16 octobre, après un aperçu technologique. Déploiement sur OpenShift avec Connectivity Link 1.5. Tarifs non précisés dans le billet.
Connexion par MCPAgent IA

Source vérifiée le

Sécurité et règlesAnnonce

GitHub généralise le contrôle des licences des composants, y compris pour les agents de code

GitHub

L’essentiel

GitHub rend son contrôle des licences open source généralement disponible après une préversion. Les entreprises peuvent définir les licences acceptées et vérifier les composants ajoutés au code. Une interface permet aussi aux agents de programmation de consulter ces règles avant de proposer un composant.

DisponibleOffre payante
Accès
Disponibilité annoncée
À prévoir
GitHub Enterprise Cloud, y compris avec résidence des données, et Code Security sur les dépôts concernés.
Agent IAWorkflow hébergé

Source vérifiée le

Sécurité et règlesRecherche

Le NIST, la NSA et la CISA proposent un cadre de réponse aux incidents d’agents avancés

NIST

L’essentiel

Le NIST, organisme américain de normalisation, publie avec la NSA et la CISA dix pratiques pour préparer la réponse aux incidents pendant l’entraînement et l’évaluation d’agents d’IA avancés.

Recherche publiéeTarif à vérifier
Accès
Guide volontaire publié
À prévoir
Annonce et guide publics du 16 octobre. Recommandations visant surtout les laboratoires et équipes d’évaluation d’agents avancés.
Agent IAÉvaluation d’un agent

Source vérifiée le

Sécurité et règlesAnnonce

Anthropic donne à six évaluateurs de METR un accès interne approfondi

Anthropic

L’essentiel

Anthropic annonce l’intégration de six membres de METR pour examiner ses risques et pratiques. Leur accès est proche de celui des équipes internes d’évaluation, avec des exceptions définies.

Annonce / accès prévuTarif à vérifier
Accès
Dispositif d’évaluation annoncé
À prévoir
Accès réservé à une petite équipe sous accords. Aucun accès public aux systèmes internes.
Évaluation d’un agent

Source vérifiée le