SCRIPTAMI

Concept LLM & agents

Garde-fou / Guardrail

Que veut dire « Garde-fou / Guardrail » dans le jargon de l’IA ?

Contrôle qui borne ou refuse une action d’agent si une condition de sûreté ou de portée échoue.

Autres formes : garde-fou, guardrail.

Un garde-fou borne une action d'agent avant qu'elle ne s'exécute : il la refuse si une condition de sûreté ou de périmètre n'est pas remplie, indépendamment de ce que l'agent « pense » être une bonne idée.

Exemple d’usage : Le terme a servi à désigner un contrôle de qualité sur les sorties d'un pipeline (rejeter les descriptions trop faibles générées par un modèle de captioning d'images), mais aussi des garde-fous appliqués en revue de code, par exemple pour que toutes les actions asynchrones d'un store passent par un point de contrôle commun.

Concepts associés

Concept LLM & agents Critères d’acceptation / Acceptance criteria Découvrir → Concept LLM & agents Durcir, durcissement / Hardening Découvrir → Concept LLM & agents Harnais / Harness Découvrir →

Vous ne comprenez rien à ce charabia, mais vous avez envie d’améliorer vos utilisations informatiques ? Contactez-moi.

Chaque situation est différente : dites-moi où vous en êtes, on regarde ensemble ce qui a du sens pour vous.

Me contacter

Un premier échange, sans engagement, pour comprendre où vous en êtes.

Racontez votre expérience

Comment ce concept intervient-il dans vos usages ? Partagez un exemple : les contributions sont relues avant publication.

3 réponses

  1. Camille R.

    J’avais mis en place un garde-fou sur la qualité des sorties d’un pipeline de génération de descriptions d’images : en dessous d’un certain niveau de détail, je rejetais la sortie et je reformulais le prompt plutôt que de la garder telle quelle.

    Répondre
  2. Karim F.

    En relisant une série d’articles techniques, j’ai noté que le principal défaut n’était pas la forme mais l’absence de garde-fous opérationnels : plusieurs simplifications devenaient trompeuses faute d’être encadrées par des mises en garde claires.

    Répondre
  3. Tom V.

    Pendant une revue de code, j’ai fait ajouter un garde-fou commun à toutes les actions asynchrones d’un store, pour que l’erreur constatée sur un cas précis ne puisse plus se reproduire ailleurs dans le code.

    Répondre

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *