Les actualités d’Azure OpenAI

L’ajout de la fonctionnalité « Azure OpenAI on your Data » est la principale amélioration ! Elle implique l’intégration de l’Enterprise Search, permettant aux entreprises d’utiliser les LLM sur leurs propres données tout en garantissant la conformité avec les politiques de données internes. Les unités opérationnelles peuvent ainsi exploiter la puissance de ces modèles pour obtenir des réponses justifiées (avec des citations) à leurs questions sur la base des documents de l’entreprise. Des cas d’utilisation directe peuvent être envisagés pour les fonctions de soutien telles que les services juridiques, les ventes et les ressources humaines. Par exemple, la possibilité d’interroger des contrats, de les comparer, de rechercher des clauses spécifiques, etc.

Dans l’interface de chat, vous pouvez désormais ajouter vos propres données (voir les images ci-dessous). L’ajout de vos données implique la création d’un Index Cognitive Search à partir d’un conteneur contenant vos fichiers sur un compte de stockage (les formats de fichiers pris en charge pour la création d’un index local sont les suivants : .txt, .md, .md, .md, etc : .txt, .md, .html, .pdf, .docx, et .pptx : Microsoft Documentation). Cet index sera utilisé pour retrouver les informations pertinentes en fonction de la question de l’utilisateur.

Voici la vidéo « Add Your Own Data » de Microsoft :

La deuxième fonctionnalité la plus attendue est la possibilité d’ajouter des plugins à Azure OpenAI. Les plugins sont des extensions conçues pour étendre les capacités du chatbot OpenAI. Ils permettent à l’IA d’accéder à des informations actualisées ou d’utiliser des services tiers. Pour l’instant, cette fonctionnalité n’est pas encore disponible dans le Studio, mais elle devrait être introduite en juillet (aperçu limité).

Microsoft explique que si l’aperçu de juillet se concentrera sur les plugins préconstruits (tels que Bing Search, Azure Cognitive Search, Azure SQL, Azure Cosmos DB et Microsoft Translator), les clients pourront utiliser leurs propres plugins à l’avenir ! Si vous voulez en savoir plus sur la façon de créer des plugins pour OpenAI (applicable à Azure OpenAI selon Microsoft), je vous suggère de consulter ce tutoriel.

Voici la présentation de Microsoft :

Un autre ajout est la mise en place de quotas. L’objectif des quotas est de limiter les abus et de garantir une utilisation correcte par les clients. Les quotas peuvent être observés au niveau de l’abonnement et de la région, et leur contrôle peut être effectué sur différents modèles déployés. Les quotas doivent être spécifiés lors du déploiement des modèles et vous permettent de les personnaliser en fonction de vos besoins.

Il est également possible de demander une augmentation des quotas de TPM (Token per minute) d’Azure OpenAI en remplissant le formulaire suivant : Request for Quota Increase. Notez qu’au moment de la rédaction de cet article, le traitement de votre demande peut prendre un certain temps car Microsoft fait face à une forte demande.

Enfin, l’ajout de filtres de contenu permet aux clients de spécifier une liste de termes et d’expressions interdits (ou autorisés). Ces filtres garantissent que le contenu est adapté au public auquel il est destiné. Les filtres sont personnalisables par le client, mais je trouve personnellement que les options « faible », « moyen » et « élevé » sont un peu ambiguës. Je ne peux que vous recommander de les essayer par vous-même après avoir lu la documentation de Microsoft.

Veuillez noter que par défaut, le client n’a pas accès à toutes les options de filtrage. La demande peut être faite ici : Demande de modification des filtres de contenu.

Ecrit par Laurent Gagliardi, Ingénieur Data chez Expertime