Comprendre les fonctionnalités d’Azure OpenAI

Si vous êtes intéressé par l’IA, vous avez sans doute entendu parler d’OpenAI et de ses modèles d’IA (ChatGPT, DALL-E, Codex). Les plus curieux d’entre vous savent également qu’OpenAI est en partenariat avec Microsoft pour l’utilisation du cloud Azure et le développement de l’IA. L’objectif est d’accélérer la recherche autour de l’IA générative et de la rendre accessible à tous.

Récemment, de nombreuses annonces ont été faites concernant OpenAI et son intégration dans les services Microsoft, que ce soit dans Azure, aux côtés de Cognitive Services (Azure OpenAI), à travers le moteur de recherche Bing (New Bing), ou encore à travers Modern Workplace (Microsoft 365 Copilot).

Ce billet traitera d’Azure OpenAI, notamment des avantages de l’utilisation du cloud Azure pour OpenAI, d’une présentation d’Azure OpenAI Studio et de quelques exemples montrant comment Azure OpenAI peut être utilisé avec d’autres services cognitifs.

Pour déployer Azure OpenAI, vous devez actuellement avoir :

• Un abonnement Azure.
• Remplir un formulaire de demande (pour obtenir l’accès à AzureOpenAI). Une fois l’accès accordé, vous pouvez créer la ressource.

Vous pouvez utiliser Azure OpenAI Studio pour expérimenter et gérer vos modèles, ainsi que pour former des modèles personnalisés. La ressource fournit également une clé et un point de terminaison qui vous permettent d’effectuer des appels API à partir de votre application.

Microsoft a renforcé sa stratégie PaaS autour de l’IA en intégrant OpenAI dans son cloud. Cette intégration offre plusieurs avantages :

• Une meilleure expérience utilisateur grâce à Azure OpenAI Studio.
• Interfaces pour le réglage fin et la surveillance.
• Entraînement de modèles personnalisés basés sur les données de l’utilisateur, qui ne seront pas utilisées ou communiquées pour l’entraînement d’autres modèles selon Microsoft

En outre, Microsoft fait preuve d’un engagement responsable en matière d’IA grâce au filtrage du contenu, qui est modifiable sur demande, et à des notes de transparence.

L’intégration d’OpenAI dans Azure offre des mesures de sécurité telles que le contrôle d’accès basé sur les rôles (RBAC), les réseaux virtuels et un choix de régions Azure pour la gouvernance des données.

Azure OpenAI Studio présente un onglet Playground permettant aux utilisateurs de tester leurs cas d’utilisation. Ce terrain de jeu est divisé en deux onglets :

• Completions propose des exemples préchargés comprenant le résumé, la génération de contenu, la classification de texte, l’analyse de sentiment, la traduction de langue, y compris le code.
• « Chat » permet à l’utilisateur de tester ChatGPT. Il est possible de fournir à l’IA conversationnelle un « système de message » ainsi que des exemples pour contraindre ses réponses.

Important : pour l’instant, la fonctionnalité Chat n’est disponible que dans 2 régions Azure (EastUS et SouthCentralUS). Elle sera accessible dans d’autres régions à l’avenir.

Cette fonctionnalité partage également un onglet « Paramètres » (encadré en jaune sur l’image n° 1) qui permet d’affiner le modèle et comprend des paramètres clés tels que :

• Température : varie de 0 à 1 et contrôle le caractère aléatoire. Une valeur faible indique que le modèle produira des réponses plus déterministes. Une valeur plus élevée augmente la créativité des réponses.
• Longueur maximale (jetons) : indique le nombre maximal de jetons par réponse. Cette longueur est partagée entre l’invite et la réponse du modèle. Un jeton équivaut à 3-4 caractères pour un texte anglais, cette définition est très importante pour les considérations de prix (Calculateur de prix + prix Azure OpenAI).
• Séquence d’arrêt : permet d’arrêter les réponses à un point précis, comme la fin d’une phrase. Il peut également s’agir d’un  » ; » pour indiquer la fin d’une requête SQL.
• Top-p : varie de 0 à 1 et contrôle le caractère aléatoire en sélectionnant les jetons les plus probables. L’augmentation de Top-p permet au modèle de choisir des jetons avec une faible probabilité.

Voici l’interface « Chat » avec un exemple d’assistant IA jouant le rôle de conseiller pour une entreprise de télécommunication française

Azure OpenAI Studio partage également un onglet Management pour contrôler les modèles déployés et gérer les fichiers au cas où l’utilisateur souhaiterait former un modèle personnalisé.

Tout d’abord, l’onglet Déploiement permet à l’utilisateur de voir les modèles déployés.

L’onglet Models offre la possibilité de déployer des modèles pré-entraînés ou d’entraîner un modèle personnalisé. Des modèles de texte pour GPT et des modèles de code pour Codex sont disponibles.

Les modèles A à D augmentent en complexité et fournissent des réponses de meilleure qualité, mais à un coût et un temps d’inférence plus élevés (voir le diagramme ci-dessous). Davinci génère généralement de meilleures réponses, mais il est recommandé d’essayer chaque modèle pour déterminer celui qui correspond le mieux à vos besoins et à votre budget.

Le même concept s’applique aux modèles Codex, Cushman étant plus adapté aux applications en temps réel en raison de sa vitesse.

Enfin, l’onglet Gestion des fichiers permet à l’utilisateur de télécharger des données pour entraîner et valider les modèles personnalisés.

L’un des principaux avantages de l’intégration d’OpenAI dans Azure est la facilité de combiner OpenAI avec d’autres services cognitifs pour relever les défis de l’entreprise.

Exemple 1 – Centre d’appel : Azure OpenAI peut être utilisé en conjonction avec Azure Speech pour analyser les conversations entre le conseiller et le client. Azure Speech-to-text transcrit l’audio en texte qui peut être analysé par Azure OpenAI. Le modèle peut ensuite être utilisé pour classer la conversation, effectuer une analyse des sentiments, générer des questions en temps réel à suggérer au conseiller et extraire des informations (génération de résumés, analyse) pour alimenter une base de données clients.

Exemple 2 – Entreprise GPT : Azure OpenAI est utilisé en conjonction avec Azure Cognitive Search pour interroger directement les documents internes de l’entreprise (RH, juridique, marketing, etc.). Azure Cognitive Search indexe des documents prédéfinis par l’entreprise (avec l’aide d’un Form Recognizer pour l’OCR si nécessaire) ou même des bases de données entières. Une fois les documents indexés, Azure OpenAI peut optimiser la requête de l’utilisateur pour interroger l’index et générer une réponse tout en citant les documents justificatifs de la réponse (voir juste en dessous ; Github repo).

En conclusion, Azure OpenAI offre aux entreprises de puissantes capacités d’IA qui peuvent être facilement intégrées à d’autres services cognitifs pour relever divers défis commerciaux. Sa capacité à analyser les conversations, à classer les informations, à effectuer une analyse des sentiments et à extraire des informations de documents peut considérablement améliorer l’expérience des clients et l’efficacité opérationnelle. En tirant parti d’Azure OpenAI, les entreprises peuvent exploiter de nouvelles possibilités et acquérir un avantage concurrentiel dans leurs secteurs respectifs.