Choisir un modèle pour vos outils d’IA : services cloud ou Ollama en local

Un outil d’IA personnalisé a besoin d’un fournisseur pour traiter son prompt et son texte d’entrée. Dans Frset, vous pouvez connecter un service à distance ou un service Ollama exécutant un modèle local sur votre Mac. Choisissez en fonction de la tâche, du lieu où le texte sera traité et des ressources que votre ordinateur peut mobiliser ; un point de terminaison local ne prouve pas, à lui seul, que le modèle sélectionné s’exécute en local.

Déterminez les critères qui comptent pour cette tâche

Pour une courte reformulation, vérifiez si le modèle préserve les noms et le sens. Pour extraire des actions, vérifiez qu’il laisse les responsables et les dates manquants comme non précisés. Comparez les fournisseurs avec le même petit exemple avant de choisir celui que vous utiliserez régulièrement.

• Service à distance : la requête est traitée par le fournisseur configuré. Vérifiez ses identifiants, l’accès au modèle, ses frais d’utilisation et sa politique de traitement des données.
• Modèle Ollama local : l’inférence utilise les ressources de votre Mac. Préparez le service et téléchargez un modèle local adapté avant de connecter Frset.
• Modèle Ollama dans le cloud : un service Ollama local peut aussi transmettre les requêtes à un modèle cloud. Le parcours des données diffère alors de celui d’une inférence locale.

Ollama explique le traitement local et cloud dans sa FAQ. Si le traitement local est une exigence, sélectionnez un modèle local déjà installé. Frset n’installe pas les modèles et ne modifie pas pour vous le lieu de traitement du fournisseur.

Connectez un fournisseur à distance

1. Ouvrez les réglages Frset et sélectionnez AI Providers.
2. Ajoutez le type de fournisseur approprié et donnez un nom reconnaissable à l’entrée.
3. Vérifiez l’URL de base et saisissez les identifiants requis par le fournisseur.
4. Sélectionnez ou saisissez un modèle accessible à ce compte.
5. Utilisez Verify pour tester la connexion et résoudre les problèmes de configuration signalés.
6. Vérifiez que la configuration est enregistrée et que le fournisseur est activé, puis sélectionnez-le dans les réglages de votre outil personnalisé.

Utilisez les identifiants API du service, et non le mot de passe de son site de discussion. L’accès à l’API du fournisseur et sa facturation sont indépendants de l’offre Frset. La liste des modèles disponibles peut évoluer : consultez la liste ou la documentation actuelle du fournisseur au lieu de vous fier à l’ancien nom d’un modèle dans un tutoriel.

Connectez un modèle Ollama local

Préparez Ollama en suivant ses instructions officielles et vérifiez que le modèle local voulu est installé et disponible. Sa documentation sur la compatibilité décrit le point de terminaison utilisé pour cette connexion.

Dans Frset :

1. Ajoutez un fournisseur Ollama dans les réglages AI Providers.
2. Conservez http://localhost:11434/v1 comme URL de base pour le service par défaut sur le même Mac.
3. Sélectionnez ou saisissez le nom exact du modèle local installé.
4. Utilisez Verify pendant qu’Ollama est en cours d’exécution pour tester la connexion.
5. Vérifiez que la configuration est enregistrée et que le fournisseur est activé, puis associez-le à votre outil personnalisé.
6. Lancez un court essai avec un texte non sensible et examinez le résultat avant d’utiliser du contenu réel.

La configuration locale par défaut d’Ollama ne nécessite pas de clé API de fournisseur dans Frset. Une autre adresse, un proxy ou un modèle cloud peuvent avoir d’autres exigences. Il n’est pas nécessaire d’exposer le service local à d’autres ordinateurs pour ce workflow sur un seul Mac.

Vérifiez la configuration avant de modifier le prompt

Si le fournisseur est inaccessible, vérifiez d’abord que son service est en cours d’exécution et que l’URL de base est correcte. Pour un fournisseur à distance, vérifiez aussi l’accès réseau et les identifiants. Si un modèle est indisponible, confirmez son identifiant exact et vérifiez qu’il est installé en local ou accessible au compte distant.

Une réponse locale lente ou incomplète peut être liée à la taille du modèle, à la longueur du texte d’entrée et à la mémoire disponible. Commencez par un passage plus court et un modèle adapté à votre Mac. Utilisez le suivi du système pour observer les ressources ; le seul pourcentage de CPU ne permet pas d’identifier la cause d’une requête échouée.

Si la connexion fonctionne mais que le résultat ne répond pas à vos attentes, améliorez alors le prompt. Le guide des outils d’IA personnalisés donne des exemples de résumé, de reformulation et d’extraction d’actions. Il s’agit d’outils de texte : connecter un fournisseur n’en fait pas des exécuteurs de scripts arbitraires ni des outils de génération d’images.

Répétez la comparaison dans des conditions identiques

Essayez les mêmes passages avec chaque candidat : un cas ordinaire, un cas ambigu et un cas contenant des noms ou des chiffres à préserver. Comparez d’abord l’exactitude, puis la longueur ou la rapidité des réponses. Notez le fournisseur et le modèle pour pouvoir refaire l’essai après un changement.

Un service à distance reçoit le prompt et le texte soumis. L’inférence locale peut malgré tout nécessiter une connexion réseau pour télécharger ou mettre à jour les modèles. Consultez la Politique de confidentialité Frset et la documentation du fournisseur pour comprendre le parcours des données correspondant à votre configuration.