Blog
Elige un modelo para tus herramientas de IA personalizadas: servicios en la nube u Ollama local
Primero conecta un proveedor, prueba una tarea de texto breve y elige dónde ejecutarlo según el material, la calidad del modelo y los recursos disponibles.
Una herramienta de IA personalizada necesita un proveedor que procese el prompt y la entrada. En Frset puedes conectar un servicio remoto o un servicio de Ollama que ejecute un modelo local en tu Mac. Elige según la tarea, el lugar donde se procesará el texto y lo que tu computadora pueda ejecutar cómodamente; que un endpoint sea local no demuestra por sí solo que el modelo seleccionado se ejecute localmente.
Decide qué importa para esta tarea
Para una reescritura breve, comprueba si el modelo conserva los nombres y el sentido. Para extraer acciones, verifica que deje sin especificar los responsables y las fechas que falten. Antes de elegir un proveedor para usarlo con frecuencia, compara varios con la misma muestra breve.
- Servicio remoto: El proveedor configurado procesa la solicitud. Revisa sus credenciales, acceso al modelo, cargos por uso y política de datos.
- Modelo local de Ollama: La inferencia del modelo usa los recursos de tu Mac. Antes de conectar Frset, prepara el servicio y descarga un modelo local adecuado.
- Modelo de Ollama en la nube: Un servicio local de Ollama también puede redirigir solicitudes a un modelo en la nube. Esa ruta de datos es distinta de la inferencia local.
Ollama explica el procesamiento local y en la nube en sus preguntas frecuentes. Si necesitas procesamiento local, selecciona un modelo local instalado. Frset no instala modelos ni cambia por ti el lugar donde el proveedor procesa las solicitudes.
Conecta un proveedor remoto
- Abre los ajustes de Frset y selecciona AI Providers.
- Agrega el tipo de proveedor correspondiente y asígnale un nombre fácil de reconocer.
- Revisa su URL base e ingresa las credenciales que requiere.
- Selecciona o escribe un modelo disponible para esa cuenta.
- Usa Verify para comprobar la conexión y resolver cualquier problema de configuración que aparezca.
- Confirma que la configuración esté guardada y el proveedor activado; después selecciónalo en los ajustes de tu herramienta personalizada.
Usa las credenciales de API del servicio, no la contraseña de su sitio de chat. El acceso a la API del proveedor y los cargos por uso son independientes del plan de Frset. Los modelos disponibles pueden cambiar; consulta la lista de modelos o la documentación actual del proveedor en lugar de confiar en el nombre antiguo que aparezca en un tutorial.
Conecta un modelo local de Ollama
Prepara Ollama con sus instrucciones oficiales y confirma que el modelo local que quieres usar esté instalado y disponible. Su documentación de compatibilidad describe el endpoint de esta conexión.
En Frset:
- Agrega un proveedor Ollama en los ajustes de AI Providers.
- Conserva
http://localhost:11434/v1como URL base para el servicio predeterminado en la misma Mac. - Selecciona o escribe el nombre exacto del modelo local instalado.
- Usa Verify mientras Ollama esté en ejecución para comprobar la conexión.
- Confirma que la configuración esté guardada y el proveedor activado; luego vincula tu herramienta personalizada con ese proveedor.
- Ejecuta una muestra breve que no contenga información sensible y revisa el resultado antes de usar material real.
La configuración local predeterminada de Ollama no requiere una clave API del proveedor en Frset. Una dirección, un proxy o un modelo en la nube distintos pueden tener otros requisitos. Para este flujo entre apps de una misma Mac no es necesario exponer el servicio local a otras computadoras.
Revisa la configuración antes de reescribir el prompt
Si no se puede conectar con el proveedor, primero confirma que el servicio esté en ejecución y que la URL base sea correcta. Si es un proveedor remoto, revisa también el acceso a la red y las credenciales. Si un modelo no está disponible, confirma su identificador exacto y que esté instalado localmente o accesible para la cuenta remota.
Una respuesta local lenta o incompleta puede depender del tamaño del modelo, la longitud de la entrada y la memoria disponible. Empieza con un pasaje más corto y un modelo que tu Mac pueda ejecutar. Usa Monitoreo del sistema para observar el uso de recursos; el porcentaje de CPU por sí solo no permite determinar por qué falló una solicitud.
Si la conexión funciona pero el resultado no cumple tus requisitos, entonces ajusta el prompt. La guía de herramientas de IA personalizadas incluye ejemplos para resumir, reescribir y extraer acciones. Son herramientas de texto; conectar un proveedor no las convierte en ejecutores de scripts arbitrarios ni en herramientas para generar imágenes.
Mantén una comparación que puedas repetir
Prueba los mismos pasajes con cada opción: un caso común, uno ambiguo y uno con nombres o números que deban conservarse. Compara primero la exactitud y después la extensión o velocidad de la respuesta. Identifica el proveedor y el modelo para repetir la evaluación después de un cambio.
Al usar un servicio remoto, este recibe el prompt y el texto enviado. La descarga y actualización de modelos aún pueden requerir conexión a internet cuando ejecutas inferencia local. Consulta la Política de privacidad de Frset y la documentación de tu proveedor para revisar la ruta de datos de tu configuración.