Escolha um modelo para ferramentas de IA personalizadas: serviços na nuvem ou Ollama local

Uma ferramenta de IA personalizada precisa de um provedor para processar o prompt e a entrada. No Frset, você pode conectar um serviço remoto ou um serviço Ollama que executa um modelo local no Mac. Escolha conforme a tarefa, onde o texto será processado e o que o computador consegue executar com folga; ter um endpoint local, por si só, não comprova que o modelo selecionado está sendo executado localmente.

Decida o que importa para esta tarefa

Para uma reformulação curta, teste se o modelo preserva nomes e sentido. Para extrair ações, confira se o modelo não inventa responsáveis nem datas que não aparecem no texto. Compare os provedores com a mesma amostra curta antes de escolher um para uso recorrente.

• Serviço remoto: A solicitação é processada pelo provedor configurado. Confira as credenciais, o acesso ao modelo, as tarifas de uso e a política de dados.
• Modelo Ollama local: A inferência do modelo usa os recursos do Mac. Prepare o serviço e baixe um modelo local adequado antes de conectar o Frset.
• Modelo Ollama na nuvem: Um serviço Ollama local também pode encaminhar solicitações a um modelo na nuvem. Esse fluxo de dados é diferente da inferência local.

A Ollama explica o processamento local e na nuvem em suas perguntas frequentes. Se o requisito for processamento local, selecione um modelo local instalado. O Frset não instala modelos nem altera o local de processamento do provedor por você.

Conecte um provedor remoto

1. Abra os ajustes do Frset e selecione AI Providers.
2. Adicione o tipo de provedor adequado e dê à entrada um nome fácil de reconhecer.
3. Confira a URL base e informe as credenciais exigidas pelo provedor.
4. Selecione ou informe um modelo disponível para essa conta.
5. Use Verify para testar a conexão e resolver qualquer problema de configuração informado.
6. Confirme que a configuração foi salva e que o provedor está ativado; depois, selecione-o nos ajustes da ferramenta personalizada.

Use as credenciais de API do serviço, não a senha do site de chat. O acesso à API e a cobrança do provedor são independentes do plano do Frset. Os modelos disponíveis podem mudar; consulte a lista de modelos ou a documentação atual do provedor em vez de confiar no nome antigo de um modelo em um tutorial.

Conecte um modelo Ollama local

Prepare o Ollama seguindo as instruções oficiais e confira se o modelo local desejado está instalado e disponível. A documentação de compatibilidade descreve o endpoint usado nesta conexão.

No Frset:

1. Adicione um provedor Ollama nos ajustes de AI Providers.
2. Mantenha http://localhost:11434/v1 como URL base para o serviço padrão no mesmo Mac.
3. Selecione ou informe o nome exato do modelo local instalado.
4. Use Verify enquanto o Ollama estiver em execução para testar a conexão.
5. Confirme que a configuração foi salva e que o provedor está ativado; depois, vincule-o à sua ferramenta personalizada.
6. Execute uma amostra curta e sem dados sensíveis e confira o resultado antes de usar material real.

A configuração local padrão do Ollama não exige uma chave de API do provedor no Frset. Outro endereço, proxy ou modelo na nuvem pode ter requisitos diferentes. Não é necessário expor o serviço local a outros computadores para este fluxo no mesmo Mac.

Diagnostique a configuração antes de reformular o prompt

Se não for possível acessar o provedor, confira primeiro se o serviço está em execução e se a URL base está correta. Para um provedor remoto, confira também o acesso à rede e as credenciais. Se um modelo estiver indisponível, verifique o identificador exato e se ele está instalado localmente ou acessível à conta remota.

Uma resposta local lenta ou incompleta pode estar relacionada ao tamanho do modelo, ao comprimento da entrada e à memória disponível. Comece com um trecho menor e um modelo compatível com o Mac. Use o monitoramento do sistema para observar o uso dos recursos; o percentual da CPU, sozinho, não explica por que uma solicitação falhou.

Se a conexão funcionar, mas o resultado não atender aos requisitos, refine o prompt. O guia de ferramentas de IA personalizadas traz exemplos de resumos, reformulações e extração de ações. Essas ferramentas processam texto; conectar um provedor não as transforma em executores de scripts arbitrários ou ferramentas de geração de imagens.

Mantenha uma comparação que possa repetir

Experimente os mesmos poucos trechos com cada opção: um caso comum, um ambíguo e outro com nomes ou números que precisam ser preservados. Compare a correção antes do tamanho ou da velocidade das respostas. Mantenha o provedor e o modelo identificados para repetir a avaliação depois de uma mudança.

Ao usar um serviço remoto, ele recebe o prompt e o texto enviado. Na inferência local, o download e as atualizações dos modelos ainda podem exigir conexão com a internet. Consulte a Política de Privacidade do Frset e a documentação do provedor para entender o fluxo de dados da sua configuração.