Atividade Ollama Prompt no Jitterbit Studio
Introdução
Uma atividade Prompt do Ollama, usando sua conexão Ollama, envia um prompt para o modelo Ollama especificado e deve ser usada como um destino para consumir dados em uma operação.
Cada prompt e resposta do modelo são armazenados no histórico de conversa para o ID de chat na memória do agente. Assim, prompts posteriores que usam o mesmo ID de chat incluem a conversa anterior como contexto. O histórico de conversa é limpo quando o agente reinicia.
Criar uma atividade Ollama Prompt
Uma instância de uma atividade Prompt do Ollama é criada a partir de uma conexão Ollama usando seu tipo de atividade Prompt.
Para criar uma instância de uma atividade, arraste o tipo de atividade para a tela de design ou copie o tipo de atividade e cole-o na tela de design. Para mais detalhes, consulte Criar uma instância de atividade em Reutilização de componentes.
Uma atividade Prompt do Ollama existente pode ser editada a partir destes locais:
- A tela de design (consulte Menu de ações de componentes em Tela de design).
- A aba Componentes do painel de projeto (consulte Menu de ações de componentes em Aba Componentes do painel de projeto).
Configurar uma atividade Ollama Prompt
Siga estas etapas para configurar uma atividade Prompt do Ollama:
-
Etapa 1: Inserir um nome e especificar configurações
Forneça um nome para a atividade, selecione um modelo e especifique um prompt e configurações opcionais. -
Etapa 2: Revisar os esquemas de dados
Quaisquer esquemas de solicitação ou resposta são exibidos.
Etapa 1: Inserir um nome e especificar configurações
Nesta etapa, forneça um nome para a atividade, selecione um modelo e especifique um prompt e configurações opcionais. Cada elemento da interface do usuário desta etapa é descrito abaixo.
Dica
Os campos com um ícone de variável suportam o uso de variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete de abertura [ no campo ou clique no ícone de variável para exibir um menu listando as variáveis existentes para escolher.
-
Menu de endpoint: Se você tiver vários endpoints do mesmo tipo de conector configurados, um menu no topo da tela exibe o nome do endpoint atual. Clique no menu para alternar para um endpoint diferente. Para mais informações, consulte Alterar o endpoint atribuído em Telas de configuração.
- Editar endpoint: Aparece quando você passa o mouse sobre o nome do endpoint atual. Clique para editar a configuração de conexão do endpoint atualmente selecionado.
-
Nome: Insira um nome para identificar a atividade. O nome deve ser único para cada atividade Prompt do Ollama e não pode conter barras
/ou dois-pontos:. -
Chat ID: Insira um ID de chat para recuperar contexto de uma conversa anterior. Se vazio e não fornecido na transformação de solicitação, um novo ID de chat é gerado e fornecido na resposta da atividade.
-
Escolher opção: Especifique o método de seleção do modelo, seja Listar todos os modelos ou Inserir identificador do modelo.
-
Listar todos os modelos: Selecione essa opção para escolher em uma lista de modelos recuperados do endpoint Ollama:
-
Selecionar um modelo: Esta seção exibe os modelos disponíveis no endpoint Ollama. Apenas modelos que suportam conclusão de texto são listados. Modelos DeepSeek são excluídos da lista.
-
Modelo selecionado: Após um modelo ser selecionado, ele é listado aqui.
-
Pesquisar: Digite o valor de qualquer coluna na caixa de pesquisa para filtrar a lista de modelos. A pesquisa não diferencia maiúsculas de minúsculas. Se os modelos já estiverem exibidos na tabela, os resultados são filtrados em tempo real a cada digitação. Para recarregar modelos do endpoint ao pesquisar, digite os critérios de pesquisa e depois atualize, conforme descrito abaixo.
-
Atualizar: Clique no ícone de atualização ou na palavra Atualizar para recarregar modelos do endpoint Ollama. Isso pode ser útil se modelos foram enviados para um servidor Ollama auto-hospedado. Esta ação atualiza todos os metadados usados para construir a tabela de modelos exibida na configuração.
-
Selecionar um modelo: Na tabela, clique em qualquer lugar da linha para selecionar um modelo. Apenas um modelo pode ser selecionado. As informações disponíveis para cada modelo são obtidas do endpoint Ollama:
-
Nome de Exibição: O nome do modelo.
-
ID: O ID do modelo usado em requisições de API, incluindo sua tag (por exemplo,
llama3.2:latest). -
Modificado: A data e hora em que o modelo foi modificado pela última vez.
-
Dica
Se a tabela não for preenchida com os modelos disponíveis, a conexão Ollama pode não ter sido bem-sucedida. Certifique-se de que está conectado reabrindo a conexão e testando novamente as credenciais. Para um servidor Ollama auto-hospedado, também confirme que pelo menos um modelo foi enviado para o servidor.
Alternativamente, o modelo pode ser especificado no campo ID do Modelo ou fornecido na transformação de requisição. Se um modelo for especificado em múltiplos lugares, a seguinte ordem de precedência é seguida:
- Um modelo fornecido na transformação de requisição substitui todos os campos abaixo.
- Um modelo especificado no campo ID do Modelo substitui o campo restante abaixo, mesmo se Listar todos os modelos estiver selecionado.
- Um modelo selecionado na lista Selecionar um modelo tem a menor precedência.
-
-
Inserir identificador do modelo: Selecione esta opção para inserir manualmente o ID de um modelo:
- ID do Modelo: Digite o ID do modelo (por exemplo,
llama3.2). Para Ollama Cloud, use um nome de modelo listado em modelos da nuvem Ollama. Para um servidor auto-hospedado, o modelo já deve ter sido enviado para o servidor.
- ID do Modelo: Digite o ID do modelo (por exemplo,
-
Prompt: Digite o texto para solicitar ao modelo.
-
Configurações opcionais: Clique para expandir configurações opcionais adicionais:
-
Ativar raciocínio (modelos de raciocínio): Selecione para ativar o raciocínio, que permite que um modelo de raciocínio raciocine sobre um problema antes de gerar uma resposta. O raciocínio do modelo é retornado no campo
thinkingda resposta. Esta opção é desativada por padrão. Quando esta opção é desmarcada, o raciocínio é desativado, inclusive para modelos que raciocinam por padrão.Nota
O raciocínio é suportado apenas por modelos de raciocínio. Consulte a documentação de raciocínio Ollama para confirmar se o modelo selecionado suporta raciocínio.
-
Manter modelo carregado: Selecione por quanto tempo o modelo permanece carregado na memória após a conclusão da requisição (consulte Como manter um modelo carregado na memória ou descarregá-lo imediatamente?). Manter um modelo carregado evita tempo de carregamento em requisições subsequentes, mas continua a usar memória no servidor Ollama:
- 5 minutos: (Padrão.) Mantém o modelo carregado por 5 minutos.
- 30 minutos: Mantém o modelo carregado por 30 minutos.
- 1 hora: Mantém o modelo carregado por 1 hora.
- Manter carregado indefinidamente: Mantém o modelo carregado até que o servidor Ollama seja reiniciado ou o modelo seja descarregado.
- Descarregar após cada chamada: Descarrega o modelo imediatamente após a resposta ser retornada.
-
-
Aleatoriedade e diversidade:
- Temperature: Informe um parâmetro de temperature. Valores mais altos produzem respostas mais variadas, e valores mais baixos produzem respostas mais determinísticas. O valor deste parâmetro pode variar entre
0e2, por exemplo:0.8. - Top P: Informe um parâmetro Top P para amostragem por núcleo, que restringe a seleção de tokens ao menor conjunto de tokens cuja probabilidade acumulada atinge este valor. O valor deste parâmetro pode variar entre
0e1, por exemplo:0.9. - Top K: Informe um parâmetro Top K, que restringe a seleção de tokens ao número especificado de tokens com maior probabilidade, por exemplo:
40. - Seed: Informe um parâmetro seed. Usar o mesmo valor de seed com o mesmo prompt reproduz a mesma saída. Deixe este campo vazio para uma saída não determinística.
Quando um campo deste grupo está vazio, usa-se o valor padrão do modelo.
- Temperature: Informe um parâmetro de temperature. Valores mais altos produzem respostas mais variadas, e valores mais baixos produzem respostas mais determinísticas. O valor deste parâmetro pode variar entre
-
Contexto e comprimento:
- Context Window: Informe o tamanho da janela de contexto em tokens, que limita o comprimento combinado do prompt, do histórico de conversa e da saída gerada. O padrão é
4096. O valor máximo depende do modelo selecionado e da memória disponível no servidor Ollama (consulte Como especificar o tamanho da janela de contexto?). - Max Output Tokens: Informe o número máximo de tokens a gerar na resposta. O padrão é
2000. Informe-1para gerar sem limite.
- Context Window: Informe o tamanho da janela de contexto em tokens, que limita o comprimento combinado do prompt, do histórico de conversa e da saída gerada. O padrão é
-
Continuar em caso de erro: Selecione para continuar a execução da atividade se um erro for encontrado para um dataset em uma solicitação em lote. Se forem encontrados erros, eles serão gravados no log de operações e retornados na matriz
errorsda resposta da atividade. -
Salvar e sair: Se ativado, clique para salvar a configuração desta etapa e fechar a configuração da atividade.
-
Próximo: Clique para armazenar temporariamente a configuração desta etapa e prosseguir para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.
-
Descartar alterações: Depois de fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.
Etapa 2: Revisar os esquemas de dados
Os esquemas de solicitação ou resposta são exibidos. Cada elemento da interface do usuário desta etapa é descrito abaixo.
-
Esquema de dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.
Nota
Os dados fornecidos em uma transformação têm precedência sobre a configuração da atividade.
O esquema de solicitação aceita um ou mais registros na matriz
schema, e cada registro é enviado ao modelo como uma solicitação separada. Além de substituir configurações de atividade comochatId,modelId,prompte as configurações de geração opcionais, um registro pode fornecer estes campos:system: Uma instrução do sistema para a conversa. Uma instrução do sistema fornecida na solicitação substitui qualquer instrução do sistema armazenada para o ID do chat. Quandosystemestá vazio, a instrução do sistema armazenada continua sendo usada.tool_callsetool_response: As chamadas de ferramentas retornadas por uma resposta anterior do modelo e os resultados da execução dessas ferramentas, usados para retornar resultados de ferramentas ao modelo em um fluxo de trabalho de chamada de ferramenta.
O conector Ollama usa a API Ollama. Consulte a documentação do endpoint de chat para informações sobre os nós de esquema e campos.
-
Atualizar: Clique no ícone de atualização ou na palavra Atualizar para regenerar esquemas do endpoint Ollama. Esta ação também regenera um esquema em outros locais do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.
-
Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.
-
Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.
-
Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.
Próximas etapas
Após configurar uma atividade Prompt do Ollama, conclua a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as definições da operação, que incluem a capacidade de encadear operações que estão no mesmo ou em fluxos de trabalho diferentes.
As ações de menu para uma atividade podem ser acessadas no painel do projeto e na tela de design. Para obter detalhes, consulte Menu de ações de atividade em Conceitos básicos do conector.
As atividades Prompt do Ollama podem ser usadas como destino com estes padrões de operação:
- Padrão de transformação
- Padrão de duas transformações (como primeiro ou segundo destino)
Para usar a atividade com funções de script, escreva os dados em um local temporário e, em seguida, use esse local temporário na função de script.
Quando pronto, implante e execute a operação e valide o comportamento verificando os registros da operação.