Atividade Amazon Bedrock Register Tools no Jitterbit Studio
Introdução
Uma atividade Register Tools do Amazon Bedrock, usando sua conexão Amazon Bedrock, registra ferramentas para uso com os modelos suportados do Amazon Bedrock. A atividade suporta apenas modelos da Amazon, Anthropic, Cohere e Meta e destina-se a ser usada como um destino para consumir dados em uma operação. Os esquemas de ferramentas podem ser originários da atividade List Tools do conector MCP Client ou fornecidos diretamente através da transformação de solicitação como definições de funções personalizadas.
Quando a operação é executada, o Jitterbit armazena os esquemas de ferramentas registrados na memória do agente privado. Qualquer operação encadeada para ser executada após esta tem acesso automático a esses esquemas quando chama o LLM. Não é necessário capturar a resposta de Register Tools ou passar as definições de ferramentas explicitamente para a operação Prompt subsequente.
Importante
Para usar a atividade Register Tools, é necessário usar um agente privado.
Pré-requisitos
Para usar esta atividade com sucesso, é necessário ter as seguintes permissões de conta AWS IAM:
bedrock:ListFoundationModelsbedrock:GetFoundationModelbedrock:InvokeModel
Criar uma atividade Amazon Bedrock Register Tools
Uma instância de uma atividade Register Tools do Amazon Bedrock é criada a partir de uma conexão Amazon Bedrock usando seu tipo de atividade Register Tools.
Para criar uma instância de uma atividade, arraste o tipo de atividade para a tela de design ou copie o tipo de atividade e cole-o na tela de design. Para obter detalhes, consulte Criando uma instância de atividade em Reutilização de componentes.
Uma atividade Register Tools do Amazon Bedrock existente pode ser editada a partir destes locais:
- A tela de design (consulte Menu de ações de componentes em Tela de design).
- A guia Componentes do painel de projeto (consulte Menu de ações de componentes em Guia Componentes do painel de projeto).
Configurar uma atividade Amazon Bedrock Register Tools
Siga estas etapas para configurar uma atividade Register Tools do Amazon Bedrock:
-
Etapa 1: Inserir um nome e especificar configurações
Forneça um nome para a atividade, selecione um modelo e especifique configurações opcionais. -
Etapa 2: Revisar os esquemas de dados
Todos os esquemas de solicitação ou resposta são exibidos.
Etapa 1: Inserir um nome e especificar configurações
Nesta etapa, forneça um nome para a atividade, selecione um modelo e especifique configurações opcionais. Cada elemento da interface do usuário desta etapa é descrito abaixo.
Dica
Campos com um ícone de variável suportam o uso de variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete de abertura [ no campo ou clique no ícone de variável para exibir um menu listando as variáveis existentes para escolher.
-
Menu Endpoint: Se você tiver vários endpoints do mesmo tipo de conector configurados, um menu na parte superior da tela exibe o nome do endpoint atual. Clique no menu para alternar para um endpoint diferente. Para obter mais informações, consulte Alterar o endpoint atribuído em Telas de configuração.
-
Editar endpoint: Aparece ao passar o mouse sobre o nome do endpoint atual. Clique para editar a configuração de conexão do endpoint selecionado.
-
Nome: Digite um nome para identificar a atividade. O nome deve ser único para cada atividade Register Tools do Amazon Bedrock e não pode conter barras
/ou dois-pontos:. -
Listar todos os modelos: Selecione esta opção para escolher entre uma lista de modelos recuperados do Amazon Bedrock:
-
Selecionar um modelo: Esta seção exibe modelos suportados da Amazon, Anthropic, Cohere e Meta disponíveis no Amazon Bedrock.
Nota
Apenas modelos que suportam uso de ferramentas são exibidos.
-
Modelo selecionado: Após selecionar um modelo, ele é listado aqui.
-
Pesquisar: Digite o valor de qualquer coluna na caixa de pesquisa para filtrar a lista de modelos. A pesquisa não diferencia maiúsculas de minúsculas. Se os modelos já estiverem exibidos na tabela, os resultados da tabela serão filtrados em tempo real a cada digitação. Para recarregar modelos do endpoint ao pesquisar, digite os critérios de pesquisa e depois atualize, conforme descrito abaixo.
-
Atualizar: Clique no ícone de atualização ou na palavra Atualizar para recarregar modelos do endpoint do Amazon Bedrock. Isso pode ser útil se modelos foram adicionados ao Amazon Bedrock. Esta ação atualiza todos os metadados usados para construir a tabela de modelos exibida na configuração.
-
Selecionar um modelo: Na tabela, clique em qualquer lugar de uma linha para selecionar um modelo. Apenas um modelo pode ser selecionado. As informações disponíveis para cada modelo são obtidas do endpoint do Amazon Bedrock:
-
Identificador do modelo: O ID do modelo.
-
Provedor do modelo: O provedor do modelo.
-
Nome do modelo: O nome do modelo.
-
Dica
Se a tabela não for preenchida com modelos disponíveis, a conexão do Amazon Bedrock pode não ter sido bem-sucedida. Certifique-se de estar conectado reabrindo a conexão e testando novamente as credenciais.
Como alternativa, o modelo pode ser especificado no campo Identificador do modelo ou fornecido na transformação de solicitação. Se um modelo for especificado em vários locais, segue-se esta ordem de precedência:
- Um modelo fornecido na transformação de solicitação substitui todos os campos abaixo.
- Um modelo especificado no campo Identificador do modelo substitui o campo restante abaixo, mesmo se Listar todos os modelos estiver selecionado.
-
Um modelo selecionado na lista Selecionar um modelo tem a menor precedência.
-
Prompt: Digite um prompt inicial para o modelo. O prompt deve estabelecer o contexto e as diretrizes fundamentais para as respostas do modelo.
-
-
-
Inserir identificador do modelo: Selecione esta opção para inserir manualmente o identificador de um modelo suportado da Amazon, Anthropic, Cohere ou Meta no Amazon Bedrock.
-
Identificador do modelo: Digite o ID do modelo, por exemplo
amazon.nova-lite-v1:0. -
Prompt: Digite um prompt inicial para o modelo. O prompt deve estabelecer o contexto e as diretrizes fundamentais para as respostas do modelo.
-
-
Salvar e sair: Se habilitado, clique para salvar a configuração desta etapa e fechar a configuração da atividade.
-
Próximo: Clique para armazenar temporariamente a configuração desta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.
-
Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.
Etapa 2: Revisar os esquemas de dados
Todos os esquemas de solicitação ou resposta são exibidos. Cada elemento da interface do usuário desta etapa é descrito abaixo.
-
Esquema de dados: Esses esquemas de dados são herdados pelas transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.
O conector Amazon Bedrock usa a API Amazon Bedrock. Consulte a documentação da API para obter informações sobre os nós de esquema e campos.
-
Atualizar: Clique no ícone de atualização ou na palavra Atualizar para regenerar esquemas do endpoint Amazon Bedrock. Essa ação também regenera um esquema em outros locais do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.
-
Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.
-
Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.
-
Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.
Solução de problemas
Você pode encontrar o seguinte erro ao executar atividades:
Invocation of model ID <model-name> with on-demand throughput isn't supported. Retry your request with the ID or ARN of an inference profile that contains this model.
Esse erro ocorre porque alguns modelos não suportam throughput sob demanda e exigem o ID de um perfil de inferência entre regiões em vez do ID do modelo retornado na lista Selecionar um modelo.
No Console de Gerenciamento da AWS, acesse Amazon Bedrock > Perfis de inferência e localize o ID do perfil de inferência para o modelo. Por exemplo, o ID do perfil de inferência para anthropic.claude-3-5-haiku-20241022-v1:0 nos EUA é us.anthropic.claude-3-5-haiku-20241022-v1:0. Para inserir o ID do perfil de inferência, você deve usar a opção Inserir identificador do modelo na etapa 1.
Próximas etapas
Após configurar uma atividade Registrar Ferramentas do Amazon Bedrock, conclua a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as definições da operação, que incluem a capacidade de encadear operações que estão no mesmo fluxo de trabalho ou em fluxos de trabalho diferentes.
Para concluir um fluxo de trabalho de chamada de ferramentas, encadeie uma operação Prompt para ser executada após esta. Como o Jitterbit armazena os esquemas de ferramentas na memória do agente privado, a operação Prompt os recebe automaticamente sem necessidade de mapeamento adicional. Para vincular a operação Prompt ao histórico de conversa desta sessão, capture o chatId da resposta Registrar Ferramentas e passe-o para a atividade Prompt na transformação de solicitação.
As ações de menu de uma atividade são acessíveis no painel do projeto e na tela de design. Para obter detalhes, consulte Menu de ações de atividade em Noções básicas do conector.
As atividades Registrar Ferramentas do Amazon Bedrock podem ser usadas como um destino com estes padrões de operação:
- Padrão de transformação
- Padrão de duas transformações (como primeiro ou segundo destino)
Para usar a atividade com funções de script, escreva os dados em um local temporário e use esse local temporário na função de script.
Quando estiver pronto, implante e execute a operação e valide o comportamento verificando os logs da operação.