Ir para o conteúdo

Atividade de Prompt do Azure OpenAI

Introdução

Uma atividade de Prompt do Azure OpenAI, utilizando sua conexão do Azure OpenAI, cria uma conclusão de texto para o prompt fornecido no Azure OpenAI e é destinada a ser usada como um alvo para consumir dados em uma operação.

Nota

O conector utiliza a API de Conclusão de Chat para todos os modelos, exceto gpt-35-turbo-instruct, que utiliza a API de Conclusões legada. Essa mudança reflete as aposentadorias de modelos em andamento da Microsoft. Para mais informações, veja aposentadorias de modelos do Azure OpenAI.

Dica

Siga estas diretrizes para gerenciar o histórico de chat entre operações:

  • Grupos de agentes em nuvem: Ative a opção Armazenar contexto de chat entre operações na configuração da conexão. O conector mantém o contexto da conversa entre operações dentro do mesmo ambiente usando o mesmo chatId (configurado na atividade Registrar Ferramentas).
  • Agentes privados: O contexto do chat é mantido na memória local para operações dentro da mesma cadeia de operações que compartilham o mesmo chatId.

Criar uma atividade de Prompt do Azure OpenAI

Uma instância de uma atividade de Prompt do Azure OpenAI é criada a partir de uma conexão do Azure OpenAI usando seu tipo de atividade Prompt.

Para criar uma instância de uma atividade, arraste o tipo de atividade para a tela de design ou copie o tipo de atividade e cole-o na tela de design. Para detalhes, veja Criar uma instância de atividade ou ferramenta em Reutilização de componentes.

Uma atividade de Prompt do Azure OpenAI existente pode ser editada a partir destes locais:

Configurar uma atividade de Prompt do Azure OpenAI

Siga estas etapas para configurar uma atividade de Prompt do Azure OpenAI:

Etapa 1: Insira um nome e especifique as configurações

Nesta etapa, forneça um nome para a atividade e especifique o texto do prompt e configurações opcionais. Cada elemento da interface do usuário desta etapa é descrito abaixo.

Dica

Campos com um ícone de variável suportam o uso de variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete aberto [ no campo ou clicando no ícone de variável para exibir um menu com as variáveis existentes para escolher.

  • Menu de endpoint: Se você tiver vários endpoints do mesmo tipo de conector configurados, um menu na parte superior da tela exibe o nome do endpoint atual. Clique no menu para alternar para um endpoint diferente. Para mais informações, veja Alterar o endpoint atribuído em Telasa de configuração.

  • Editar endpoint: Aparece quando você passa o mouse sobre o nome do endpoint atual. Clique para editar a configuração de conexão do endpoint selecionado.

  • Nome: Insira um nome para identificar a atividade. O nome deve ser exclusivo para cada atividade de Prompt do Azure OpenAI e não deve conter barras (/) ou dois pontos (:).

  • Texto do prompt: Insira o prompt para a conclusão.

  • ID do modelo: Selecione o modelo a ser utilizado. As implantações da sua instância do Azure OpenAI preenchem a lista de modelos. Clique Atualizar para atualizar a lista se você tiver implantado novos modelos desde que abriu esta configuração. Os modelos devem ser implantados no Azure para aparecer como opções. Para informações sobre como implantar modelos, consulte a documentação da Microsoft.

  • Atualizar: Clique Atualizar para redefinir o ID do modelo para o valor salvo anteriormente.

  • Configurações opcionais: Clique para expandir configurações opcionais adicionais:

    • Função: Selecione o tipo de prompt a ser enviado ao Azure OpenAI:

      • Assistente: Selecione esta função se um assistente de chatbot criado anteriormente irá solicitar ao Azure OpenAI. Não selecione esta função sem um assistente fazendo a solicitação, pois isso pode causar erros.

      • Sistema: (padrão) Selecione esta função para prompts automatizados.

      • Ferramenta: Selecione esta função se um assistente de chatbot criado anteriormente irá solicitar ao Azure OpenAI para usar uma ferramenta registrada na atividade Registrar Ferramentas. Não selecione esta função sem um assistente fazendo a solicitação ou sem ferramentas registradas, pois isso pode causar erros.

      • Usuário: Esta função simula um prompt direto do usuário para a IA, como se estivesse em uma janela de chat. Selecione esta função ao criar um assistente de chatbot e forneça instruções no campo Texto do prompt.

    • Temperatura: Insira a temperatura de amostragem. O valor deve ser um decimal entre 0 e 2. Não é recomendado usar esta configuração com Probabilidade Máxima.

    • Máximo de Tokens: Insira o número máximo de tokens a serem gerados para a conclusão. O valor padrão é 16.

    • Probabilidade Máxima: Insira a probabilidade máxima. Não é recomendado usar esta configuração com Temperatura.

    • Selecionar um Índice: Selecione para interagir com um Índice de Pesquisa AI da Microsoft Azure.

      Nota

      Você deve selecionar e configurar a opção Adicionar uma fonte de dados na conexão. Caso contrário, um erro ocorre ao selecionar esta opção.

      Quando selecionado, esses campos adicionais aparecem:

      • Selecionar índice de pesquisa AI do Azure: Escolha um índice do seu serviço de pesquisa AI do Azure. Clique em Atualizar para atualizar a lista de índices do serviço de pesquisa AI do Azure.

      • Inserir número de resultados de documentos principais: Insira o número de documentos mais relevantes a serem incluídos no contexto enviado ao modelo.

      • Selecionar tipo de pesquisa de índice do Azure: O tipo de pesquisa por palavra-chave é suportado e selecionado por padrão.

  • Continuar em Caso de Erro: Selecione para continuar a execução da atividade se um erro for encontrado para um conjunto de dados em uma solicitação em lote. Se algum erro for encontrado, ele será registrado no log de operações.

  • Salvar e Sair: Se habilitado, clique para salvar a configuração para esta etapa e fechar a configuração da atividade.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pede que você confirme que deseja descartar as alterações.

Etapa 2: Revisar os esquemas de dados

Qualquer esquema de solicitação ou resposta é exibido. Cada elemento da interface do usuário desta etapa é descrito abaixo.

  • Esquemas de Dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.

    Nota

    Os dados fornecidos em uma transformação têm precedência sobre a configuração da atividade.

    O conector Azure OpenAI utiliza a API REST do Azure OpenAI Service. Consulte a documentação da API para obter informações sobre os nós e campos do esquema.

  • Atualizar: Clique no ícone de atualizar ou na palavra Atualizar para regenerar esquemas do endpoint do Azure OpenAI. Esta ação também regenera um esquema em outros locais do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.

  • Editar: Clique no ícone de editar acima de cada esquema de dados para entrar no editor desse esquema de dados. O editor permite adicionar, excluir e reorganizar nós e campos e alterar seus tipos de dados. Todos os nós e campos recém-adicionados são definidos como [0, 1] cardinalidade. As alterações feitas nos esquemas de dados devem ser aceitáveis para o endpoint e devem ser feitas somente após consultar qualquer documentação disponível para o endpoint. Após fazer edições no esquema, uma data de última edição é exibida na parte superior do esquema aplicável para indicar que o esquema teve edições manuais. Atualizar os esquemas redefinirá os esquemas para suas estruturas padrão.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pergunta se você deseja confirmar que deseja descartar as alterações.

Próximas etapas

Após configurar uma atividade de Prompt do Azure OpenAI, complete a configuração da operação adicionando e configurando outras atividades ou ferramentas como etapas da operação. Você também pode configurar as configurações da operação, que incluem a capacidade de encadear operações que estão no mesmo ou em diferentes fluxos de trabalho.

As ações do menu para uma atividade estão acessíveis no painel do projeto e na tela de design. Para detalhes, consulte o menu de ações da atividade em Conceitos básicos do conector.

As atividades de Prompt do Azure OpenAI podem ser usadas como um alvo com esses padrões de operação:

Para usar a atividade com funções de script, escreva os dados em um local temporário e, em seguida, use esse local temporário na função de script.

Quando estiver pronto, implante e execute a operação e valide o comportamento verificando os logs da operação.