Ir para o conteúdo

Atividade de mesclagem de Snowflake

Introdução

Uma atividade Snowflake Merge, usando sua conexão Snowflake, insere ou atualiza um arquivo CSV de dados de tabela no Snowflake e tem a intenção de ser usado como um alvo para consumir dados em uma operação. A atividade Merge do Snowflake não oferece suporte à exclusão de um registro existente.

Nota

A atividade Snowflake Merge é semelhante a uma atividade upsert usada em outros conectores.

Crie uma atividade de mesclagem de Snowflake

Uma instância de uma atividade Snowflake Merge é criada a partir de uma conexão Snowflake usando seu tipo de atividade Merge.

Para criar uma instância de uma atividade, arraste o tipo de atividade para a quadro de design ou copie o tipo de atividade e cole-o na quadro de design. Para obter detalhes, consulte Criando uma instância de atividade em Reutilização de componentes.

Uma atividade Snowflake Merge existente pode ser editada a partir destes locais:

Configurar uma atividade Snowflake Merge

Siga estas etapas para configurar uma atividade Merge do Snowflake:

Etapa 1: insira um nome e selecione uma tabela

Nesta etapa, forneça um nome para a atividade e selecione uma tabela. Cada elemento da interface do usuário desta etapa é descrito abaixo.

Etapa 1 da configuração da atividade Snowflake Merge

  • Nome: Insira um nome para identificar a atividade. O nome deve ser exclusivo para cada atividade Snowflake Merge e não deve conter barras / ou dois pontos :.

  • Selecione uma tabela: Esta seção exibe tabelas disponíveis no endpoint do Snowflake. Ao reabrir uma configuração de atividade existente, somente a tabela selecionada é exibida em vez de recarregar a lista de tabelas inteira.

    • Tabela selecionada: Depois que uma tabela é selecionada, ela é listada aqui.

    • Pesquisar: Insira qualquer valor de coluna na caixa de pesquisa para filtrar a lista de tabelas. A pesquisa não diferencia maiúsculas de minúsculas. Se as tabelas já estiverem exibidas dentro da tabela, os resultados da tabela serão filtrados em tempo real a cada pressionamento de tecla. Para recarregar tabelas do endpoint ao pesquisar, insira os critérios de pesquisa e atualize, conforme descrito abaixo.

    • Atualizar: Clique no ícone de atualização ou a palavra Refresh para recarregar tabelas do endpoint do Snowflake. Isso pode ser útil se tabelas foram adicionadas ao Snowflake. Esta ação atualiza todos os metadados usados para construir a tabela de tabelas exibida na configuração.

    • Selecionando uma tabela: Dentro da tabela, clique em qualquer lugar em uma linha para selecionar uma tabela. Apenas uma tabela pode ser selecionada. As informações disponíveis para cada tabela são obtidas do endpoint do Snowflake:

      • Nome: O nome de uma tabela.

      • Tipo: O tipo, que é uma tabela.

    Dica

    Se a tabela não for preenchida com tabelas disponíveis, a conexão Snowflake pode não ser bem-sucedido. Certifique-se de que você esteja conectado reabrindo a conexão e testando novamente as credenciais.

  • Salvar e sair: Se habilitado, clique para salvar a configuração para esta etapa e fechar a configuração da atividade.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.

Etapa 2: Selecione as chaves de mesclagem

Nesta etapa, especifique as colunas a serem usadas para chaves de mesclagem. Cada elemento de interface de usuário desta etapa é descrito abaixo.

Etapa 2 da configuração da atividade Snowflake Merge

  • Merge Keys: Selecione as colunas a serem usadas como chaves de atualização para a mesclagem.

  • Back: Clique para armazenar temporariamente a configuração para esta etapa e retornar à etapa anterior.

  • Next: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Finished na última etapa.

  • Discard Changes: Após fazer as alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Etapa 3: Selecione uma abordagem

Diferentes abordagens são suportadas para mesclar dados no Snowflake. Escolha entre Direct Mapping ou Stage File. Ao usar a abordagem Stage File, você seleciona as opções Use Existing Stage ou Use Temporary Stage.

Abordagem de mapeamento direto

Etapa 3 da configuração da atividade Snowflake Merge, abordagem de mapeamento direto

  • Abordagem: Use o menu suspenso para selecionar Mapeamento direto.

  • Nome do estágio temporário: Insira um nome a ser usado para um estágio temporário no Snowflake.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. O A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer as alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma passo. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Abordagem de arquivo de estágio (Usar estágio existente)

Abordagem do arquivo de estágio existente da etapa 3 da configuração da atividade de mesclagem do Snowflake

  • Abordagem: Use o menu suspenso para selecionar Arquivo de preparação.

  • Tipo de estágio: Use o menu suspenso para selecionar Usar estágio existente.

  • Selecione um estágio: Esta seção exibe os estágios disponíveis no endpoint do Snowflake. Ao reabrir um existente configuração de atividade, apenas o estágio selecionado é exibido em vez de recarregar toda a lista de estágios.

    • Estágio selecionado: Depois que um estágio é selecionado, ele é listado aqui.

    • Pesquisar: Insira qualquer valor de coluna na caixa de pesquisa para filtrar a lista de estágios. A pesquisa não é sensível a maiúsculas e minúsculas. Se as tabelas já estiverem exibidas dentro da tabela, os resultados da tabela serão filtrados em tempo real com cada pressionamento de tecla. Para recarregar tabelas do endpoint ao pesquisar, insira os critérios de pesquisa e, em seguida, atualize, conforme descrito abaixo.

    • Atualizar: Clique no ícone de atualização ou a palavra Atualizar para recarregue as tabelas do endpoint do Snowflake. Isso pode ser útil se você adicionou recentemente tabelas para Snowflake. Esta ação atualiza todos os metadados usados para construir o tabela de tabelas exibidas na configuração.

    • Selecionando um Estágio: Dentro da tabela, clique em qualquer lugar em uma linha para selecionar um estágio. Apenas um estágio pode ser selecionado. As informações disponíveis para cada estágio são obtidas do endpoint Snowflake:

      • Nome: O nome artístico de Snowflake.

      • Tipo: O tipo de estágio do Snowflake. Para obter informações sobre as diferenças entre estágios internos e externos, consulte a documentação do Snowflake em criação de estágios.

    Dica

    Se a tabela não for preenchida com os estágios disponíveis, a conexão Snowflake pode não ser bem-sucedido. Certifique-se de que você esteja conectado reabrindo a conexão e testando novamente as credenciais.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Próximo: Clique para armazenar temporariamente a configuração desta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.

Abordagem de arquivo de estágio (Use estágio temporário)

Abordagem do arquivo de estágio temporário da etapa 3 da configuração da atividade Snowflake Merge

  • Abordagem: Use o menu suspenso para selecionar Arquivo de preparação.

  • Tipo de estágio: Use o menu suspenso para selecionar Usar estágio temporário.

  • Nome do estágio temporário: Insira um nome a ser usado para um estágio temporário no Snowflake.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. O A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer as alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma passo. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Etapa 4: Revise os esquemas de dados

Os esquemas de solicitação e resposta gerados do endpoint são exibidos. Os esquemas exibidos dependem da Abordagem especificada na etapa anterior.

Estas subseções descrevem as estruturas de solicitação e resposta para cada abordagem:

Estas ações estão disponíveis com cada abordagem:

  • Esquemas de dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.

    Nota

    Os dados fornecidos em uma transformação têm precedência sobre a configuração da atividade.

    O conector Snowflake usa versão 3.19.0 do Driver Snowflake JDBC e os comandos SQL do Snowflake. Consulte a documentação da API para obter informações sobre os nós e campos do esquema.

  • Atualizar: Clique no ícone de atualização ou a palavra Atualizar para regenera esquemas do endpoint. Esta ação também regenera o esquema em outros locais ao longo o projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.

  • Descartar alterações: Após fazer as alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma passo. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Abordagem de mapeamento direto

Etapa 4 da configuração da atividade Snowflake Merge, abordagem de mapeamento direto

Estes são os campos de esquema visíveis na captura de tela de exemplo acima:

  • Solicitar

    Campo/Nó do Esquema de Solicitação Notas
    updateRequest Nó da solicitação de mesclagem.
    _table _ Nó mostrando o nome da tabela NAME.
    item Nó do item.
    column_A Valor para o primeiro nome da coluna, COLOR.
    column_B Valor para o nome da segunda coluna, FLOWER.
    . . . Valores para colunas de tabela subsequentes.

  • Resposta

    Campo/Nó do Esquema de Resposta Notas
    mergeResponse Nó da resposta de mesclagem.
    noOfRowsUpdated Contagem de linhas atualizada.
    noOfRowsInserted Contagem de linhas inseridas.
    errors Nó dos erros.
    item Nó dos itens de erro.
    errorMessage Mensagem de erro para o item de erro.

Abordagem de arquivo de estágio

Abordagem do arquivo de estágio 4 da etapa de configuração da atividade Snowflake Merge

Estes são os campos de esquema visíveis na captura de tela de exemplo acima:

  • Solicitar

    Campo/Nó do Esquema de Solicitação Notas
    mergeRequest Nó da solicitação de mesclagem.
    stageName Caminho ou prefixo sob o qual os dados serão carregados no estágio Snowflake.
    fileContent Conteúdo do arquivo de dados, em formato CSV, que será preparado para atualização na tabela Snowflake.
    destPrefix Prefixo do arquivo de destino a ser usado no estágio Snowflake.
    destFileName Nome do arquivo de destino a ser usado no estágio Snowflake.

    Importante

    Se Usar estágio existente for selecionado e o Tipo do estágio selecionado for externo, stageName e fileContent são excluídos do esquema de solicitação.

    Para obter informações sobre as diferenças entre estágios internos e externos, consulte a documentação do Snowflake em criação de estágios.

  • Resposta

    Campo/Nó do Esquema de Resposta Notas
    mergeResponse Nó da resposta de mesclagem.
    noOfRowsUpdated Contagem de linhas atualizada.
    noOfRowsInserted Contagem de linhas inseridas.
    errors Nó dos erros.
    item Nó dos itens de erro.
    errorMessage Mensagem de erro para o item de erro.

Próximos passos

Após configurar uma atividade Merge do Snowflake, conclua a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as definições da operação, que incluem a capacidade de encadear operações que estejam no mesmo fluxo de trabalho ou em workflows diferentes.

As ações de menu para uma atividade são acessíveis a partir do painel do projeto e da quadro de design. Para obter detalhes, consulte menu de ações de atividade em Noções básicas do conector.

As atividades de Merge do Snowflake podem ser usadas como um alvo com esses padrões de operação:

Para usar a atividade com funções de script, grave os dados em um local temporário e use esse local temporário na função de script.

Quando estiver pronto, implantar e executar a operação e validar o comportamento verificando os logs de operação.