Ir para o conteúdo

Atividade de criação de estrutura do Google BigQuery

Introdução

Uma atividade Criar estrutura do Google BigQuery, usando sua conexão do Google BigQuery, cria conjuntos de dados ou tabelas no Google BigQuery e se destina a ser usado como um alvo para consumir dados em uma operação.

Cotas e limites

O Google BigQuery aplica cotas e limites, que limitam a taxa e o volume de estruturas que estão sendo criadas. Quando esses limites são atingidos, a operação pode ser concluída com um Success status da operação mesmo que todas as estruturas solicitadas não sejam criadas. Verifique os logs de operação para quaisquer erros de limite de taxa retornados do Google BigQuery SDK. Para obter mais informações, consulte a documentação do Google.

Crie uma atividade Criar estrutura do Google BigQuery

Uma instância de uma atividade Criar estrutura do Google BigQuery é criada a partir de uma conexão do Google BigQuery usando seu tipo de atividade Criar Estrutura.

Para criar uma instância de uma atividade, arraste o tipo de atividade para a quadro de design ou copie o tipo de atividade e cole-o na quadro de design. Para obter detalhes, consulte Criar uma instância de atividade em Reutilização de componentes.

Uma atividade existente do Google BigQuery Criar estrutura pode ser editada nestes locais:

Configurar uma atividade Criar estrutura do Google BigQuery

Siga estas etapas para configurar uma atividade Criar estrutura do Google BigQuery:

Etapa 1: insira um nome e selecione o objeto

Nesta etapa, forneça um nome para a atividade e selecione o objeto. Cada elemento da interface do usuário desta etapa é descrito abaixo.

Etapa 1 da configuração da atividade Criar estrutura do Google BigQuery

  • Nome: Insira um nome para identificar a atividade. O nome deve ser exclusivo para cada atividade do Google BigQuery Criar estrutura e não deve conter barras / ou dois pontos :.

  • Selecionar objeto: Esta seção exibe objetos disponíveis no endpoint do Google BigQuery.

    • Objeto selecionado: Depois que um objeto é selecionado, ele é listado aqui.

    • Pesquisar: Insira qualquer valor de coluna na caixa de pesquisa para filtrar a lista de objetos. A pesquisa não diferencia maiúsculas de minúsculas. Se os objetos já estiverem exibidos na tabela, os resultados da tabela serão filtrados em tempo real a cada pressionamento de tecla. Para recarregar objetos do endpoint ao pesquisar, insira os critérios de pesquisa e atualize, conforme descrito abaixo.

    • Atualizar: Clique no ícone de atualização Ícone de atualização ou a palavra Refresh para recarregar objetos do endpoint do Google BigQuery. Isso pode ser útil se objetos foram adicionados ao Google BigQuery. Esta ação atualiza todos os metadados usados para construir a tabela de objetos exibida na configuração.

    • Selecionando um objeto: Dentro da tabela, clique em qualquer lugar em uma linha para selecionar um objeto. Apenas um objeto pode ser selecionado. As informações disponíveis para cada objeto são obtidas do endpoint do Google BigQuery:

      • Nome: O nome do objeto.

      • Descrição: A descrição do objeto.

    Dica

    Se a tabela não for preenchida com objetos disponíveis, a conexão do Google BigQuery pode não ser bem-sucedido. Certifique-se de que você está conectado reabrindo a conexão e testando novamente as credenciais.

  • Continuar em caso de erro: Selecione para continuar a execução da atividade se um erro for encontrado para um conjunto de dados em uma solicitação em lote. Se algum erro for encontrado, ele será gravado no log de operação.

  • Reverter: Se ocorrerem erros durante a criação da estrutura, esta opção (quando selecionada) reverte quaisquer alterações feitas antes do erro. Se não estiver selecionada, quaisquer alterações anteriores ao erro persistirão.

  • Salvar e sair: Se habilitado, clique para salvar a configuração para esta etapa e fechar a configuração da atividade.

  • Avançar: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.

Etapa 2: Selecione um subobjeto

Nesta etapa, selecione um subobjeto. Cada elemento da interface do usuário desta etapa é descrito abaixo.

Etapa 2 da configuração da atividade Criar estrutura do Google BigQuery

  • Selecione um subobjeto: Esta seção exibe subobjetos disponíveis no endpoint do Google BigQuery.

    • Objeto selecionado: O objeto selecionado na etapa anterior é listado aqui.

    • Subobjeto selecionado: Depois que um subobjeto é selecionado, ele é listado aqui.

    • Pesquisar: Insira qualquer valor de coluna na caixa de pesquisa para filtrar a lista de subobjetos. A pesquisa não diferencia maiúsculas de minúsculas. Se os subobjetos já estiverem exibidos na tabela, os resultados da tabela serão filtrados em tempo real a cada pressionamento de tecla. Para recarregar subobjetos do endpoint ao pesquisar, insira os critérios de pesquisa e atualize, conforme descrito abaixo.

    • Atualizar: Clique no ícone de atualização Ícone de atualização ou a palavra Refresh para recarregar subobjetos do endpoint do Google BigQuery. Isso pode ser útil se subobjetos tiverem sido adicionados ao Google BigQuery. Esta ação atualiza todos os metadados usados para construir a tabela de subobjetos exibida na configuração.

    • Selecionando um subobjeto: Dentro da tabela, clique em qualquer lugar em uma linha para selecionar um subobjeto. Apenas um subobjeto pode ser selecionado. As informações disponíveis para cada subobjeto são obtidas do endpoint do Google BigQuery:

      • Nome: O nome do subobjeto.

      • Descrição: A descrição do subobjeto.

    Dica

    Se a tabela não for preenchida com subobjetos disponíveis, a conexão do Google BigQuery pode não ser bem-sucedido. Certifique-se de que você esteja conectado reabrindo a conexão e testando novamente as credenciais.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Próximo: Clique para armazenar temporariamente a configuração desta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem solicita que você confirme que deseja descartar as alterações.

Etapa 3: Revise os esquemas de dados

Quaisquer esquemas de solicitação ou resposta são exibidos. Cada elemento de interface de usuário desta etapa é descrito abaixo.

Etapa 3 da configuração da atividade Criar estrutura do Google BigQuery

  • Esquemas de dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.

    O conector do Google BigQuery usa o Google SDK versão 25.4.0. Consulte a documentação do SDK para obter informações sobre os nós e campos do esquema.

    Importante

    O Google BigQuery aplica cotas e limites, que limitam a taxa e o volume de estruturas que estão sendo criadas. Quando esses limites são atingidos, a atividade será concluída com um Success status da operação, mesmo que todas as estruturas solicitadas não sejam criadas. Para obter mais informações, consulte a documentação do Google.

    A atividade Create Structure usa JSON em seus esquemas de solicitação e resposta.

  • Refresh: Clique no ícone de atualização Refresh icon ou a palavra Refresh para regenerar esquemas do endpoint do Google BigQuery. Esta ação também regenera um esquema em outros locais ao longo do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.

  • Descartar alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em nenhuma etapa. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Próximos passos

Após configurar uma atividade Create Structure do Google BigQuery, conclua a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as configurações da operação, que incluem a capacidade de encadear operações que estejam no mesmo fluxo de trabalho ou em workflows diferentes.

As ações de menu para uma atividade são acessíveis a partir do painel do projeto e da quadro de design. Para obter detalhes, consulte menu de ações de atividade em Noções básicas do conector.

As atividades Criar estrutura do Google BigQuery podem ser usadas como um alvo com esses padrões de operação:

Para usar a atividade com funções de script, grave os dados em um local temporário e use esse local temporário na função de script.

Quando estiver pronto, implantar e executar a operação e validar o comportamento verificando os logs de operação.