Ir para o conteúdo

Atividade Extrair URL do WebCrawler

Introdução

Uma atividade Extrair URL do WebCrawler, utilizando sua conexão WebCrawler, extrai conteúdo de uma URL e é destinada a ser usada como um alvo para consumir dados em uma operação.

Criar uma atividade Extrair URL do WebCrawler

Uma instância de uma atividade Extrair URL do WebCrawler é criada a partir de uma conexão WebCrawler usando seu tipo de atividade Extrair URL.

Para criar uma instância de uma atividade, arraste o tipo de atividade para a tela de design ou copie o tipo de atividade e cole-o na tela de design. Para mais detalhes, veja Criando uma instância de atividade em Reutilização de componentes.

Uma atividade Extrair URL do WebCrawler existente pode ser editada a partir destes locais:

Configurar uma atividade Extrair URL do WebCrawler

Siga estas etapas para configurar uma atividade Extrair URL do WebCrawler:

Passo 1: Insira um nome e especifique as configurações

Neste passo, forneça um nome para a atividade e especifique a URL do site, profundidade máxima, número máximo de páginas, atraso de rastreamento, lógica de filtro de URL, restrição de caminho e tratamento de erros. Cada elemento da interface do usuário deste passo é descrito abaixo.

Dica

Campos com um ícone variável suportam o uso de variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete aberto [ no campo ou clicando no ícone de variável para exibir uma lista das variáveis existentes para escolher.

  • Menu de endpoint: Se você tiver vários endpoints do mesmo tipo de conector configurados, um menu na parte superior da tela exibe o nome do endpoint atual. Clique no menu para alternar para um endpoint diferente. Para mais informações, veja Alterar o endpoint atribuído em Telasa de configuração.

    • Editar endpoint: Aparece quando você passa o mouse sobre o nome do endpoint atual. Clique para editar a configuração de conexão do endpoint atualmente selecionado.

  • Nome: Insira um nome para identificar a atividade. O nome deve ser único para cada atividade Extrair URL do WebCrawler e não deve conter barras normais / ou dois pontos :.

  • URL do site: Insira uma URL para usar como ponto de partida para a extração de conteúdo.

  • Profundidade máxima: Insira a profundidade do link para extração. Embora o valor padrão seja 1, não há um limite de profundidade obrigatório.

  • Número máximo de páginas: Insira o número máximo de páginas a serem recuperadas durante a extração. O valor padrão é 10.

  • Atraso de rastreamento (ms): Insira o atraso de rastreamento em milissegundos. O valor padrão é 5.

  • Lógica de filtro de URL Regex: Selecione o modo de filtro regex a ser aplicado às URLs descobertas durante a extração de conteúdo:

    • Include: Extraia apenas o conteúdo de URLs que correspondam aos padrões especificados.

      • Include regex URLs: Clique no ícone de adicionar para adicionar uma linha à tabela e insira uma Include URL para cada padrão de expressão regular a ser correspondido com as URLs descobertas. Apenas URLs que correspondem a pelo menos um padrão são extraídas.

        Para salvar a linha, clique no ícone de enviar na coluna mais à direita.

        Para editar ou excluir uma única linha, passe o mouse sobre a coluna mais à direita e use o ícone de editar ou o ícone de excluir .

        Para excluir todas as linhas, clique em Limpar Tudo.

    • Exclude: Pule URLs que correspondam aos padrões especificados.

      • Exclude regex URLs: Clique no ícone de adicionar para adicionar uma linha à tabela e insira uma Exclude URL para cada padrão de expressão regular a ser correspondido com as URLs descobertas. URLs que correspondem a qualquer padrão são puladas durante a extração.

        Para salvar a linha, clique no ícone de enviar na coluna mais à direita.

        Para editar ou excluir uma única linha, passe o mouse sobre a coluna mais à direita e use o ícone de editar ou o ícone de excluir .

        Para excluir todas as linhas, clique em Limpar Tudo.

  • Restringir ao caminho: Selecione para restringir a extração a URLs que compartilham o mesmo prefixo de caminho que a URL de origem. Por exemplo, se a URL de origem for https://example.com/blog/, apenas URLs sob /blog/ serão extraídas.

  • Continuar em caso de erro: Selecione para continuar a execução da atividade se um erro for encontrado para um conjunto de dados em uma solicitação em lote. Se algum erro for encontrado, ele será registrado no log de operações.

  • Salvar & Sair: Se ativado, clique para salvar a configuração para esta etapa e fechar a configuração da atividade.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Etapa 2: Revisar os esquemas de dados

Quaisquer esquemas de solicitação ou resposta são exibidos. Cada elemento da interface do usuário desta etapa é descrito abaixo.

  • Esquema de dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.

    Nota

    Os dados fornecidos em uma transformação têm precedência sobre a configuração da atividade.

  • Atualizar: Clique no ícone de atualizar ou na palavra Atualizar para regenerar esquemas do endpoint WebCrawler. Esta ação também regenera um esquema em outros locais ao longo do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.

  • Voltar: Clique para armazenar temporariamente a configuração desta etapa e retornar à etapa anterior.

  • Concluído: Clique para salvar a configuração de todas as etapas e fechar a configuração da atividade.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pede para você confirmar que deseja descartar as alterações.

Próximas etapas

Após configurar uma atividade Extrair URL do WebCrawler, complete a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as configurações da operação, que incluem a capacidade de encadear operações que estão no mesmo ou em diferentes fluxos de trabalho.

As ações do menu para uma atividade estão acessíveis a partir do painel do projeto e da tela de design. Para detalhes, veja o Menu de ações da atividade em Noções básicas sobre conectores.

Atividades de Extração de URL do WebCrawler podem ser usadas como um alvo com esses padrões de operação:

Para usar a atividade com funções de script, escreva os dados em um local temporário e, em seguida, use esse local temporário na função de script.

Quando estiver pronto, implante e execute a operação e valide o comportamento verificando os logs da operação.