Ir para o conteúdo

Atividade WebCrawler Scrape Page

Introdução

Uma atividade Scrape Page do WebCrawler, utilizando sua conexão WebCrawler, extrai uma página e é destinada a ser usada como um alvo para consumir dados em uma operação.

Criar uma atividade WebCrawler Scrape Page

Uma instância de uma atividade Scrape Page do WebCrawler é criada a partir de uma conexão WebCrawler usando seu tipo de atividade Scrape Page.

Para criar uma instância de uma atividade, arraste o tipo de atividade para a tela de design ou copie o tipo de atividade e cole-o na tela de design. Para detalhes, veja Criando uma instância de atividade em Reutilização de componentes.

Uma atividade Scrape Page do WebCrawler existente pode ser editada a partir destes locais:

Configurar uma atividade WebCrawler Scrape Page

Siga estas etapas para configurar uma atividade Scrape Page do WebCrawler:

Passo 1: Insira um nome e especifique as configurações

Neste passo, forneça um nome para a atividade e configure as definições, incluindo a URL do site, o formato do conteúdo de saída, a lista de tags do seletor CSS, a inclusão de metadados e o tratamento de erros. Cada elemento da interface do usuário deste passo é descrito abaixo.

Dica

Campos com um ícone de variável suportam o uso de variáveis globais, variáveis de projeto e variáveis Jitterbit. Comece digitando um colchete aberto [ no campo ou clicando no ícone de variável para exibir uma lista das variáveis existentes para escolher.

  • Menu de endpoint: Se você tiver vários endpoints do mesmo tipo de conector configurados, um menu na parte superior da tela exibe o nome do endpoint atual. Clique no menu para alternar para um endpoint diferente. Para mais informações, veja Alterar o endpoint atribuído em Telasc de configuração.

    • Editar endpoint: Aparece quando você passa o mouse sobre o nome do endpoint atual. Clique para editar a configuração de conexão do endpoint atualmente selecionado.

  • Nome: Insira um nome para identificar a atividade. O nome deve ser exclusivo para cada atividade Scrape Page do WebCrawler e não deve conter barras normais / ou dois pontos :.

  • URL do site: Insira a URL da página a ser raspada.

  • Formato do conteúdo de saída: Especifique o formato do conteúdo de saída a ser utilizado, um dos Texto ou HTML.

  • Lista de tags (seletor CSS): Clique no ícone de adicionar para adicionar uma linha à tabela e insira uma lista de tags do seletor CSS Tag List para cada elemento da página a ser excluído da saída raspada. Use a sintaxe padrão do seletor CSS para direcionar elementos específicos (por exemplo, .ads ou footer).

    Para salvar a linha, clique no ícone de enviar na coluna mais à direita.

Para editar ou excluir uma única linha, passe o mouse sobre a coluna mais à direita e use o ícone de edição ou o ícone de exclusão .

Para excluir todas as linhas, clique em Limpar Tudo.

  • Include metadata: Selecione para coletar metadados encontrados na página.

  • Continuar em caso de erro: Selecione para continuar a execução da atividade se um erro for encontrado para um conjunto de dados em uma solicitação em lote. Se algum erro for encontrado, ele será registrado no log de operações.

  • Salvar e Sair: Se ativado, clique para salvar a configuração para esta etapa e fechar a configuração da atividade.

  • Próximo: Clique para armazenar temporariamente a configuração para esta etapa e continuar para a próxima etapa. A configuração não será salva até que você clique no botão Concluído na última etapa.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pede que você confirme que deseja descartar as alterações.

Etapa 2: Revisar os esquemas de dados

Quaisquer esquemas de solicitação ou resposta são exibidos. Cada elemento da interface do usuário desta etapa é descrito abaixo.

  • Esquema de dados: Esses esquemas de dados são herdados por transformações adjacentes e são exibidos novamente durante o mapeamento de transformação.

    Nota

    Os dados fornecidos em uma transformação têm precedência sobre a configuração da atividade.

  • Atualizar: Clique no ícone de atualizar ou na palavra Atualizar para regenerar esquemas do endpoint WebCrawler. Esta ação também regenera um esquema em outros locais ao longo do projeto onde o mesmo esquema é referenciado, como em uma transformação adjacente.

  • Voltar: Clique para armazenar temporariamente a configuração para esta etapa e retornar à etapa anterior.

  • Concluído: Clique para salvar a configuração para todas as etapas e fechar a configuração da atividade.

  • Descartar Alterações: Após fazer alterações, clique para fechar a configuração sem salvar as alterações feitas em qualquer etapa. Uma mensagem pede que você confirme que deseja descartar as alterações.

Próximas etapas

Após configurar uma atividade Scrape Page do WebCrawler, complete a configuração da operação adicionando e configurando outras atividades, transformações ou scripts como etapas da operação. Você também pode configurar as definições da operação, que incluem a capacidade de encadear operações que estão no mesmo ou em diferentes fluxos de trabalho.

As ações do menu para uma atividade estão acessíveis a partir do painel do projeto e da tela de design. Para mais detalhes, consulte o menu de ações da atividade em Conceitos básicos do conector.

Atividades Scrape Page do WebCrawler podem ser usadas como um alvo com esses padrões de operação:

Para usar a atividade com funções de script, escreva os dados em um local temporário e, em seguida, use esse local temporário na função de script.

Quando estiver pronto, implante e execute a operação e valide o comportamento verificando os logs da operação.