Agente de LLM Fine-Tuned do Jitterbit

Visão geral

O Jitterbit fornece o Agente de LLM Fine-Tuned para todos os clientes através do Jitterbit Marketplace. Este agente foi projetado para fins educacionais, ajudando as organizações a adotarem IA facilmente usando a técnica de Geração Aumentada por Recuperação (RAG), que combina raciocínio de LLM com acesso a ferramentas externas e fontes de dados.

Este agente de IA permite personalizar um modelo de linguagem grande (LLM) com os dados da sua organização e, em seguida, usar esse modelo fine-tuned para responder perguntas por meio de uma interface de conversa. Embora este agente use OpenAI e Slack, você pode adaptá-lo para trabalhar com outros LLMs e plataformas de chat, como Claude, Microsoft Teams, microsserviços, aplicativos SaaS como Salesforce, ou aplicações construídas usando o Jitterbit App Builder.

Este documento explica como configurar e operar este agente de IA. Ele aborda a arquitetura e os pré-requisitos, fornece exemplos de prompts para mostrar o que o modelo fine-tuned pode fazer e, em seguida, fornece as etapas para instalar, configurar e operar o agente de IA.

Arquitetura do agente de IA

O agente de IA fornece dois componentes distintos:

1. Utilitário de fine-tuning: Um fluxo de trabalho único que treina um modelo OpenAI com os dados específicos da sua organização (como pesquisas de funcionários, documentação interna ou políticas da empresa).

2. Agente de conversa: Um bot Slack interativo que usa o modelo fine-tuned para responder perguntas. Este é o agente de IA com o qual os usuários interagem.

Um fluxo de trabalho típico envolve as seguintes etapas:

1. Você executa o utilitário de fine-tuning uma vez para criar seu modelo personalizado.
2. Os usuários interagem com o agente Slack, que usa esse modelo personalizado.
3. Se você precisar atualizar o modelo com novos dados, execute o utilitário de fine-tuning novamente.

Diagramas de fluxo de trabalho

Os diagramas a seguir mostram os dois fluxos de trabalho principais nesta integração.

Utilitário - Fluxo de trabalho de Fine Tune do Modelo OpenAI

Este fluxo de trabalho do utilitário gerencia o processo de fine-tuning do modelo OpenAI:

Entrada Principal - Fluxo de trabalho do Manipulador de Solicitação da API Slack

Este fluxo de trabalho lida com a interação principal entre Slack, a API Personalizada do Jitterbit e o modelo fine-tuned do OpenAI:

Pré-requisitos

Você precisa dos seguintes componentes para usar este agente de IA.

Componentes do Harmony

Você deve ter uma licença Jitterbit Harmony com acesso aos seguintes componentes:

• Jitterbit Studio
• Jitterbit API Manager

Endpoints suportados

O design do agente de IA incorpora os seguintes endpoints. Você pode acomodar outros sistemas modificando as configurações de endpoint e fluxos de trabalho do projeto.

LLM

O agente de IA usa OpenAI como provedor de LLM para fine-tuning e inferência. Para usar OpenAI, você deve ter uma assinatura OpenAI com permissões para criar e gerenciar chaves de API.

Interface de chat

O agente de IA usa Slack como interface de chat padrão para interagir com o modelo fine-tuned.

Se deseja usar um aplicativo diferente como interface de chat, você pode modificar os fluxos de trabalho do projeto para integrar com a sua plataforma preferida.

Exemplos de prompts

Os seguintes exemplos de prompts demonstram os tipos de perguntas que o modelo fine-tuned pode responder após treinamento com os dados da sua organização:

• "Na Pesquisa de Ambiente de Trabalho do Q3, o que os funcionários classificaram como a área com pior desempenho?"
• "Qual foi a reclamação principal na Pesquisa de Experiência de Integração de 2025?"

Instalação, configuração e operação

Siga estas etapas para instalar, configurar e operar este agente de IA:

1. Baixar personalizações e instalar o projeto Studio.
2. Gerar sua chave de API OpenAI.
3. Criar o aplicativo Slack.
4. Configurar variáveis de projeto.
5. Testar conexões.
6. Implantar o projeto.
7. Criar a API personalizada do Jitterbit.
8. Revisar fluxos de trabalho do projeto.
9. Disparar os fluxos de trabalho do projeto.
10. Solução de problemas.

Baixar personalizações e instalar o projeto

Siga estas etapas para baixar arquivos de personalização e instalar o projeto Studio:

1. Faça login no portal Harmony em https://login.jitterbit.com e abra Marketplace.

2. Localize o agente de IA denominado Fine-Tuned LLM Agent. Para localizar o agente de IA, você pode usar a barra de pesquisa ou, no painel Filters, em Type, selecione AI Agent para filtrar a exibição.

3. Clique no link Documentation do agente de IA para abrir sua documentação em uma aba separada. Mantenha a aba aberta para poder consultar a documentação depois de iniciar o projeto.

4. Clique em Start Project para abrir um diálogo de configuração em duas etapas. O diálogo permite baixar personalizações e importar o agente de IA como um projeto Studio.

5. Na etapa 1 de configuração, Download Customizations, selecione o seguinte arquivo e clique em Download Files:

   • slack_app_manifest.json

   Dica

   O diálogo de configuração inclui um aviso para não importar o agente de IA antes de aplicar personalizações de endpoint. Esse aviso não se aplica a este agente de IA e pode ser ignorado. Siga a ordem recomendada de etapas nesta documentação.

6. Clique em Next.

7. Na etapa 2 de configuração, Create a New Project, selecione um ambiente onde o projeto Studio será criado e clique em Create Project.

8. Um diálogo de progresso é exibido. Depois que indicar que o projeto foi criado, use o link do diálogo Go to Studio ou abra o projeto diretamente na página Projects do Studio.

Gerar sua chave de API OpenAI

Siga estas etapas para gerar uma chave de API OpenAI:

1. Acesse a página de chaves de API OpenAI.

2. Clique em Create new secret key para gerar uma nova chave de API.

3. Copie a chave gerada e armazene-a com segurança. Você precisa desta chave para configurar a variável de projeto OpenAI_API_KEY.

Criar o aplicativo Slack

Para criar a interface de chat no Slack, siga estas etapas:

1. Crie um aplicativo Slack usando o arquivo de manifesto do aplicativo Slack (slack_app_manifest.json) fornecido com os arquivos de personalização deste agente de IA. Alternativamente, crie o aplicativo do zero.

2. Se usar o arquivo de manifesto fornecido, substitua os seguintes espaços reservados pelos seus próprios valores de configuração:

   Espaço reservado	Descrição
   {{Replace with Slack bot name}}	O nome que você deseja que seu bot do Slack tenha, conforme exibido aos usuários. Substitua este valor em dois lugares no manifesto.
   {{Replace with Jitterbit API URL}}	A URL do serviço da API personalizada do Jitterbit que você criou em Criar a API personalizada do Jitterbit.

3. Instale o app no seu workspace do Slack.

4. Obtenha o token do bot (para o campo Bot User OAuth Token da conexão do Slack) e insira seu valor na variável de projeto slack_bot_oauth_user_token.

5. Configure a variável de projeto slack_channel_name com o canal onde as notificações devem ser enviadas.

6. Insira o valor do token do bot na variável de projeto slack_bot_oauth_user_token e o nome do canal na variável de projeto slack_channel_name. Você configurará esses itens na próxima etapa.

Configurar variáveis de projeto

No projeto do Studio, você deve definir valores para as seguintes variáveis de projeto.

Para configurar variáveis de projeto, use o menu de ações do projeto para selecionar Project Variables. Isso abre um painel na parte inferior da página onde você pode revisar e definir os valores.

OpenAI

Slack

Testar conexões

Teste as configurações de endpoint para verificar a conectividade usando os valores de variáveis de projeto definidos.

Para testar conexões, acesse a aba Project endpoints and connectors da paleta de componentes de design, passe o cursor sobre cada endpoint e clique em Test.

Implantar o projeto

Implante o projeto do Studio.

Para implantar o projeto, use o menu de ações do projeto para selecionar Deploy.

Criar a API personalizada do Jitterbit

Crie uma API personalizada para a operação Slack Bot Request no fluxo de trabalho Main Entry - Slack API Request Handler.

Para criar a API, use o menu de ações da operação para selecionar Publish as an API ou Publish as an API using AI.

Configure as seguintes definições:

Salve a URL do serviço da API do serviço publicado para usar ao criar o aplicativo do Slack. Para encontrar a URL do serviço, acesse a gaveta de detalhes da API na guia Services, passe o cursor sobre a coluna Actions do serviço e clique em Copy API service URL.

Revisar os fluxos de trabalho do projeto

No projeto do Studio aberto, revise os fluxos de trabalho junto com as descrições abaixo para entender o que cada fluxo de trabalho faz.

Para criar a interface de chat do Slack, siga estas etapas:

Utility-Fine Tune OpenAI Model

Este fluxo de trabalho executa o processo de ajuste fino para criar um modelo personalizado do OpenAI. Inicie o processo manualmente executando a operação Main-Init Fine Tune quando quiser criar ou atualizar um modelo ajustado com novos dados de treinamento.

O fluxo de trabalho trata das seguintes tarefas:

• Carrega dados de treinamento no OpenAI.
• Inicia o trabalho de ajuste fino.
• Monitora o status do trabalho.

Antes de executar este fluxo de trabalho, prepare seus dados de treinamento no formato JSONL (JSON Lines). Cada linha deve representar um único exemplo de treinamento como um objeto JSON completo. O OpenAI requer um mínimo de 10 exemplos de pergunta e resposta, mas recomenda-se pelo menos 50 exemplos para melhores resultados.

O exemplo abaixo mostra o formato correto para dados de treinamento. Cada linha contém um objeto JSON com uma matriz messages que inclui uma pergunta do usuário e uma resposta do assistente.

O OpenAI requer o seguinte esquema JSONL (JSON Lines) para dados de ajuste fino:

{"messages": [
    {"role": "user", "content": "What was the top employee-requested feature in the 2025 internal IT satisfaction survey?"},
    {"role": "assistant", "content": "The most requested feature in the 2025 IT satisfaction survey was single sign-on integration for all internal tools."}
]}
{"messages": [
    {"role": "user", "content": "In the Q3 Workplace Environment Survey, what did employees rate as the lowest performing area?"},
    {"role": "assistant", "content": "The lowest performing area in the Q3 Workplace Environment Survey was the availability of quiet workspaces for focused tasks."}
]}

Main Entry - Slack API Request Handler

Este fluxo de trabalho gerencia as solicitações recebidas de bot do Slack. O fluxo de trabalho é acionado por meio de uma API personalizada do Jitterbit cada vez que um usuário interage com a interface de chat do bot do Slack. Para saber como configurar a API personalizada do Jitterbit, consulte Criar a API personalizada do Jitterbit.

Main - AI Agent Tools Logic

Este fluxo de trabalho trata as consultas do usuário recebidas do fluxo de trabalho Main Entry - Slack API Request Handler. O fluxo de trabalho gerencia solicitações ao LLM e captura suas respostas.

Acionar os fluxos de trabalho do projeto

Para acionar o processo de ajuste fino:

1. Execute manualmente o fluxo de trabalho Utility-Fine Tune OpenAI Model usando a opção Run da operação para executar a operação Main-Init Fine Tune.

2. Forneça seus dados de treinamento no script Fine Tune Data atribuindo-os à variável $InAndOut. Para detalhes, consulte Utility-Fine Tune OpenAI Model.

   Nota

   Esta configuração é necessária apenas quando você precisa criar um novo modelo ajustado.

Para usar o modelo ajustado:

• O workflow Main Entry - Slack API Request Handler é acionado pela API personalizada do Jitterbit. Envie uma mensagem direta para o app do Slack para iniciar o acionamento da API personalizada.

• Todos os outros workflows são acionados por outras operações e executam a partir do workflow principal. Eles não são destinados a ser executados independentemente.

Solução de problemas

Se encontrar problemas, revise os logs a seguir para obter informações detalhadas de solução de problemas:

• Logs de API
• Logs de operação

Para assistência adicional, entre em contato com o suporte do Jitterbit.