Agente LLM Ajustado en Jitterbit Harmony

Descripción general

Jitterbit proporciona el Agente LLM Ajustado a todos los clientes a través de Jitterbit Marketplace. Este agente está diseñado con fines de aprendizaje para ayudar a las organizaciones a adoptar fácilmente la IA utilizando la técnica de Generación Aumentada por Recuperación (RAG), que combina el razonamiento de LLM con el acceso a herramientas externas y fuentes de datos.

Este agente de IA permite personalizar un modelo de lenguaje grande (LLM) con los datos de su organización y luego utilizar ese modelo ajustado para responder preguntas a través de una interfaz conversacional. Aunque este agente utiliza OpenAI y Slack, se puede adaptar para trabajar con otros LLM y plataformas de chat como Claude, Microsoft Teams, microservicios, aplicaciones SaaS como Salesforce, o aplicaciones construidas utilizando Jitterbit App Builder.

Este documento explica cómo configurar y operar este agente de IA. El documento primero cubre la arquitectura y los requisitos previos, luego proporciona ejemplos de solicitudes para mostrar lo que el modelo ajustado puede hacer, y finalmente proporciona pasos para instalar, configurar y operar el agente de IA.

Arquitectura del proyecto

Este proyecto proporciona dos componentes distintos:

1. Utilidad de ajuste: Un flujo de trabajo único que entrena un modelo de OpenAI con los datos específicos de su organización (como encuestas de empleados, documentación interna o políticas de la empresa).

2. Agente conversacional: Un bot interactivo de Slack que utiliza su modelo ajustado para responder preguntas. Este es el agente de IA con el que interactúan sus usuarios.

Un flujo de trabajo típico implica los siguientes pasos:

1. Ejecuta la utilidad de ajuste una vez para crear su modelo personalizado.
2. Los usuarios interactúan con el agente de Slack, que utiliza ese modelo personalizado.
3. Si necesita actualizar el modelo con nuevos datos, vuelve a ejecutar la utilidad de ajuste.

Diagramas de flujo de trabajo

Los siguientes diagramas representan los dos flujos de trabajo principales en esta integración.

Utility - Fine Tune OpenAI Model workflow

Este flujo de trabajo de utilidad gestiona el proceso de ajuste fino para el modelo de OpenAI:

Main Entry - Slack API Request Handler workflow

Este flujo de trabajo maneja la interacción principal entre Slack, la API personalizada de Jitterbit y el modelo ajustado de OpenAI:

Prerequisites

Necesitas los siguientes componentes para usar este agente de IA.

Harmony components

Debes tener una licencia de Jitterbit Harmony con acceso a los siguientes componentes:

• Jitterbit Studio
• Jitterbit API Manager

OpenAI

Debes tener una suscripción a OpenAI con permisos para crear y gestionar claves de API.

• Clave de API de OpenAI. Para más información, consulta OpenAI API keys.

Supported endpoints

El diseño del agente de IA incorpora los siguientes puntos finales. Puedes acomodar otros sistemas modificando las configuraciones de puntos finales y flujos de trabajo del proyecto.

LLM

El agente de IA utiliza OpenAI como proveedor de LLM para ajuste fino e inferencia.

Chat interface

El agente de IA utiliza Slack como la interfaz de chat predeterminada para interactuar con el modelo ajustado.

Si deseas usar una aplicación diferente como interfaz de chat, puedes modificar los flujos de trabajo del proyecto para integrarte con tu plataforma preferida.

Example prompts

Los siguientes ejemplos de solicitudes demuestran los tipos de preguntas que el modelo ajustado puede manejar después de entrenarse con los datos de tu organización:

• "En la Encuesta del Entorno Laboral Q3, ¿qué área calificaron los empleados como la de menor rendimiento?"
• "¿Cuál fue la principal queja en la Encuesta de Experiencia de Incorporación 2025?"

Instalación, configuración y operación

Sigue estos pasos para instalar, configurar y operar este agente de IA:

1. Descargar personalizaciones e instalar el proyecto de Studio.
2. Revisar los flujos de trabajo del proyecto.
3. Generar tu clave API de OpenAI.
4. Configurar las variables del proyecto.
5. Probar conexiones.
6. Desplegar el proyecto.
7. Crear la API personalizada de Jitterbit.
8. Crear la aplicación de Slack, probar la conexión de Slack y redeplegar el proyecto.
9. Activar los flujos de trabajo del proyecto.
10. Solución de problemas.

Descargar personalizaciones e instalar el proyecto

Sigue estos pasos para descargar archivos de personalización e instalar el proyecto de Studio:

1. Inicia sesión en el portal de Harmony en https://login.jitterbit.com y abre Marketplace.

2. Localiza el agente de IA llamado Agente LLM Ajustado. Para localizar el agente de IA, puedes usar la barra de búsqueda o, en el panel de Filtros bajo Tipo, seleccionar Agente de IA para filtrar la visualización.

3. Haz clic en el enlace de Documentación del agente de IA para abrir su documentación en una pestaña separada. Mantén la pestaña abierta para que puedas referirte a la documentación después de iniciar el proyecto.

4. Haz clic en Iniciar Proyecto para abrir un diálogo de configuración de dos pasos. El diálogo te permite descargar personalizaciones e importar el agente de IA como un proyecto de Studio.

5. En el paso de configuración 1, Descargar Personalizaciones, selecciona el siguiente archivo y haz clic en Descargar Archivos:

   • slack_app_manifest.json

   Consejo

   El diálogo de configuración incluye una advertencia sobre no importar el agente de IA antes de aplicar las personalizaciones del endpoint. Esa advertencia no se aplica a este agente de IA y se puede ignorar. Sigue el orden recomendado de pasos en esta documentación.

6. Haz clic en Siguiente.

7. En el paso de configuración 2, Crear un Nuevo Proyecto, selecciona un entorno donde se creará el proyecto de Studio, y luego haz clic en Crear Proyecto.

8. Se muestra un diálogo de progreso. Después de que el diálogo indique que el proyecto ha sido creado, utiliza el enlace del diálogo Ir a Studio o abre el proyecto directamente desde la página de Proyectos de Studio.

Revisar flujos de trabajo del proyecto

En el proyecto de Studio abierto, revisa los flujos de trabajo junto con las descripciones a continuación para entender qué hace cada flujo de trabajo.

Utility-Fine Tune OpenAI Model

Este flujo de trabajo realiza el proceso de ajuste fino para crear un modelo OpenAI personalizado. Inicia el proceso manualmente ejecutando la operación Main-Init Fine Tune cuando desees crear o actualizar un modelo ajustado con nuevos datos de entrenamiento.

El flujo de trabajo maneja las siguientes tareas:

• Sube datos de entrenamiento a OpenAI.
• Inicia el trabajo de ajuste fino.
• Monitorea el estado del trabajo.

Antes de ejecutar este flujo de trabajo, prepara tus datos de entrenamiento en formato JSONL (JSON Lines). Cada línea debe representar un único ejemplo de entrenamiento como un objeto JSON completo. OpenAI requiere un mínimo de 10 ejemplos de preguntas y respuestas, pero se recomienda al menos 50 ejemplos para obtener mejores resultados.

El ejemplo a continuación muestra el formato correcto para los datos de entrenamiento. Cada línea contiene un objeto JSON con un array messages que incluye una pregunta del usuario y una respuesta del asistente.

OpenAI requiere el siguiente esquema JSONL para los datos de ajuste fino:

{"messages": [
    {"role": "user", "content": "What was the top employee-requested feature in the 2025 internal IT satisfaction survey?"},
    {"role": "assistant", "content": "The most requested feature in the 2025 IT satisfaction survey was single sign-on integration for all internal tools."}
]}
{"messages": [
    {"role": "user", "content": "In the Q3 Workplace Environment Survey, what did employees rate as the lowest performing area?"},
    {"role": "assistant", "content": "The lowest performing area in the Q3 Workplace Environment Survey was the availability of quiet workspaces for focused tasks."}
]}

Entrada Principal - Manejador de Solicitudes de API de Slack

Este flujo de trabajo gestiona las solicitudes entrantes del bot de Slack. El flujo de trabajo se activa a través de una API personalizada de Jitterbit cada vez que un usuario interactúa con la interfaz de chat del bot de Slack. Para aprender a configurar la API personalizada de Jitterbit, consulta Crear la API personalizada de Jitterbit.

Principal - Lógica de Herramientas del Agente de IA

Este flujo de trabajo maneja las consultas de los usuarios recibidas del flujo de trabajo Entrada Principal - Manejador de Solicitudes de API de Slack. El flujo de trabajo gestiona las solicitudes al LLM y captura sus respuestas.

Genera tu clave API de OpenAI

Sigue estos pasos para generar una clave API de OpenAI:

1. Ve a la página de claves API de OpenAI.

2. Haz clic en Crear nueva clave secreta para generar una nueva clave API.

3. Copia la clave generada y guárdala de forma segura. Necesitas esta clave para configurar la variable de proyecto OpenAI_API_KEY project variable.

Configurar variables del proyecto

En el proyecto de Studio, debes establecer valores para las siguientes variables del proyecto.

Para configurar las variables del proyecto, utiliza el menú de acciones del proyecto para seleccionar Variables del Proyecto. Esto abre un panel en la parte inferior de la página donde puedes revisar y establecer los valores.

OpenAI

Slack

Test connections

Testea las configuraciones de los endpoints para verificar la conectividad utilizando los valores de variables del proyecto definidos.

Para probar las conexiones, ve a la pestaña Endpoints y conectores del proyecto en la paleta de componentes de diseño, pasa el cursor sobre cada endpoint y haz clic en Test.

Deploy the project

Despliega el proyecto de Studio.

Para desplegar el proyecto, utiliza el menú de acciones del proyecto para seleccionar Desplegar.

Create the Jitterbit custom API

Crea una API personalizada para la operación Solicitud del Bot de Slack en el flujo de trabajo Entrada Principal - Manejador de Solicitudes de API de Slack.

Para crear la API, utiliza el menú de acciones de la operación para seleccionar Publicar como una API o Publicar como una API utilizando IA.

Configura los siguientes ajustes:

Guarda la URL del servicio de la API publicada para usarla al crear la aplicación de Slack. Para encontrar la URL del servicio, ve al panel de detalles de la API en la pestaña Servicios, pasa el cursor sobre la columna Acciones del servicio y haz clic en Copiar URL del servicio de API.

Create the Slack app, test the connection, and redeploy the project

Para crear la interfaz de chat en Slack, crea una aplicación de Slack utilizando el archivo de manifiesto de la aplicación de Slack proporcionado con los archivos de personalización de este agente de IA. Alternativamente, crea la aplicación desde cero.

Si utilizas el archivo de manifiesto de la aplicación de Slack proporcionado (slack_app_manifest.json), reemplaza los siguientes marcadores de posición con tus propios valores de configuración.

Después de instalar la aplicación de Slack, obtén su token de bot.

Abre la configuración de variables del proyecto nuevamente e ingresa el token de bot para el valor de la variable del proyecto bot_oauth_user_token.

Después de establecer el token de bot, prueba la conexión de Slack y vuelve a implementar el proyecto.

Trigger the project workflows

Para activar el proceso de ajuste fino:

1. Ejecuta manualmente el flujo de trabajo Utility-Fine Tune OpenAI Model ejecutando la operación Main-Init Fine Tune.

2. Proporciona tus datos de entrenamiento en el script Fine Tune Data asignándolos a la variable $InAndOut. Para más detalles, consulta Utility-Fine Tune OpenAI Model.

   Nota

   Esta configuración es necesaria solo cuando necesitas crear un nuevo modelo ajustado.

Para usar el modelo ajustado:

• El flujo de trabajo Main Entry - Slack API Request Handler es activado por la API personalizada de Jitterbit. Envía un mensaje directo a la aplicación de Slack para iniciar el disparador de la API personalizada.

• Todos los demás flujos de trabajo son activados por otras operaciones y se ejecutan a partir del flujo de trabajo principal. No están destinados a ejecutarse de forma independiente.

Troubleshooting

Si encuentras problemas, revisa los siguientes registros para obtener información detallada de solución de problemas:

• Registros de API
• Registros de operaciones

Para asistencia adicional, contacta a soporte de Jitterbit.