Agente LLM Ajustado de Jitterbit

Descripción general

Jitterbit proporciona el Agente LLM Ajustado a todos los clientes a través de Jitterbit Marketplace. Este agente está diseñado con fines educativos para ayudar a las organizaciones a adoptar fácilmente la IA utilizando la técnica de Generación Aumentada por Recuperación (RAG), que combina el razonamiento de LLM con acceso a herramientas y fuentes de datos externas.

Este agente de IA te permite personalizar un modelo de lenguaje grande (LLM) con los datos de tu organización y luego usar ese modelo ajustado para responder preguntas a través de una interfaz conversacional. Aunque este agente utiliza OpenAI y Slack, puedes adaptarlo para que funcione con otros LLM y plataformas de chat como Claude, Microsoft Teams, microservicios, aplicaciones SaaS como Salesforce, o aplicaciones creadas con Jitterbit App Builder.

Este documento explica cómo configurar y operar este agente de IA. Cubre la arquitectura y los requisitos previos, proporciona ejemplos de solicitudes para mostrar lo que puede hacer el modelo ajustado, y luego proporciona pasos para instalar, configurar y operar el agente de IA.

Arquitectura del agente de IA

El agente de IA proporciona dos componentes distintos:

1. Utilidad de ajuste: Un flujo de trabajo único que entrena un modelo de OpenAI con los datos específicos de tu organización (como encuestas de empleados, documentación interna o políticas de la empresa).

2. Agente conversacional: Un bot interactivo de Slack que utiliza tu modelo ajustado para responder preguntas. Este es el agente de IA con el que interactúan tus usuarios.

Un flujo de trabajo típico implica los siguientes pasos:

1. Ejecutas la utilidad de ajuste una vez para crear tu modelo personalizado.
2. Los usuarios interactúan con el agente de Slack, que utiliza ese modelo personalizado.
3. Si necesitas actualizar el modelo con datos nuevos, vuelves a ejecutar la utilidad de ajuste.

Diagramas de flujo de trabajo

Los siguientes diagramas representan los dos flujos de trabajo principales en esta integración.

Utilidad - Flujo de trabajo de Ajuste del Modelo de OpenAI

Este flujo de trabajo de utilidad gestiona el proceso de ajuste para el modelo de OpenAI:

Entrada Principal - Flujo de trabajo del Controlador de Solicitudes de API de Slack

Este flujo de trabajo maneja la interacción principal entre Slack, la API personalizada de Jitterbit y el modelo ajustado de OpenAI:

Requisitos previos

Necesitas los siguientes componentes para usar este agente de IA.

Componentes de Harmony

Debes tener una licencia de Jitterbit Harmony con acceso a los siguientes componentes:

• Jitterbit Studio
• Jitterbit API Manager

Puntos de conexión admitidos

El diseño del agente de IA incorpora los siguientes puntos de conexión. Puedes adaptar otros sistemas modificando las configuraciones de puntos de conexión y flujos de trabajo del proyecto.

LLM

El agente de IA utiliza OpenAI como proveedor de LLM para ajuste e inferencia. Para usar OpenAI, debes tener una suscripción a OpenAI con permisos para crear y administrar claves de API.

Interfaz de chat

El agente de IA utiliza Slack como la interfaz de chat predeterminada para interactuar con el modelo ajustado.

Si quieres usar una aplicación diferente como interfaz de chat, puedes modificar los flujos de trabajo del proyecto para integrarla con tu plataforma preferida.

Ejemplos de solicitudes

Los siguientes ejemplos de solicitudes demuestran los tipos de preguntas que el modelo ajustado puede manejar después del entrenamiento con los datos de tu organización:

• "En la Encuesta del Entorno Laboral del Q3, ¿qué área evaluaron los empleados como la de menor desempeño?"
• "¿Cuál fue la queja principal en la Encuesta de Experiencia de Incorporación 2025?"

Instalación, configuración y operación

Sigue estos pasos para instalar, configurar y operar este agente de IA:

1. Descargar personalizaciones e instalar el proyecto de Studio.
2. Generar tu clave API de OpenAI.
3. Crear la aplicación Slack.
4. Configurar variables de proyecto.
5. Probar conexiones.
6. Implementar el proyecto.
7. Crear la API personalizada de Jitterbit.
8. Revisar flujos de trabajo del proyecto.
9. Activar flujos de trabajo del proyecto.
10. Solución de problemas.

Descargar personalizaciones e instalar el proyecto

Sigue estos pasos para descargar archivos de personalización e instalar el proyecto de Studio:

1. Inicia sesión en el portal de Harmony en https://login.jitterbit.com y abre Marketplace.

2. Ubica el agente de IA llamado Fine-Tuned LLM Agent. Para localizarlo, puedes usar la barra de búsqueda o, en el panel Filtros bajo Tipo, selecciona Agente de IA para filtrar la visualización.

3. Haz clic en el enlace Documentación del agente de IA para abrir su documentación en una pestaña separada. Mantén la pestaña abierta para que puedas consultar la documentación después de iniciar el proyecto.

4. Haz clic en Iniciar Proyecto para abrir un diálogo de configuración de dos pasos. El diálogo te permite descargar personalizaciones e importar el agente de IA como un proyecto de Studio.

5. En el paso 1 de configuración, Descargar Personalizaciones, selecciona el siguiente archivo y haz clic en Descargar Archivos:

   • slack_app_manifest.json

   Consejo

   El diálogo de configuración incluye una advertencia de no importar el agente de IA antes de aplicar personalizaciones de puntos finales. Esta advertencia no aplica a este agente de IA y puede ignorarse. Sigue el orden de pasos recomendado en esta documentación.

6. Haz clic en Siguiente.

7. En el paso 2 de configuración, Crear un Nuevo Proyecto, selecciona un ambiente donde se creará el proyecto de Studio y, a continuación, haz clic en Crear Proyecto.

8. Se muestra un diálogo de progreso. Después de indicar que el proyecto se creó, usa el enlace del diálogo Ir a Studio o abre el proyecto directamente desde la página Proyectos de Studio.

Generar tu clave API de OpenAI

Sigue estos pasos para generar una clave API de OpenAI:

1. Ve a la página de claves API de OpenAI.

2. Haz clic en Crear nueva clave secreta para generar una nueva clave API.

3. Copia la clave generada y guárdala de forma segura. Necesitas esta clave para configurar la variable de proyecto OpenAI_API_KEY.

Crear la aplicación Slack

Para crear la interfaz de chat en Slack, sigue estos pasos:

1. Crea una aplicación Slack usando el archivo de manifiesto de la aplicación Slack (slack_app_manifest.json) proporcionado con los archivos de personalización de este agente de IA. Alternativamente, crea la aplicación desde cero.

2. Si utilizas el archivo de manifiesto proporcionado, reemplaza los siguientes marcadores de posición con tus propios valores de configuración:

   Marcador de posición	Descripción
   {{Replace with Slack bot name}}	El nombre que deseas que tenga tu bot de Slack, tal como se muestra a los usuarios. Reemplaza este valor en dos lugares del manifiesto.
   {{Replace with Jitterbit API URL}}	La URL de servicio de la API personalizada de Jitterbit que creaste en Crear la API personalizada de Jitterbit.

3. Instala la aplicación en tu espacio de trabajo de Slack.

4. Obtén el token del bot (para el campo Bot User OAuth Token de la conexión de Slack) e ingresa su valor en la variable de proyecto slack_bot_oauth_user_token.

5. Configura la variable de proyecto slack_channel_name con el canal donde se deben enviar las notificaciones.

6. Ingresa el valor del token del bot en la variable de proyecto slack_bot_oauth_user_token y el nombre del canal en la variable de proyecto slack_channel_name. Configurarás estos valores en el siguiente paso.

Configura variables de proyecto

En el proyecto de Studio, debes establecer valores para las siguientes variables de proyecto.

Para configurar variables de proyecto, usa el menú de acciones del proyecto y selecciona Project Variables. Se abre un panel en la parte inferior de la página donde puedes revisar y establecer los valores.

OpenAI

Slack

Prueba las conexiones

Prueba las configuraciones de punto de conexión para verificar la conectividad usando los valores de variables de proyecto definidos.

Para probar las conexiones, ve a la pestaña Project endpoints and connectors de la paleta de componentes de diseño, colócate sobre cada punto de conexión y haz clic en Test.

Implementa el proyecto

Implementa el proyecto de Studio.

Para implementar el proyecto, usa el menú de acciones del proyecto y selecciona Deploy.

Crear la API personalizada de Jitterbit

Crear una API personalizada para la operación Slack Bot Request en el flujo de trabajo Main Entry - Slack API Request Handler.

Para crear la API, se utiliza el menú de acciones de la operación para seleccionar Publish as an API o Publish as an API using AI.

Configura los siguientes parámetros:

Guarda la URL del servicio de la API publicada para usarla cuando se cree la aplicación Slack. Para encontrar la URL del servicio, accede al panel de detalles de la API en la pestaña Services, pasa el cursor sobre la columna Actions del servicio y haz clic en Copy API service URL.

Revisar los flujos de trabajo del proyecto

En el proyecto de Studio abierto, revisa los flujos de trabajo junto con las descripciones a continuación para entender qué hace cada flujo de trabajo.

Para crear la interfaz de chat de Slack, sigue estos pasos:

Utility-Fine Tune OpenAI Model

Este flujo de trabajo realiza el proceso de ajuste fino para crear un modelo OpenAI personalizado. Inicia el proceso manualmente ejecutando la operación Main-Init Fine Tune cuando desees crear o actualizar un modelo ajustado con nuevos datos de entrenamiento.

El flujo de trabajo realiza las siguientes tareas:

• Carga datos de entrenamiento en OpenAI.
• Inicia el trabajo de ajuste fino.
• Supervisa el estado del trabajo.

Antes de ejecutar este flujo de trabajo, prepara tus datos de entrenamiento en formato JSONL (JSON Lines). Cada línea debe representar un único ejemplo de entrenamiento como un objeto JSON completo. OpenAI requiere un mínimo de 10 ejemplos de preguntas y respuestas, pero se recomienda al menos 50 ejemplos para obtener mejores resultados.

El ejemplo a continuación muestra el formato correcto para los datos de entrenamiento. Cada línea contiene un objeto JSON con un arreglo messages que incluye una pregunta del usuario y una respuesta del asistente.

OpenAI requiere el siguiente esquema JSONL (JSON Lines) para datos de ajuste fino:

{"messages": [
    {"role": "user", "content": "What was the top employee-requested feature in the 2025 internal IT satisfaction survey?"},
    {"role": "assistant", "content": "The most requested feature in the 2025 IT satisfaction survey was single sign-on integration for all internal tools."}
]}
{"messages": [
    {"role": "user", "content": "In the Q3 Workplace Environment Survey, what did employees rate as the lowest performing area?"},
    {"role": "assistant", "content": "The lowest performing area in the Q3 Workplace Environment Survey was the availability of quiet workspaces for focused tasks."}
]}

Main Entry - Slack API Request Handler

Este flujo de trabajo administra las solicitudes entrantes del bot de Slack. El flujo de trabajo se activa a través de una API personalizada de Jitterbit cada vez que un usuario interactúa con la interfaz de chat del bot de Slack. Para aprender a configurar la API personalizada de Jitterbit, consulta Crear la API personalizada de Jitterbit.

Main - AI Agent Tools Logic

Este flujo de trabajo administra las consultas del usuario recibidas del flujo de trabajo Main Entry - Slack API Request Handler. El flujo de trabajo gestiona las solicitudes al LLM y captura sus respuestas.

Activar los flujos de trabajo del proyecto

Para activar el proceso de ajuste fino:

1. Ejecuta manualmente el flujo de trabajo Utility-Fine Tune OpenAI Model usando la opción Run de la operación para ejecutar la operación Main-Init Fine Tune.

2. Proporciona tus datos de entrenamiento en el script Fine Tune Data asignándolos a la variable $InAndOut. Para más detalles, consulta Utility-Fine Tune OpenAI Model.

   Nota

   Esta configuración es obligatoria solo cuando necesitas crear un nuevo modelo ajustado.

Para usar el modelo ajustado:

• El workflow Main Entry - Slack API Request Handler se activa mediante la API personalizada de Jitterbit. Envía un mensaje directo a la aplicación Slack para iniciar el disparador de API personalizada.

• Todos los otros workflows se activan por otras operaciones y se ejecutan en cascada desde el workflow principal. No están diseñados para ejecutarse de manera independiente.

Solución de problemas

Si encuentras problemas, revisa los siguientes registros para obtener información detallada de solución de problemas:

• Registros de API
• Registros de operaciones

Para obtener ayuda adicional, comunícate con el soporte de Jitterbit.