Saltar al contenido

Actividad de Prompt de Azure OpenAI en Jitterbit Studio

Introducción

Una actividad de Prompt de Azure OpenAI, utilizando su conexión de Azure OpenAI, crea una finalización de texto para el prompt proporcionado en Azure OpenAI y está destinada a ser utilizada como un objetivo para consumir datos en una operación.

Nota

El conector utiliza la API de Chat Completion para todos los modelos excepto gpt-35-turbo-instruct, que utiliza la API de Completions heredada. Este cambio refleja las jubilaciones de modelos en curso de Microsoft. Para más información, consulta jubilaciones de modelos de Azure OpenAI.

Consejo

Sigue estas pautas para gestionar el historial de chat a través de las operaciones:

  • Grupos de agentes en la nube: Habilita la opción Almacenar contexto de chat a través de operaciones en la configuración de conexión. El conector mantiene el contexto de conversación entre operaciones dentro del mismo entorno utilizando el mismo chatId (configurado en la actividad de Registro de Herramientas).
  • Agentes privados: El contexto de chat se mantiene en la memoria local para operaciones dentro de la misma cadena de operaciones que comparten el mismo chatId.

Crear una actividad de Prompt de Azure OpenAI

Una instancia de una actividad de Prompt de Azure OpenAI se crea a partir de una conexión de Azure OpenAI utilizando su tipo de actividad Prompt.

Para crear una instancia de una actividad, arrastra el tipo de actividad al lienzo de diseño o copia el tipo de actividad y pégalo en el lienzo de diseño. Para más detalles, consulta Crear una instancia de actividad o herramienta en Reutilización de componentes.

Una actividad de Prompt de Azure OpenAI existente se puede editar desde estas ubicaciones:

Configurar una actividad de Prompt de Azure OpenAI

Sigue estos pasos para configurar una actividad de Prompt de Azure OpenAI:

Paso 1: Ingresa un nombre y especifica configuraciones

En este paso, proporciona un nombre para la actividad y especifica el texto del prompt y configuraciones opcionales. Cada elemento de la interfaz de usuario de este paso se describe a continuación.

Consejo

Los campos con un ícono de variable admiten el uso de variables globales, variables de proyecto y variables de Jitterbit. Comienza escribiendo un corchete cuadrado abierto [ en el campo o haciendo clic en el ícono de variable para mostrar un menú que enumera las variables existentes de las que elegir.

  • Menú de endpoint: Si tienes múltiples endpoints del mismo tipo de conector configurados, un menú en la parte superior de la pantalla muestra el nombre del endpoint actual. Haz clic en el menú para cambiar a un endpoint diferente. Para más información, consulta Cambiar el endpoint asignado en Pantallas de configuración.

  • Editar punto final: Aparece cuando pasas el cursor sobre el nombre del punto final actual. Haz clic para editar la configuración de conexión del punto final seleccionado actualmente.

  • Nombre: Ingresa un nombre para identificar la actividad. El nombre debe ser único para cada actividad de Prompt de Azure OpenAI y no debe contener barras diagonales (/) ni dos puntos (:).

  • Texto del prompt: Ingresa el prompt para la finalización.

  • ID del modelo: Selecciona el modelo a utilizar. Las implementaciones de tu instancia de Azure OpenAI llenan la lista de modelos. Haz clic en Actualizar para actualizar la lista si has implementado nuevos modelos desde que abriste esta configuración. Los modelos deben ser implementados primero en Azure para aparecer como opciones. Para obtener información sobre cómo implementar modelos, consulta la documentación de Microsoft.

  • Actualizar: Haz clic en Actualizar para restablecer el ID del modelo al valor guardado anteriormente.

  • Configuraciones opcionales: Haz clic para expandir configuraciones opcionales adicionales:

    • Rol: Selecciona el tipo de prompt que se enviará a Azure OpenAI:

      • Asistente: Selecciona este rol si un asistente creado previamente va a solicitar a Azure OpenAI. No selecciones este rol sin un asistente que realice la solicitud, ya que puede causar errores.

      • Sistema: (predeterminado) Selecciona este rol para prompts automatizados.

      • Herramienta: Selecciona este rol si un asistente creado previamente va a solicitar a Azure OpenAI que use una herramienta registrada con la actividad de Registro de Herramientas. No selecciones este rol sin un asistente que realice la solicitud o sin herramientas registradas, ya que puede causar errores.

      • Usuario: Este rol simula un prompt directo del usuario a la IA, como si estuviera en una ventana de chat. Selecciona este rol al crear un asistente y proporciona instrucciones en el campo Texto del prompt.

    • Temperatura: Ingresa la temperatura de muestreo. El valor debe ser un decimal entre 0 y 2. No se recomienda usar esta configuración con Probabilidad Superior.

    • Max Tokens: Ingresa el número máximo de tokens a generar para la finalización. El valor predeterminado es 16.

    • Top Probability: Ingresa la probabilidad máxima. No se recomienda usar esta configuración con Temperature.

    • Select an Index: Selecciona para interactuar con un índice de búsqueda de Microsoft Azure AI.

      Nota

      Debes seleccionar y configurar la opción Add a data source en la conexión. De lo contrario, se produce un error al seleccionar esta opción.

      Al seleccionarlo, aparecen estos campos adicionales:

      • Select Azure AI Search index: Elige un índice de tu servicio de búsqueda de Azure AI. Haz clic en Refresh para actualizar la lista de índices del servicio de búsqueda de Azure AI.

      • Enter number of top document result: Ingresa el número de documentos más relevantes para incluir en el contexto enviado al modelo.

      • Select Azure index search type: El tipo de búsqueda por palabra clave es compatible y está seleccionado por defecto.

  • Continue on Error: Selecciona para continuar la ejecución de la actividad si se encuentra un error para un conjunto de datos en una solicitud por lotes. Si se encuentran errores, se escriben en el registro de operaciones.

  • Save & Exit: Si está habilitado, haz clic para guardar la configuración de este paso y cerrar la configuración de la actividad.

  • Next: Haz clic para almacenar temporalmente la configuración de este paso y continuar al siguiente paso. La configuración no se guardará hasta que hagas clic en el botón Finished en el último paso.

  • Discard Changes: Después de realizar cambios, haz clic para cerrar la configuración sin guardar los cambios realizados en ningún paso. Un mensaje te pedirá que confirmes que deseas descartar los cambios.

Step 2: Review the data schemas

Se muestran los esquemas de solicitud o respuesta. Cada elemento de la interfaz de usuario de este paso se describe a continuación.

  • Esquemas de Datos: Estos esquemas de datos son heredados por transformaciones adyacentes y se muestran nuevamente durante el mapeo de transformación.

    Nota

    Los datos suministrados en una transformación tienen prioridad sobre la configuración de la actividad.

    El conector de Azure OpenAI utiliza la API REST del Servicio Azure OpenAI. Consulta la documentación de la API para obtener información sobre los nodos y campos del esquema.

  • Actualizar: Haz clic en el ícono de actualizar o en la palabra Actualizar para regenerar esquemas desde el punto final de Azure OpenAI. Esta acción también regenera un esquema en otras ubicaciones del proyecto donde se hace referencia al mismo esquema, como en una transformación adyacente.

  • Editar: Haz clic en el ícono de editar sobre cada esquema de datos para ingresar al editor de ese esquema de datos. El editor te permite agregar, eliminar y reorganizar nodos y campos, así como cambiar sus tipos de datos. Todos los nodos y campos recién agregados se establecen en [0, 1] cardinalidad. Los cambios realizados en los esquemas de datos deben ser aceptables para el punto final y deben hacerse solo después de consultar cualquier documentación disponible para el punto final. Después de realizar ediciones en el esquema, se muestra una fecha de última edición en la parte superior del esquema aplicable para indicar que el esquema ha tenido ediciones manuales. Actualizar los esquemas restablecerá los esquemas a sus estructuras predeterminadas.

  • Atrás: Haz clic para almacenar temporalmente la configuración de este paso y regresar al paso anterior.

  • Terminado: Haz clic para guardar la configuración de todos los pasos y cerrar la configuración de la actividad.

  • Descartar Cambios: Después de realizar cambios, haz clic para cerrar la configuración sin guardar los cambios realizados en ningún paso. Un mensaje te pide que confirmes que deseas descartar los cambios.

Próximos pasos

Después de configurar una actividad de Prompt de Azure OpenAI, completa la configuración de la operación agregando y configurando otras actividades o herramientas como pasos de operación. También puedes configurar los ajustes de la operación, que incluyen la capacidad de encadenar operaciones que están en los mismos o diferentes flujos de trabajo.

Las acciones del menú para una actividad son accesibles desde el panel del proyecto y el lienzo de diseño. Para más detalles, consulta el menú de acciones de actividad en Conceptos básicos de conectores.

Las actividades de Prompt de Azure OpenAI se pueden utilizar como un objetivo con estos patrones de operación:

Para utilizar la actividad con funciones de scripting, escribe los datos en una ubicación temporal y luego utiliza esa ubicación temporal en la función de scripting.

Cuando estés listo, despliega y ejecuta la operación y valida el comportamiento revisando los registros de operación.