Saltar al contenido

Actividad de Prompt de Azure OpenAI

Introducción

Una actividad de Prompt de Azure OpenAI, utilizando su conexión de Azure OpenAI, crea una finalización de texto para el prompt proporcionado en Azure OpenAI y está destinada a ser utilizada como un objetivo para consumir datos en una operación.

Nota

El conector utiliza la API de Chat Completion para todos los modelos excepto gpt-35-turbo-instruct, que utiliza la API de Completions heredada. Este cambio refleja las jubilaciones de modelos en curso de Microsoft. Para más información, consulta Jubilaciones de modelos de Azure OpenAI.

Consejo

Sigue estas pautas para gestionar el historial de chat a través de las operaciones:

  • Grupos de agentes en la nube: Habilita la opción Almacenar contexto de chat a través de operaciones en la configuración de conexión. El conector mantiene el contexto de conversación entre operaciones dentro del mismo entorno utilizando el mismo chatId (configurado en la actividad de Registro de Herramientas).
  • Agentes privados: El contexto de chat se mantiene en la memoria local para operaciones dentro de la misma cadena de operaciones que comparten el mismo chatId.

Crear una actividad de Prompt de Azure OpenAI

Una instancia de una actividad de Prompt de Azure OpenAI se crea a partir de una conexión de Azure OpenAI utilizando su tipo de actividad Prompt.

Para crear una instancia de una actividad, arrastra el tipo de actividad al lienzo de diseño o copia el tipo de actividad y pégalo en el lienzo de diseño. Para más detalles, consulta Crear una instancia de actividad o herramienta en Reutilización de componentes.

Una actividad de Prompt de Azure OpenAI existente se puede editar desde estas ubicaciones:

Configurar una actividad de Prompt de Azure OpenAI

Sigue estos pasos para configurar una actividad de Prompt de Azure OpenAI:

Paso 1: Ingresa un nombre y especifica configuraciones

En este paso, proporciona un nombre para la actividad y especifica el texto del prompt y configuraciones opcionales. Cada elemento de la interfaz de usuario de este paso se describe a continuación.

  • Menú de endpoint: Si tienes múltiples endpoints del mismo tipo de conector configurados, un menú en la parte superior de la pantalla muestra el nombre del endpoint actual. Haz clic en el menú para cambiar a un endpoint diferente. Para más información, ver Cambiar el endpoint asignado en Pantallas de configuración.

    • Editar endpoint: Aparece cuando pasas el cursor sobre el nombre del endpoint actual. Haz clic para editar la configuración de conexión del endpoint seleccionado actualmente.

  • Nombre: Ingresa un nombre para identificar la actividad. El nombre debe ser único para cada actividad de Prompt de Azure OpenAI y no debe contener barras diagonales (/) o dos puntos (:).

  • Texto del prompt: Ingresa el prompt para la finalización.

  • ID del modelo: Selecciona el modelo a utilizar. Las implementaciones de tu instancia de Azure OpenAI llenan la lista de modelos. Haz clic en Actualizar para actualizar la lista si has implementado nuevos modelos desde que abriste esta configuración. Los modelos deben ser implementados primero en Azure para aparecer como opciones. Para información sobre cómo implementar modelos, consulta la documentación de Microsoft.

  • Actualizar: Haz clic en Actualizar para restablecer el ID del modelo al valor guardado anteriormente.

  • Configuraciones opcionales: Haz clic para expandir configuraciones opcionales adicionales:

    • Rol: Selecciona el tipo de aviso que se enviará a Azure OpenAI:

      • Asistente: Selecciona este rol si un asistente de chatbot creado previamente va a solicitar a Azure OpenAI. No selecciones este rol sin un asistente que haga la solicitud, ya que puede causar errores.

      • Sistema: (predeterminado) Selecciona este rol para avisos automatizados.

      • Herramienta: Selecciona este rol si un asistente de chatbot creado previamente va a solicitar a Azure OpenAI que use una herramienta registrada con la actividad de Registro de Herramientas. No selecciones este rol sin un asistente que haga la solicitud o sin herramientas registradas, ya que puede causar errores.

      • Usuario: Este rol simula un aviso directo del usuario a la IA, como si estuviera en una ventana de chat. Selecciona este rol al crear un asistente de chatbot y proporciona instrucciones en el campo Texto del aviso.

    • Temperatura: Ingresa la temperatura de muestreo. El valor debe ser un decimal entre 0 y 2. No se recomienda usar esta configuración con Probabilidad Superior.

    • Máx. Tokens: Ingresa el número máximo de tokens a generar para la finalización. El valor predeterminado es 16.

    • Probabilidad Superior: Ingresa la probabilidad superior. No se recomienda usar esta configuración con Temperatura.

    • Seleccionar un índice: Selecciona para interactuar con un índice de búsqueda de Microsoft Azure AI.

      Nota

      Debes seleccionar y configurar la opción Agregar una fuente de datos en la conexión. De lo contrario, se produce un error al seleccionar esta opción.

      Al seleccionarlo, aparecen estos campos adicionales:

      • Seleccionar índice de búsqueda de Azure AI: Elige un índice de tu servicio de búsqueda de Azure AI. Haz clic en Actualizar para actualizar la lista de índices del servicio de búsqueda de Azure AI.

      • Ingresar número de resultados de documentos principales: Ingresa el número de documentos más relevantes para incluir en el contexto enviado al modelo.

      • Seleccionar tipo de búsqueda de índice de Azure: Se admite el tipo de búsqueda por palabras clave y está seleccionado por defecto.

  • Continuar en caso de error: Selecciona para continuar la ejecución de la actividad si se encuentra un error para un conjunto de datos en una solicitud por lotes. Si se encuentran errores, se escriben en el registro de operaciones.

  • Guardar y salir: Si está habilitado, haz clic para guardar la configuración de este paso y cerrar la configuración de la actividad.

  • Siguiente: Haz clic para almacenar temporalmente la configuración de este paso y continuar al siguiente paso. La configuración no se guardará hasta que hagas clic en el botón Finalizado en el último paso.

  • Descartar cambios: Después de realizar cambios, haz clic para cerrar la configuración sin guardar los cambios realizados en ningún paso. Un mensaje te pide que confirmes que deseas descartar los cambios.

Paso 2: Revisar los esquemas de datos

Se muestran los esquemas de solicitud o respuesta. Cada elemento de la interfaz de usuario de este paso se describe a continuación.

  • Esquemas de datos: Estos esquemas de datos son heredados por transformaciones adyacentes y se muestran nuevamente durante el mapeo de transformaciones.

    Nota

    Los datos suministrados en una transformación tienen prioridad sobre la configuración de la actividad.

    El conector de Azure OpenAI utiliza la API REST del Servicio Azure OpenAI. Consulta la documentación de la API para obtener información sobre los nodos y campos del esquema.

  • Actualizar: Haz clic en el ícono de actualizar o en la palabra Actualizar para regenerar esquemas desde el punto final de Azure OpenAI. Esta acción también regenera un esquema en otras ubicaciones del proyecto donde se hace referencia al mismo esquema, como en una transformación adyacente.

  • Editar: Haz clic en el ícono de editar sobre cada esquema de datos para ingresar al editor de ese esquema de datos. El editor te permite agregar, eliminar y reorganizar nodos y campos, así como cambiar sus tipos de datos. Todos los nodos y campos recién agregados se establecen en [0, 1] cardinalidad. Los cambios realizados en los esquemas de datos deben ser aceptables para el punto final y deben hacerse solo después de consultar cualquier documentación disponible para el punto final. Después de realizar ediciones en el esquema, se muestra una fecha de última edición en la parte superior del esquema aplicable para indicar que el esquema ha tenido ediciones manuales. Actualizar los esquemas restablecerá los esquemas a sus estructuras predeterminadas.

  • Atrás: Haz clic para almacenar temporalmente la configuración de este paso y regresar al paso anterior.

  • Finalizado: Haz clic para guardar la configuración de todos los pasos y cerrar la configuración de la actividad.

  • Descartar Cambios: Después de realizar cambios, haz clic para cerrar la configuración sin guardar los cambios realizados en ningún paso. Un mensaje te pide que confirmes que deseas descartar los cambios.

Próximos pasos

Después de configurar una actividad de Prompt de Azure OpenAI, completa la configuración de la operación agregando y configurando otras actividades o herramientas como pasos de operación. También puedes configurar la configuración de la operación, que incluye la capacidad de encadenar operaciones que están en los mismos o diferentes flujos de trabajo.

Las acciones del menú para una actividad son accesibles desde el panel del proyecto y el lienzo de diseño. Para más detalles, consulta el menú de acciones de actividad en Conceptos básicos de conectores.

Las actividades de Prompt de Azure OpenAI se pueden utilizar como un objetivo con estos patrones de operación:

Para utilizar la actividad con funciones de scripting, escribe los datos en una ubicación temporal y luego utiliza esa ubicación temporal en la función de scripting.

Cuando estés listo, despliega y ejecuta la operación y valida el comportamiento revisando los registros de operación.