Video: Agentes que Transforman: Impulsando la Innovación Escalable | Duration: 5404s | Summary: Agentes que Transforman: Impulsando la Innovación Escalable | Chapters: Bienvenida y Introducción (3.4399998s), Oportunidades de Analítica Generativa (293.91498s), Oportunidades con LLMs (470.42502s), Agentes Multimodales Avanzados (739.76s), Demostración del Agente (1084.825s), Herramientas del Agente (1496.61s), Creación de Agentes (2150.3252s), Prompts Visuales Poderosos (2546.495s), Preguntas y Respuestas (2913.8599s)
Transcript for "Agentes que Transforman: Impulsando la Innovación Escalable":
Buenos días, JC. ¿Qué tal? Buenos días, Evandro, muy bien. ¿Cómo estás? Buenas tardes para otros. Sí, buenas tardes para el la gran mayoría de los que estamos escuchando de Cono Sur. Hola, buenos días, buenas tardes a todos. En unos minutos damos inicio a la sesión, esperamos que se nos unan algunas personas más. Listo, Rafa, hola, hola. Bienvenido Costa Rica, Colombia. Muchas personas de Costa Rica hoy. Pura vida. Bueno, mientras se van subiendo alguno de los compañeros, les comparto también que en el chat les voy a pasar el link para nuestro grupo de Latam, nuestra comunidad en LinkedIn, para que se puedan unir y así se pueden enterar de cualquier evento futuro que vayamos a tener. Mientras esperamos unos minutitos más. Alguien de ustedes está acompañando al mundial de fútbol, de de clubes. La última ronda estuvo súper emocionante. No sé de qué hincha son. Manuel dice que sí, dice van bien los de Brasil. Yo soy de la hincha de Palmeiras. Listo. Bueno, vamos a dar inicio porque ya tenemos unos minutitos que empezamos, entonces bienvenidos nuevamente a todo el mundo. Gracias por acompañarnos. Si nos acompañaron en la primera sesión, gracias por regresar. Si no lograron unirse, todavía se pueden registrar y pueden ver la grabación de la primera parte de esta serie. El día de hoy vamos a hablar sobre agentes, que es todo lo que se está hablando estos días, y Evandro y Juan Camilo nos van a acompañar, háblanos un poco de cómo agentes están transformando las empresas, los clientes acá en Dataiku, y cómo el trabajo que ellos están haciendo en la región está impactado por los las funcionalidades de agentes de Dataiku. Entonces con eso le doy le doy la palabra a Evandro, JC, no sé si quieran presentar para las personas que quizás no lo habían conocido en la primera sesión. Sí, ¿qué tal? Mi nombre es Juan Camilo, soy 1 de los ejecutivos comerciales aquí en Data IQ, y con nosotros también está Evandro Pacola, que es director y líder técnico para DaTQ en Latinoamérica. Nuevamente, un repaso de lo que vamos a ver el día de hoy es, bueno, un recordatorio, un breve recordatorio de lo que cubrimos en el webinar pasado. Vamos a entender un poco de por qué y por qué no se están usando agentes hoy en día. Luego, si entramos en lo que a la mayoría de la gente le gusta ver, que es la demostración del producto cómo construir agentes, y una sesión para hacer preguntas y respuestas con su respectivo cierre. Cualquier pregunta que tengan en el intermedio, pueden ir a la pestaña de preguntas y respuestas, escribirnos la pregunta ahí, preguntas y respuestas, escribirnos la pregunta ahí. Vamos a hacer lo posible para contestarla en tiempo real, si no, las leemos al final y las intentamos de contestar al final, ¿vale? Así que con eso, pues, le damos inicio. Muchas gracias por todos los comentarios, dejarnos saber de dónde nos están acompañando. Y, bueno, pues empecemos con con el webinar. Un breve repaso de lo que vimos la la vez pasada fue explicar un poco de por qué Data IQ, por qué la analítica, por qué la analítica avanzada, ¿Por qué tantas compañías la están viendo tal vez como una oportunidad o algunas como un riesgo? Las que no se avientan a innovar o arriesgar, Usualmente, son compañías que, eventualmente, tienden a desaparecer, hay estadísticas sobre esto. Entonces, lo que intentamos ofrecer con DataIQ es una plataforma para que las compañías vuelvan los datos, las personas, en oportunidades de negocio y oportunidades de crecimiento. Un momento que no sé qué le pasó a la presentación. Ah, perfecto, gracias. Y, bueno, con esto vamos a hablar hoy de agentes y todo lo que se conoce hoy en día como Agentic AI. Y lo que está pasando es, a nivel empresarial, lo que hemos visto nosotros y lo que dicen, pues, todas las encuestas es que más de la mitad de los líderes con personas que están en puestos, ejecutivos como CEOs, CEOs, juntas laborales están pidiendo, juntas ejecutivas están pidiendo el uso de la analítica generativa, eso es por encima de un 66 por 100. Yo me atrevería a decir que este número es mucho más alto. Hoy en día, cuando hablo con muchos de nuestros clientes, cuando les preguntamos de dónde vienen las iniciativas de analítica generativa, todos nos dicen vienen desde arriba, desde la junta directiva. Pero la realidad es que hay hay varias, varias brechas, ¿no? Y solo un 30 por 100 de estos clientes, en realidad, han logrado hacer algo o algún producto con analítica generativa, y muchos menos que el 30 por 100 lo han podido hacer de manera empresarial. Cuando hablamos de manera empresarial, queremos decir a escala. Muchos de los retos que se tienen acá son temas de cómputo, infraestructura, luego entra todo el tema de privacidad, seguridad, cumplimiento, luego las dependencias de las diferentes tecnologías, ¿no? Porque no es solo el LLM, tienes que orquestrar todo el ciclo operativo de estos modelos. Y luego ya entran un poco unos temas un poco más complejos, como ética, seguridad. Algunas compañías son globales o, tal vez, regionales con headquarters en Europa y se tienen que regir por ciertas regulaciones extranjeras. Y, bueno, se empieza a volver más complejo y, por eso, yo diría hoy en día que menos de un 30 por 100 tienen modelos y agentes a nivel empresarial en producción, ¿no? ¿Qué se está buscando hoy en día y qué son todas esas nuevas oportunidades que que estamos viendo nosotros? Y, bueno, y otros expertos en en en la industria. Al usar agentes, lo que estamos viendo es automatización de procesos, ¿no? Entonces, estamos reduciendo costos. Algunos ejemplos de esto son validaciones de contratos, tal vez soporte a tickets o manejo a a tickets de soporte, temas que son un poco más automatizables y que los LLMs hoy lo pueden hacer en día haciéndolo mucho más sencillo. Por ejemplo, resumen de de comentarios, clasificación de comentarios o de encuestas, ¿no? Entonces, esta es una de las verticales donde hemos visto mucho el uso de analítica generativa. La otra parte es aumentar la efectividad y, digámoslo de otra forma, productividad de los empleados, ¿no? Entonces, temas de alertas, temas de investigación, asistentes de ventas, asistentes de soporte, etcétera. Y lo otro que estamos viendo es, ok, cómo usamos estos agentes y cómo usamos estos chatbots para generar más más ganancias, ¿no? Entonces, estamos viendo, por ejemplo, un poco ya de agentes inteligentes que te pueden guiar una una conversación de ventas y ayudar a convertir, tal vez, aumentar las tasas de conversión, etcétera, ¿no? Entonces, esas son como que los 3 rangos de oportunidad que estamos viendo hoy en día. Desde DataIQ, ¿qué ofrecemos y cuál es nuestra visión? Bueno, como sabemos que para llevarlo a nivel empresarial requieres de de muchas capacidades para poder orquestrar, para poder gobernar, para poder operacionalizar estos productos, en data que hemos creado algo que se llama el LLM mesh, que es, básicamente, poder conectarse a cualquier LLM, construir el flujo de la gente, ya sea con código o sin código, acelerar ciertas tareas ya teniendo las acciones prescritas, ¿no? Poder darte esta variable de tener un estudio de proms, darte una interfaz de usuario como un como un chatbot, en realidad, para poder dialogar y conversar con el LLM, pero controlado desde desde desde DataQ y orquestado desde DataQ, conectarlo con aplicaciones terceras y poder hacer un fine tuning, ¿no? Eso es lo que, en realidad, estamos viendo en la industria, lo que están haciendo la mayoría de proveedores o compañías que trabajan con LLM. Nosotros le agregamos otra capa también de seguridad. Entonces, cuando hablamos de seguridad, estamos hablando de cómo controlar costos, cómo controlar el contexto y el contenido de lo que están contestando estos LLMs por forma de agentes, y cómo garantizar esta calidad. Entonces, dentro de Atticket también tenemos todos estos barandales para controlar esto. Y y lo y, bueno, ya por último, lo que te permite el LLM mesh es poder integrar y a qué nos referimos con esto, haz de cuenta que construyes un agente de ventas, hoy en día lo estás usando con un LLM de cierto proveedor y te das cuenta que quieres cambiar ese proveedor. No tienes que reconstruir nuevamente todo ese ese agente, lo que DataCloud te permite es usar todo ese flujo de trabajo, todo ese contexto, todos esos barandales de seguridad y aplicárselo a otro LLM o poner LLMs de respaldo para garantizar, pues, la contingencia y la alta disponibilidad de estos agentes. Y, fuera de eso, pues, nos regimos por todas las regulaciones terceras, o si la compañía de ustedes tiene alguna regulación a la que estén obligando a los LLMs o a los modelos de analítica predictiva regir, puedes aplicar todos estos barandales de, barandales de regulación dentro de de DataIQ. Vale, ¿qué se está viendo hoy en día o por dónde empezamos? Creo que hace 6 meses, 8 meses hablábamos mucho de RAC, que es Retribable Authmment Generation, que es cuando conectas un LLM a documentación interna de la compañía, no sé, pueden ser PDFs de políticas de recursos humanos y lo que hace el LLM, pues, con el con el contexto que le des, va y busca esta información dentro de esta de este banco de conocimiento y te da una respuesta basada en ese banco de conocimiento, entre dentro de los paréntesis y el marco que tú le des, de conocimiento entre dentro de los paréntesis y el marco que tú le has dicho de cómo contestar, ¿no? Entonces, esto digamos que es un poco ya del pasado, lo estábamos viendo hace 8 meses, 6 meses. Sigue siendo una práctica muy interesante de de LLMs y analítica generativa. Hoy en día lo que se está viendo mucho es agentes y lo que hoy en día se llama multi agentes, ¿no? Entonces, un multi agente puede alimentar su respuesta por medio de un LLM, que es lo que le da contexto para poder entrar en ese análisis conversatorio. Puede ir a consultar un modelo predictivo hecho en data IQ, puede ir a consultar un RAC, puede ir a consultar una base de datos y de diferir cuál es y asumir cuál es la mejor respuesta entre todas esas de acorde a la pregunta que le hiciste y darte esa respuesta, pues, basada en esas múltiples funciones y opciones que tiene este agente, ¿no? Y eso es lo que estamos viendo hoy en día. Hacia dónde vemos que va la la industria es agentes autónomos que en vez de tú ir a preguntar y consultar algo, pues automáticamente te diga, no sé, tal vez cómo iniciar el día o en qué clientes enfocarte o cuáles son los tickets que llevan más tiempo abierto y qué hacer para poderlos atender, etcétera, ¿no? Entonces, empezamos por RAC, hoy estamos viendo multi agentes y, eventualmente, vamos a empezar a ver todo lo que es agentes autónomos. Nuevamente, un recordatorio de qué se puede hacer en Data IQ, y esto es 1 de nuestros superpoderes, por decirlo así, puedes orquestrar cualquier tipo de estos flujos, desde analítica, desde modelos, hasta agentes en una sola plataforma y empoderar a esos agentes a que se puedan alimentar de lo que ya sea preconstruido o construido dentro de Dakook, siempre con la misma mentalidad de agnosticismo, de poder intercambiar bases de datos, de poder intercambiar LLMs sin tener que reconstruir todo el flujo o todo lo que se haya ya ya se haya hecho. Y otro punto muy importante, que también lo tocamos la vez pasada, es el tema de reutilización. Entonces, dentro de AteQ puedes reutilizar diferentes artefactos, diferentes modelos, diferentes agentes para los diferentes casos de uso y, de esa forma, pues, habilitar el escalamiento, el crecimiento o el uso empresarial de estos agentes que quieran usar ustedes. Todo esto bajo nuestro marco de MLOps, dataOps y GNIOps, a lo que llamamos XOps, y nuestro marco de gobierno y vigilancia desde nuestro nodo de gobierno para todo lo que se esté construyendo en diseño, en QA o lo que esté en producción. ¿Vale? Nuevamente, orquestramos multi agentes, les ponemos para darles de seguridad, podemos enfatizar y, pues, sí, de una forma u otra, en forzar toda la parte de observabilidad, en forzar benchmarks o umbrales de rendimiento de los agentes, delegar equipos y ciertas características de la plataforma a equipos que están encargados de toda la parte de la Contraloría, del Gobierno, para que se encarguen de toda esta parte ética que le pega muy fuerte al uso de agentes. Y la última parte es, puedes tener monitoreo de riesgo y catalogación de riesgo dentro de ATQ, no solo para agentes, pero también para los modelos de de machine learning que se se construyen dentro de la plataforma, ¿vale? Y ya, por último, aquí algunos ejemplos de cómo algunos de nuestros clientes han empezado a usar casos de uso de analítica generativa a nivel empresarial, ¿no? Entonces, tenemos compañías como Toyota, con agentes de servicio para ciertos modelos de carros, tenemos compañías como Novartis para hacer el estudio de mercado un poco más ágil usando agentes, y así, en total, tenemos más de 300 clientes que ya lo están que ya están usando analítica generativa a nivel empresarial gracias a DataIQ, construyendo un solo flujo de trabajo interactuando con diferentes modelos detrás de eso, ya sea por temas de contexto, las respuestas, por costos de los modelos o por un tema de alta disponibilidad, si es que este agente o este chatbot se vuelve de uso crítico para, ya sea atender a clientes o el el diario operativo de la compañía. Perfecto, ahora pasamos con Evandro. Vamos a empezar la demostración. Evandro, te dejo aquí para que sigas con la demostración y al final pasamos a contestar preguntas. No, no te escuchamos, Evandro. Ahora sí, ¿no? Sí, ahora sí. Gracias, JC. Y, bueno, gracias por todo el contenido que que nos compartiste hasta el momento. Yo les prometo que mi diapositiva solo va a ser esta, nada más para recordarles que que DataQ es una plataforma mucho más amplia que solamente agentes, pero sí, ya tiene una cajita súper enfocada para todo que es agente. Entonces, si miramos aquí en esta diapositiva, vemos que arriba ahí de de la señorita que dice data analyst, tenemos ahí una cajita que se llama GNI y Agents, que significa que Data IQ está súper enfocada en dedicar gran parte de su de su portafolio, gran parte de su plataforma, para habilitar que los clientes puedan empezar a utilizar LMS, no solamente para contestar preguntas bonitas en frente AAA las abuelas, los tíos, ¿no? Pero también sacar provecho en temas de negocio y poner en práctica casos de uso reales que que hoy son muchos en en los ambientes de los ambientes empresariales y de negocio. Ok, bueno, ahora veamos lo que les estábamos contando en la práctica. Aquí ya estamos mirando. Normalmente, me gusta empezar enseñándoles o mostrándoles lo que hay por debajo del capó, pero hoy no, quiero hacer algo un poquito diferente. Me gusta, me gustaría empezar ya acelerando a a full nuestro nuestro Ferrari, y eso es lo lo que tengo aquí. Esto es mi Ferrari para hoy, es un agente. Y más que solamente un agente, es un multi agente. Y cuando digo que es un multi agente, estoy diciendo por qué es un agente que tiene capacidades de contestar cosas, de interactuar con usuarios de distintas maneras. Entonces, me gusta, y y este es un agente que está enfocado para un banco, un banco de de de préstamos. En este caso, este agente fue desarrollado con el objetivo de ayudar a todo el equipo financiero y también a los clientes del banco para contestar cosas relacionadas a las políticas de préstamos y a todo el proceso de de préstamo que tiene este banco hoy. Entonces, imagínate que imagínense que un agente está ahí y llega un cliente y, normalmente, un cliente que no sabe, más o menos, cuál cuál es su límite para hacer mejoría en la casa, por ejemplo, cuál es el límite de crédito que el cliente tiene o que el banco tiene como política para hacer mejorías en la casa? Digamos, es que que este cliente, que no no tiene esta esta respuesta, normalmente, lo que haría era llamar a la sucursal o llamar a a al call center de de de su banco y preguntar este este tipo de consulta, ¿no? Hacer este tipo de consulta. Todavía, con un agente que ya está entrenado con las políticas del banco, eso se convierte en una consulta natural, en una pregunta natural que pudiera ser hecha, no sé, por un canal como WhatsApp o hasta mismo la la app del banco, y lo que pasa por detrás que la gente está contestando a este cliente. El límite de crédito para mejorías en la casa es de 75000 dólares. Con eso estoy generando un súper ahorro al banco, porque no tengo que tener a una persona en la sucursal atendiendo a a telefonemas, no tengo que tener una otra persona en call center también contestando este tipo de de preguntas. Yo tengo ahora un agente que está ahí desplegado en la nube o dios se va a a dónde, pero tenemos a la gente ahí listo para contestar a los clientes. Joandro, pero eso es sencillo, es una pregunta sencilla. Y si fuera algo un poquito más customizado, por ejemplo, si llega ahí una un un un cliente que hizo un pedido de préstamo, no sé, 2 semanas atrás y pregunta, justamente, cómo anda o cuál es el estatus de su pedido de préstamo, de préstamo. ¿Cómo hace el agente para contestar? ¿Será que el agente va a ser capaz de contestar? Y aquí podemos saber que sí el agente puede entender sobre de qué se trata la pregunta y puede sacar la respuesta del lugar correcto para pasarla a a los clientes. Y por eso que llamamos un multi agente, porque es un agente que es capaz de hacer múltiples tareas bajo una misma bajo una misma interfaz, bajo un mismo agente, ¿ok? Y ahora, digamos que yo sea un director o gerente de sucursal y estoy atendiendo a un cliente, y el cliente me llega ahí queriendo saber cuál es su probabilidad de tener un préstamo aprobado o rechazado, ¿no? Lo que tiene que mejorar o si si su perfil ya ya estaría bueno para para concedernos para concederle un préstamo. En este caso, digamos que yo, como gerente de esta sucursal, lo que puedo hacer es, simplemente, preguntar a este agente cuál es la probabilidad de que este cliente tenga su pedido de préstamo probado, Y aquí, otra vez, el agente va a tomar la decisión de sacar la respuesta de lo lugar correcto. O sea, está llamando en tiempo real un modelo de machine learning, es el modelo de machine learning oficial del banco que hace que que hace el cálculo de probabilidad de incumplimiento de un préstamo. La gente está llamando a este modelo, está consumiendo este modelo y le está pasando todos los perfiles del cliente, como edad, su salario, dónde vive y todo eso, está tomando la respuesta de este de este modelo y la está pasando para el gerente o director de sucursal para que entonces el gerente pueda pasar esta respuesta para el cliente y ayudar entonces el cliente a decidir si si vale o no la pena abrir un pedido formal de préstamo, ¿vale? Ahora, acabamos de ver, entonces, una muestra de de qué puede hacer un un un agente en tren data iCloud. Pero, Leandro, aquí creo que que vimos ya bastante, pero lo que hay por debajo del capó. Y aquí podemos ver, entonces, cómo DataIQ arma este tipo de agente. Para hacerlo, lo que hace DataIKU es, primeramente, crear tools. O sea, un agente no es nada más que un bot, una conexión nace a un LLM, como un chat GPT, como 100 de LLM que existen hoy en día. Pero esos LLMs, por sí, no pueden hacer mucho. Lo que hace normalmente son, simplemente, contestar cosas envasados en la en su capacidad de conocimiento, en su entorno de conocimiento. Pero acá necesitamos que un agente que está, por supuesto, equipado con este LLM, sea capaz de hacer múltiples tareas que no son tareas que nace un LLM, no son tareas comunes a un LLM. Tenemos que equipar, entonces, este agente con capacidades externas a las que normalmente les brinda un LLM. Y para hacerlo, dentro de este mundo de agentes YYY bots, tenemos que crear lo que llamamos de tools, de herramientas. Estas herramientas pueden ser creadas utilizando código, ¿no? Como todo en la en la vida, pero DataIQ, otra vez, como todo en la vida, está aquí para facilitar la la vida de ustedes, y DataIQ les permite crear tools a partir de flujos visuales. Miremos qué interesante está esta capacidad, porque DataIQ en un clic les permite crear una tool, una herramienta que le da a un LLM poder de consultar registros dentro de un dataset que ustedes tengan ahí dentro de DataIQ. O sea, es decir, literal, que un OpenAI de la vida puede consultar una tabla de clientes, por ejemplo, para sacar de ahí la dirección donde vive un cliente y puede pasar esta dirección para mí, para mi contexto o para seguir contestando otras preguntas del cliente. Y todo eso se hace de manera visual. También tenemos una otra tool que permite a un agente buscar informaciones en una base de conocimiento. O sea, cuando yo hice la pregunta sobre la política de préstamo o el límite para mejoría de la casa, eso no se encontraba en el conocimiento de un LLM, pero sí estaba almacenado ahí dentro de un documento que estaba ahí dentro de una carpeta, dentro de un directorio patrón del banco, de donde hay todos los documentos de políticas de préstamo. Y con utilizando técnicas de base de conocimiento, o RAC, como estaba contando antes, JC, podemos mover todos esos documentos que son, literal, papeles, ¿no? Hoy en día ya no papeles, pero PDFs, presentaciones de PowerPoint, cosas del tipo, podemos pasar todo eso para dentro de base de conocimiento, para que eso esté al alcance de un LLM. También podemos hacer que un LLM consulte otro LLM, u otro agente hecho con un otro LLM, y podemos empezar a tener cadenas de agentes trabajando en conjunto. También se puede pedir que DataIKU cree o que un agente cree un registro dentro de una tabla y, de esta manera, yo puedo empezar a crear flujos que me permiten abrir cosas dentro de otros sistemas, añadiendo ahí un registro a una tabla que un sistema va a estar escuchando. Yo también puedo crear tools que permiten que mi agente pueda enviar correos, mensajes de Slack, de Teams. Puedo también permitir que este agente pueda llamar en tiempo real modelos que estén modelos de machine learning que estén que estén desplegados dentro de ATQ. También puedo dejar que se creen tickets en Jira, tickets en service now, puede permitir hasta mismo que un agente haga un búsqueda dentro de Google, caso no encuentre la respuesta que está buscando el cliente o el usuario. Entonces, todo eso es permitido y es posible de ser hecho utilizando técnicas visuales. Y aquí, de hecho, yo tengo una de esas tools que me está dejando, me está permitiendo a mi agente utilizando el ID de un cliente, está permitiendo a mi agente que busque informaciones como notafico, monto de préstamo requisitado por el cliente, ¿vale? Todo eso se está permitiendo que sea hecho y se está dejando al alcance de un agente otra vez, sin tener que que estar ahí creando líneas y líneas de código. Todo eso está al alcance de los usuarios de DataQ en una gestión de clics y no más de horas programando o hasta mismos días programando, ¿vale? Bueno, Leandro, ¿ok? Acabamos de ver aquí qué qué tan poderosas son las tours, qué tan poderosos son los agentes, pero ¿cómo hago yo para definir un agente dentro de DataIQ? Otra vez, un agente, una vez que tengamos todas las tools creadas, los agentes dentro de DataIQ son supersencillos, y son creados también de manera visual. Aquí tenemos 2 tipos de agentes soportados. Tenemos, por supuesto, soporte total y completo a agentes de código utilizando lenguajes como lanchain, por ejemplo, todavía también tenemos aquí soporte a creación de un agente de manera visual. ¿Y qué quiero decir con eso? Un agente cuando se crea de manera visual, déjame regresar al proyecto, aquí, lo definimos utilizando lenguaje natural o lo que llamamos de prompt engineering. O sea, aquí estoy creando literal un agente desde el 0 y le estoy pasando instrucciones sobre cómo la gente debe suceder o cómo la gente debe trabajar o cómo la gente debe ir bajo determinadas circunstancias. Aquí, entonces, estoy diciendo a este agente que acabamos de ver que la gente debería comportarse como un experto en políticas de crédito o en políticas de préstamo, y que la gente está equipado con algunas tools que le va a permitir hacer cosas extras a las que la gente debería hacer si solamente estuviera equipado con el poder de un LLM. Y aquí yo hago el link entre las tools que creamos y el agente, y aquí estoy diciendo, entonces, que en este momento que el agente puede utilizar esta tool que les acababa de mostrar para buscar informaciones sobre un cliente específico. Aquí una otra tool que equipa el agente con la capacidad de que la gente pueda buscar informaciones dentro de una base de conocimiento, Y así, por delante, aquí yo puedo equipar, entonces, el agente con todas las tools que sean necesarias. Y una vez que el agente se encuentre listo, yo le puedo desplegar utilizando una interfaz que Data IKUDA a todos los usuarios, que se llama agent connect, que es una interfaz visual para llamarse un agente, y aquí hacemos la configuración de esta interfaz, pero el agente per c ya está listo, ya se encuentra listo. O una otra manera de consumir este agente, y aquí, por supuesto, creo que va a ser la la manera con con la cual ustedes van a querer consumirlo lo más lo más pronto posible o de la manera más frecuente posible, es utilizando APIs. Entonces, aquí, una vez que la gente se encuentre listo, DataIQ les brinda con 2 formas de consumir a este agente. La primera manera es utilizando nuestra propia interfaz gráfica, y la segunda manera sería utilizando APIs para exponer a la gente. ¿Ok? Súper. Bueno, ahora veamos qué fácil es crear un agente desde el 0 o crear una base de conocimiento desde el 0. Aquí yo tengo un proyecto que se llama bot y está hecho para este webinar. Y aquí yo tengo las políticas de préstamo del banco, ¿no? Que están aquí almacenadas dentro de un documento tipo texto, pero pudiera ser un HTML, un PowerPoint, un Word, un Excel, lo que sea, ¿ok? ¿Cómo hago yo para que un agente, para que un chat GPT, por ejemplo, sepa cuál es el límite para mejorías en la casa? Hay un camino ahí, ¿no? No no puedo simplemente jalar este archivo para dentro del chat GPT y dejar ahí que el que el chat mismo pueda contestar eso. Hay caminos para eso, ¿ok? Hasta mismo, porque yo quiero mantener mis documentos en separado de las políticas de ChatGPT. Para hacerlo, lo que tenemos que hacer con DataIQ es importar los documentos, y aquí lo hacemos importando archivos o creando carpetas para importar esos archivos. Pongamos aquí el nombre de políticas, ¿ok? Y ahora ya vamos a crear la la carpeta y llenarla con los documentos de política de préstamo. Aquí, yo creé manualmente la carpeta, pero pudiera ser una carpeta de red de ustedes o de un servidor de archivos o un bucket que ustedes tengan ahí con todos los documentos, ¿vale? Daría lo mismo. Ahora, yo puedo regresarme a ATQ, y en este momento yo tengo que convertir esta esta esos documentos en algo que sea entendible por un modelo de LLM o sea una base RAW, una base vectorial. Y para eso, DataIQ tiene aquí las recetas. Yo tengo 2 caminos, yo podría utilizar un plugin de DataIQ para, que hace unos CR, sacar aquí todos los textos, pero yo puedo dejar ese camino un poquito más corto utilizando esta receta que se llama embeded documents, que me permite extraer directamente de todos esos tipos de documentos, informaciones y pasarlas directamente a un LLM. Entonces, aquí, no estoy diciendo que si fuera un PDF, yo quiero aplicar este tipo de extracción de información, una extracción BLM, ¿ok? Listo, ahora, en gestión otra vez, de 2 clics estoy convirtiendo esta, esos documentos en una base vectorial. Ah, Iván, ¿qué base vectorial DataIQ soporta? DataIQ soporta, ChromaDD, File, Spinecom, Azure AI, Vertex, Elastic Search y Quadrant. Siendo que de esas, ChromaDB y Physe, ya se encuentran ahí dentro del servidor de BTQ, o sea, si ustedes quieren hacer un prototipo rápido y no quieren la base de tutorial ya homologada dentro de la compañía de ustedes, ustedes pueden utilizar Croma DV o Phyze, que ya se encuentra dentro de la instalación de la TQ, y, si quieres, sería necesario tener una base vectorial para eso, ¿vale? Y ahora, si regresamos a nuestro flujo, podemos ver que DataIKU acaba de generar aquí una base vectorial con los documentos que acabamos de pedir que DataIKU convirtiera en formato de base vectorial. Y ahora lo que, y ahora lo que podemos hacer es acoplar un LLM por arriba de esta base vectorial y probarlo para saber qué tan precisas están las respuestas de este LLM, utilizando esos documentos que yo acabo de pasar en un formato de base vectorial. Por ejemplo, probemos con 4 mini y, de hecho, puedo probar aquí en algo que se llama promp studios en DataQ. Y ahora podemos preguntarle cosas, por ejemplo, como, ¿cuál el límite de préstamo para memorias en la casa. Y ejecutamos aquí ahora el prompt, y lo que está pasando es que Datencount me va a dar una muestra de cómo va a ser la respuesta de este LLM utilizando los documentos que yo acabo de pasar como base de datos RAC, como base de datos vectorial. Y aquí yo tengo por detrás un debug de lo que pasó. Aquí está la respuesta, el límite de préstamo para mejoras de la casa es de hasta 75000, y aquí incluso hasta cómo me da de qué documento sacó la respuesta o dónde se encontraba la información utilizada para que el LLM formulara esta respuesta para el usuario. ¿Y para qué todo eso, Evando? ¿Para qué tener un promp studium? Para que antes de que yo pase este bot, este agente a la producción, yo pueda probar cómo está la performance, como si hay necesidad de hacer mejorías en mi prompt, por ejemplo, o si las respuestas no son las respuestas que yo de verdad esperaba que un agente me viera utilizando los documentos. Con eso, yo puedo ahorrar mucho dinero, porque Data IQ no tiene que estar ahí o ustedes no tienen que estar ahí probando con la performance de un LLM contra toda su base de datos, pero si no, pueden hacerlo utilizando una muestra o utilizando una pregunta solamente y no 1000 de preguntas. ¿Ok? Entonces, aquí acabamos de ver cómo se hace para que DataQ pueda convertir documentos en bases vectoriales y cómo acoplar un LLM a esas bases vectoriales. ¿Ok? Y, una vez que este LLM ya esté acoplado a las bases vectoriales, lo que yo puedo hacer es, otra vez, No es este proyecto, es este, sí. Yo puedo añadir ahora una capa visual a este RLM equipado con las bases vectoriales. Y eso lo hacemos otra vez de agent connect, otra vez de DataQ Ansuurce. Y me gusta hablar de DataQ Ansuurce porque DataQ Ansuurce es es una interfaz muy similar a la interfaz de la gente que acabamos de mirar, pero está hecha y desarrollada para que clientes puedan crear interfaz, una interfaz de API, para que sus usuarios puedan interactuar o con bases SQL o con bases vectoriales, una a la vez. O sea, aquí no es un boot agente que estamos haciendo, es solamente un bot, es un agente que solo tiene una capacidad. Y, de hecho, este bot, este agente que está en mi pantalla ahora, es un agente que tiene capacidad de contestarme solamente preguntas hechas sobre la política de préstamo del banco. Una vez que yo tenga, entonces, cargada las políticas dentro de una base de conocimiento, yo puedo equipar esta base de conocimiento con un Data Equensurs, y entonces, Data Equensurs puede poner un cascarón visual para que los usuarios puedan interactuar con las bases de conocimiento o con bases SQL. Y aquí yo tengo la política de préstamo ya contestada utilizando información de la base de conocimiento que creamos en el paso anterior. Ahora, antes de abrir para preguntas, me gustaría enseñarles una cosa más, una cosa sencilla, pero muy poderosa que también puede ser hecha con data iQ. Es algo que llamamos nosotros de prompt visuales. Recordemos que en la última sesión que tuvimos, creamos ahí un modelo de predicción de fuga de clientes o CHern, como quiera. ¿Qué hago yo con este con este modelo? Evandroid, hay varios caminos ahí, yo puedo pasar los clientes que tienen alta protección a a fuga para marketing, para que marketing haga ahí una campaña de retención con esos clientes, ¿ok? Pero estamos simplemente pasando el problema para el equipo de marketing. ¿Cómo el equipo de marketing puede hacer para ser lo más rápido, lo más eficiente en la comunicación con esos clientes, en lanzar una campaña de comunicación de retención con esos clientes. La respuesta hoy en día está en los LLLMs. Nos sería lindo, nos sería bueno que si todos los clientes pudieran recibir ahí un correo customizado, y veamos aquí que yo tengo clientes de Lejito, de Australia, de China, pues sería lindo que todos los clientes pudieran recibir ahí un correíto customizado en su idioma local, ofreciéndoles un cupón de descuento del 10 por 100 de descuento, para que no seamos fuga o para que no sufran fuga y que se queden comprando dentro de nuestra tienda. Sí, Evans Air sería lindo, pero yo tengo clientes de más de 20 países, yo tendría que estar ahí armando correítos customizados para cada 1 de los clientes. Sí, en la gran mayoría de veces es eso que se pasa, pero con LDMs ganamos en la escala. Podemos, entonces, utilizar DataIQ en conjunto con un LLM y crear una receta de prompt para pasarle una tarea específica. Y esta tarea es la escrita de un correo customizado usando el idioma de donde vive el cliente, del país donde vive el cliente ofreciéndole un 10 por 100 de descuento. Y eso se hace por dentro de la Tahití, en conjunto con una receta de prompt y en conjunto con un LLM que yo escogiera. Incluso, yo puedo mezclar informaciones que están en mi base de datos, como el país donde vive el cliente dentro de ese prompt. Para que DataCude, de una manera recursiva, empiece a llamar un LLM, y para cada llamada pásele el país donde vive un cliente y les pide para que escriba un correo customizado a este cliente. Aquí tenemos el correo escrito en inglés, otro correo escrito en chino, otro en árabe, y así sucesivamente, incluso 1 que está escrito en español. Eso es algo sencillo, pero muy poderoso. Tenemos ya clientes que utilizan esta receta de prompt para pedir que un un LLM haga, no sé, evaluaciones de imágenes, haga cuentas de cuántas personas hay en imagen, qué color la la gran mayoría de las personas está utilizando como bolsa, cosas de aquí. Todo eso es muy poderoso y está al alcance de las manos de ustedes. Eso es todo de mi parte. Ahora regreso a Natalia, a JZ, para la parte de preguntas, si no estoy mal. Sí, ¿qué tal, Leandro? Mira, si quieres te puedo ir leyendo algunas de las que tenemos pendientes. He visto una por aquí un par de veces, y es de Patricio González, ¿el agente reaprende o solo actúa según las definiciones al crearlo? Excelente pregunta. El agente aprende dentro de un contexto. O sea, si yo estoy hablando con el agente, digamos que yo estoy platicando con el agente sobre, no sé, tasa de interés y el agente va a tomar como definición de tasa de interés algo global, ¿no? Que sería como el interés que se paga al año. Pero digamos que dentro de mi realidad yo estoy, yo le digo a la gente, no, ¿sabes qué? Tasa de interés es algo que calculamos a a la semana, aquí en este en esta compañía. El agente, entonces, va a aprender que dentro de aquel contexto, tasa de interés es a la semana. Y con eso, entonces, podemos enseñar a la gente cosas, pero dentro de un contexto. No se puede cambiar el código de un de un Gemini o de un chat GPT, por ejemplo, pero sí se puede pasar mensajes para que la gente utilice dentro de un contexto. Bien, otra pregunta por acá de Adriana Hernández, y creo que esa fue una pregunta que estaba o que le hicieron durante la la demostración. Y dice, esa pregunta de 4 de OpenAI subió a la base de conocimiento general o de OpenAI? Excelente. Sí, excelente pregunta. Lo que la pregunta de la pregunta de 4, Jessie, ¿cuál es la pregunta otra vez? Ah, perdón. Ah, esa pregunta de 4 de OpenAI. ¿Eso subió la base de conocimiento general? Sí. De OpenAI. No, no se subió. Lo que pasa es que DatayCoo envía la pregunta cuando estamos hablando de un agente, DatayCoo pasa la pregunta y el contexto de todas las tools que un agente tiene, ¿ok? El LLM que recibe esta esta pregunta y el contexto de todas las tools con la cual puede utilizar, el LLM toma la decisión de cómo mejor contestar a esta pregunta, si es buscando la información dentro de una de las tools o es utilizando su base general de conocimiento. Digamos, por ejemplo, si yo te hubiera preguntado, dime el nombre de los 8 vengadores que estaba en la última película, eso no está en la base de conocimiento del banco, eso está en la base general de conocimiento del LLM. Entonces, el LLM tomó la decisión de buscar esta información utilizando su propia base de conocimiento. Ahora, como la pregunta que yo hice fue relacionada a políticas de préstamo del banco, el LLM toma la decisión de que lo mejor es utilizar la tool que da la salida a la base de conocimiento para sacar de ahí la información para crear la respuesta conversacional con el usuario. Bien, perfecto. Otra pregunta de Denis, soporte Graph Embering. ¿Suporte a qué? Graph, graph. Ah, graph. Vale. No sé qué quiere decir con graph. ¿Nos puede pasar un poquito más de contexto, por favor? Si es generación de gráficos, ya te adelanto que no. Nuestra nuestras capacidades aún no permiten que un LLM pueda contestar algo con un gráfico, con una gráfica, ¿vale? Pero si la pregunta era acerca Langgraf, sí, la respuesta es que sí soportamos este lenguaje dentro de nuestra plataforma para desarrollos de de agentes. Es es, dice que es una estrategia para hacer embedtings. Ah, sí, entonces, es la estrategia de landgraf, sí, su portada. Ok, perfecto. Y otra adicional de Denisse, adicional a los costos de los tokens de LLMs, ¿debo considerar algún costo por consulta a lo interno de data iQ? No, ahí la respuesta es no, ahí debe, o sea, lo que se considera es el costo de la plataforma de DataIQ. DataIQ no cobra por ningún tipo de consumo, pero ahora sí tienes que, o sea, también tienes que considerar el costo del consumo de los LLMs, que son contratos separados, ¿no? Nos conectamos a ellos como un proveedor adicional. Lo que sí te damos, y creo que lo alcanzo a mostrar un poco Andro, es, o sea, puedes controlar hasta cuánto se puede gastar de ese LLM desde DataIQ y te damos visibilidad de cuánto puede costar correr esos promos o esos tokens a nivel empresarial. Sí. Y una cosa que también existe dentro de DataIQ y puede ayudar a nuestros clientes a ahorrar dinero con los tokens, es algo que llamamos de caché. O sea, almacenamos las últimas consultas hechas contra un LLM, las consultas hechas en la las últimas 24 horas, para que si llega durante esos 24 horas alguna otra consulta muy similar a la que ya hizo JC, por ejemplo, a 5 minutos. DataIQ mismo coordina para que el LLM no salga a buscar la respuesta otra vez, sino ya utiliza la misma respuesta que le le ha pasado para el otro cliente que hizo la misma pregunta. Sí. Hay una, sí, hay otra pregunta, y esta creo que no no no no la contestamos en en en 5 minutos, pero sí no la han no la han hecho no la han hecho muchos clientes, sobre todo en el ámbito de banca, pero dice, el uso de API, ¿cómo se garantiza la privacidad y seguridad de los datos? No sé si hay algo superrápido que podamos contestar ahí. Sí, bueno, aquí ya te ya les cuento. La API nuestra está hecha utilizando SSL y también está hecha utilizando perfiles de usuario. O sea, cuando creamos un agente tenemos ahí la opción de decir, decirle a la gente que la gente tiene que soportar autenticación. En este caso, la autenticación que estuviera siendo utilizada en DataIQ, en el servidor de DataIQ va a ser respetada y la persona, el usuario va a tener que pasar por el mismo proceso de autenticación que este que que que esté listo ahí, que esté configurado en DataIQ. Entonces, tenemos criptografía en el tránsito y también tenemos metodología para autenticación. Súper. Tengo una pregunta de Diego, creo que es un poco más con ámbito comercial, y la pregunta es, ¿cómo es el modelo de contratación por conversación con tarifa plana mensual? Creo que contestamos un poco de eso sobre Diego, sobre esto, Diego. DataIQ ofrece, haz de cuenta, como el cascarón en la plataforma para poder orquestrar esto. Dentro de AteQ tenemos 3 diferentes modelos de de servicio. Ahora, la interacción con el LLM es un costo aparte, que es un contrato de ustedes o de la compañía que tenga con el proveedor de LLMs, y ellos usualmente cobran por consumos de de token. Y la contratación de ADQ es un plan anual, usualmente a 3 años. Hay otra pregunta de Denis, ¿el LLM puede ser 1 on premise? Es decir, que esté en en mi infraestructura. Sí, hay disponibilidad de conexión. El add-mail. Sí. Sí. Hay una que está interesante también, Jessie, de ser Carlos Alberto. DataIQ permite orquestrar varios agentes especializados por dominio, función, con control centralizado o se requiere una capa de orquestración externa como Lunchen o agente serverless. Te digo que sí podemos orquestrar varios agentes por dominio, por función, que por, y y lo hacemos porque por detrás utilizamos lanchanges para nuestra capa visual. Entonces, todo eso es hecho utilizando tecnología lanchanges, pero DataQ deja eso mucho más sencillo, poniendo ahí una una capa visual para que esta esta orquestración pueda ser hecha de manera visual y esté al alcance de todas las personas mismo las que no conocen Landsay. Listo. Gracias, JC, Evandro. Creo que ya estamos casi cerrando, entonces, por si acaso quedan algunas preguntas sin contestar o que surjan luego, pueden contactarnos. Acá tienen los correos, nos pueden mandar un mensaje, hacer preguntas, nos pueden contactar si les interesa una sesión. Y también les dejo el el QR por si quieren simplemente escanear eso con sus teléfonos o o el el dispositivo que tengan para que puedan unirse a la comunidad de Latam. Pero aparte de eso, no sé, JZ o Evandro, si tienen alguna otra cosa que quieran mencionar antes de cerrar. Yo quería agradecer mucho a la audiencia, a los a los que estuvieron acá durante esta hora y y fue un gusto, un placer siempre hablar con ustedes. Sí, igualmente un placer, estamos a sus órdenes. Sé que se una hora es muy corto para contestar todas las preguntas, todas las dudas, hacer la la demostración exacta que tal vez alguna persona quiera ver. Entonces, si quieren algo más personalizado o quieren una charla con Evandro, conmigo, algún otro experto, estamos a sus órdenes, pueden agendar una sesión con nosotros. Y la grabación de esta llamada la vamos a compartir en nuestro en nuestro grupo de LinkedIn, el que está compartiendo aquí Natalie, ¿vale? Muchas gracias a todos y, bueno, terminamos Justo a Tiempo. Buenas tardes.