Cómo conectar tu base de datos a un chatbot con Inteligencia Artificial 

por nada, ojalá te resulte estimado, cualquier cosa me puedes encontrar en las redes 🙌

Gracias amigo! De a poco el algoritmo de YT me va queriendo jaja abrazos!

por nada amigo, gracias por comentar 🙌

Graciaaas! si lo puedo compartir, mañana lo subo, saludos!

Hola! se me ocurren 2 alternativas: 1. Puedes usar la assistants API, donde puedes acceder a "Code Interpreter", donde si le pides gráficos, te los devuelve como imágenes y simplementa las muestras en tu frontend. 2. Puedes crear una función en tu código para generar gráficos con los parametros que necesites, por ejemplo pasarle un diccionario con etiquetas y montos, e internamente usar la librería que quieras para hacer el gráfico y devolver la imagen. Y luego usar "functions" para que el LLM sepa que existe esa función y la llame cada vez que identifique que se quiere generar un gráfico.

@@julioandresdev_esp Muchas gracias por tu respuesta!

por nada amigoooo, gracias por comentaaaar 🙌

gracias! si lo puedo compartir, mañana lo subo, saludos!

@@julioandresdev_esp Muchas Gracias Julio. Saludos

Si se puede, lo voy a agregar pronto al curso y también subir una parte a youtube 👌

Si lo sabes de antemano, si se puede entregar en la definición perfectamente. Vas a tener que tener cuidado de actualizarlo si es que algo cambia en la base de datos si.

Mientras puedas sacar el schema para decirle a la IA como está estructurada tu base de datos, si deberías poder usarlo. No influye cuan seguido se actualice la base de datos, por qué con esto solo la lees cuando hagas la consulta.

Interesante problema. Te recomiendo hacer un paso previo para saber que tablas son realmente necesarias en la consulta, y pasarle solo esas tablas, puedes incluso usar el mismo LLM para que te ayude. Lo otro que puedes hacer, si es que la base de datos no cambia tan seguido, es escribir tu mismo un mini schema de las tablas que te interesan a mano, y pasarla en el contexto, tendrías que estar atento de actualizar esto si es que la base de datos cambia.

La verdad siempre hay posibilidad de alucinaciones, pero si le das las instrucciones claras, le indicas que sólo tiene que guiarse por la información que le pases, y mientras las preguntas que le hagas no sean "capciosas", no debería alucinar. Si uno lo empieza a forzar para que alucine es más probable que lo haga, pero con un uso normal, no debería. Saludos!

Es un buen punto, varios me preguntan esto. Puedes usar modelos de lenguaje open source e instalarlos en tu cloud, pero puede salir un poco caro, o puedes usar modelos de lenguaje de forma local, pero requieren una máquina más o menos potente para que realmente sean útiles, es un tradeoff. Voy a hacer un video sobre esto.

Si el GPT lo puedes compartir, puedes generar un link publico para compartir y pasárselo a quien quieras, lo que si tienes que tener cuidado de agregarle algún método de autenticación para resguardar tu backend.

@@julioandresdev_esp entiendo y que pasa si se me acaba la membresía mensual de chatGTP también dejan de funcionar el asistente?

Al LLM le pasas texto y te devuelve texto, no retiene nada, así la tarea de separar los contextos e historiales de prompts lo tienes que manejar en la app, en este caso en el server python, imagina como manejar distintas conversaciones en un chat.

@@julioandresdev_esp Muchas gracias. Quisiera aclarar que cuando dije "historiales de prompts" me refería a lo que permite que cuando en el minuto 23:06 escribes "pregunta de nuevo" haga que se disponga de "contexto" en el LLM. Yo asumo que la conexión al LLM crea una sesión, o lo que intuyo que será una conversación que corresponde a ese "contexto" al que refiero. Lo que no veo en el código es que exista ninguna alusión a que en las conexiones con OpenAI se usen diferentes conversaciones, más bien parece que únicamente existe una única conversación, y por lo tanto un único contexto común, y es ahí a donde quería llegar. Entiendo que técnicamente no hay problema en gestionar fácilmente conversaciones por sesión del chatbot, pero... OpenAI tiene thersholds al respecto? Gracias por todo

Gracias estimado 🙌

En la plataforma están los videos, y también los links al código. Es como Udemy.

@@julioandresdev_esp Si, ya compré el curso que -por cierto- es excelente. Felicitaciones.

@@eddcordoba709 genial! gracias amigo, bueno por ahí podemos hablar, cualquier duda me hablas, éxito!

Gracias!

tu servidor para recibir las preguntas depende de ti, el uso de la LLM depende del proveedor, en el caso de usar OpenAI soporta un zillion por día (no se exacto, pero un montón)

Oh verdad, se me olvidó ponerlo en la descripción, es el código "DESDE-RU-vid" Saludos!

Si con cualquier base

Sip

Hola!, junté lo de los 3 archivos en un archivo para que quedara más fácil. Tienes que poner tu código para conectarte a tu postgres en las funciones get_schema() y query(), estas depende de como te conectas a tu base de datos.

@@julioandresdev_esp Muchas gracias, saludos.

En realidad el usuario y clave debería ir en un archivo .env y luego con dotoenv lo llamarías al código hay muchas explicaciones de eso en RU-vid ojo que no me hago el que se Python, soy un enamorado de este lenguaje pero aprendo día a día solo que así lo hago yo y la mayoría!!! Pero bueno el profesor acá no soy yo

que honor ron damon morrison

Te refieres para usar un LLM local en tu máquina con tu base de datos?

Anything llm,

@@julioandresdev_esp Hola, con lmstudio podemos levantar un server y aparte tener el system prompt del lado del server.

@@julioandresdev_esp lmstudio nos permite tener el system prompt de lado del servidor. asi evitamos el envio del scheme. y podemos probar con distintos modelos.

Contestado! 🙌

hola! gracias :) Claro que puedes crear variables de entorno para poner los datos del usuario y la base de datos. Y no entendí tu primera pregunta, a que te refieres con "que no sea exactamente igual a la definida en el programa?"?

@@julioandresdev_esp Hola Julio, me referia por ejemplo si el usuario pregunta: Cuántos autos se vendieron en mayo? y en el programa la pregunta predeterminada es: Cuántos vehículos se vendieron en mayo?

​@@user-412hm7i2 ah entiendo. Es que no hay preguntas predeterminadas, si el usuario pregunta: "Cuántos autos se vendieron en mayo" el LLM (la IA) tiene que ser lo suficientemente inteligente, o tener el contexto suficiente, para entender en que tabla buscar esa información. También para hacerlo más robusto, puedes guiarla, junto con el schema puedes decirle cosas como "Los productos que vendemos son: autos, camiones, motocicletas," etc

@@julioandresdev_esp que maravilla! otra duda, para un sitio web x ejemplo de autos, puede estar en chatbot online? o es solamente para uso interno de los empleados x ejem (vendedores) de una emrpesa.

​@@user-412hm7i2 Si, puede estar en la página web para los clientes (no vendedores), pero esto implica considerar otro set de reglas y ser más riguroso con la seguridad, por que estaría expuesto a internet donde cualquier podría accederlo. Si tienes algo en mente me puedes enviar un email y vemos que se puede hacer: hola@julioandres.dev

Explico formas de mitigar esto al final del video. Puedes tratar de restringir que es lo que responde el LLM, pero nunca va a ser 100% confiable que te haga caso, lo que si puedes controlar 100% es que se ejecuta en tu base de datos, ahí tienes que poner el control.

@@julioandresdev_esp gracias valor, fue lo que pensé luego de preguntarte.

Yo hice una funcion que evalua el sql y si contiene palabras como update, drop, alter, delete , etc devuelve una advertencia y no lo ejecuta.

Claro, de que forma te imaginas integrándolo a tu sitio web?

​@@julioandresdev_esp me gustaria incluirlo como una seccion dentro de mi sitio web para poder hacerle consultas sobre mi negocio, hay manera de que podamos conversar?

​@@julioandresdev_esp me gustaría agregarlo dentro de mi sitio web como una sección para que los usuarios hagan sus consultas, podemos conversar por interno?

🙌

Junto con el schema puedes pasar las reglas necesarias para entender las tablas o dar más contexto a donde buscar lo que se necesite. Un gran sistema real no va a funcionar de una, pero con un poco de análisis, funciona perfecto.

@elantagno animate y haz un vídeo con la explicación

@@plmperez podría hacer una demostración de lo que hice, pero hacer un video, creo que no es para mi

sólo estarías enviando el schema, y la verdad es que no es tan privado, probablemente el 80% de las tablas del mundo se llaman igual y tienen las mismas columnas. Si quieres aun más seguridad puedes ofuscarlo y luego convertirlo de vuelta en tu backend. En este mundo siempre hay tradeoffs que hay que hacer

ajajajaja me rei creo que me llama más la atención Cassandra

Hola Bryan, claro! mándame un mensaje no más 🙌

Hola Rafael, aquí haremos lo posible en guiarte, éxito en tu trabajo y tu acercamiento a la IA!