¡EJECUTA tu propio ChatGPT en LOCAL gratis y sin censura! (LM Studio) 

🎯 Y si quieres saber más sobre Mixtral y los MoEs, no te pierdas este vídeo 👉 ru-vid.com/video/%D0%B2%D0%B8%D0%B4%D0%B5%D0%BE-Sfnu5OmAITA.htmlsi=FGsLNFPxXbBvpTih 👈

Más de esto, por favor. Muchas gracias por enseñarnos tanto

Llevaba tiempo esperando este video, gracias Dot!

De lujo, como siempre, Gracias. Saludos desde Colombia.

Que bueno el video! Por fin estoy trasteando modelitos varios en una 3070.. habia subestimado los modelos del lenguaje en 8GB me cabe un 7B como máximo. Muchas gracias por el video!

Yo intentando ejecutar el modelo Q_08 con mis 2 GB de ram sin grafica y con un Celeron. Mi perro: "¡Apágalo Otto, Apágalo!"

Muchas gracias por este LAB! Se agradece el contenido!

Gracias Carlos tremenda herramienta!!! saludos desde Chile

Gracias por tanto 💪🏼 Un datacoffe de finetune seria letal 🔥

Bien explicado, muchas gracias por compartirlo. Saludos desde Bolivia

Gracias por tus videos y por tus tan buenas explicaciones. Un genio!💯

Gracias Carlos, cada día cuentas mejor las cosas !!!

realmente bueno, he probado otros pero es que este es realmente facil de utilizar, muchas gracias

Muchas gracias por este excelente vídeo!

Subscriptor nuevo, un capo brother eso eres.

Excelente video! Como siempre 🙌

Estoy muy agradecido contigo por loq ue he aprendido de ti. No tengo un equipo capaz de correr esto, pero encontraré soluciòn. La verdad, entender a traves de tus explicaciones me ayuda a progresar mucho.

Buen video, como siempre. Me encantaría que hicieras, ya sea aquí o en tu canal principal, un video resumen de las mejores IAs en este 2024, de generación de imágenes, de texto, etc.

Excelente información, muchas gracias🤗

Tremendo video!! Gracias Un nuevo suscriptor

Muchas gracias por el video, gran explicación para los principiantes como yo

excelente! muchas gracias por esto.!

Muchas gracias, ya tengo que probar el fin de semana. un saludo.

Gracias Carlos, excelente informacion

Muchas gracias me parecia de locos pero lo haz hecho al estilo Hola mundo! simple y directo

Es super interesante a mi me interesaría saber si a dia de hoy existe algo parecido que pueda aprender y no se restrinja al chat en concreto, de forma que conozca lo que busco pudiendo leer conversaciones previas, algo así como un modelo personalizado, al que cuando le corrija algún dato erróneo producto de una alucinación realmente almacene esa corrección y no la repita

acabo de verlo excelente tu contenido gracias

cada video es mejor que el anterior!

Excelente tu video, Gracias !

Perfecto Carlos. Eres un crack

creo que estaria muy bien un video sobre como crear un asistente/ tutor de idioma!! yo uso el metodo de input comprensible al aprender aleman pero de todas formas me gustaria poner en practica el vocabulario que he ido aprendiendo para asi ir mejorando en la gramatica

Lo mucho que te quiero Carlos

Justo es lo que estaba buscando

Muy buen video Carlos, muchas gracias, excelente información y excelentemente presentada , una vez mas gracias PS: existe algo así para generar imágenes sin censura ?

No conocía el canal.... me suscripbí sin pernsarlo!

te lo agradezo me viene muy bien para practicar narración. Gracias

Gracias por la info, entiendo que la versión de linux la podría configurar en google cloud y si no tengo una GPU probablemente me sirva al menos apra ir probando y demas

Gran video! Gracias.

Esto esta super interesante gracias por mostrarme otro mundo mi bro buen dia

Esto está brutaaaaaal

Hola, magnífico video. Veo que la ejecución en el local, o sea que solo puedes acceder desde el ordenador que ejecuta la herramienta, pero se podría hacer accesible mediante una interface web como ChatGPT para que se pueda usar desde los otros PCs de la misma red?

Por que no sabia de este canal todavía?? Suscrito!

Hola. primero solo decirte que te sigo desde hace mucho y me encantan tus videos y la ia me tiene super enganchado. Ahora una pregunta. ¿Sabes de algún o algunos libros que puedas recomendar en español que expliquen ya no solo conceptos si no con algún caso practico programado en algún lenguaje que sea bueno? estoy buscando ese libro que lo dice todo super claro y que tienes en tu librería por que es la leche. Gracias por tus videos.👍

Que buena herramienta nos podrías enseñar mas sobre ella, veo que esta el " modo Load and prompt multiple local LLMs simultaneously " ,y "Run an OpenAI-like HTTP server on localhost", gracias por tu contenido.

Hermano eres lo máximo

Muy buen video 👌❤

Millones de videos mas Carlos, hagamos de todooo con AI

Super buen consejo y explicación del mismo 👍

Gracias por el video :)

tremendo! te ganaste mi subs! que IA recomiendas para un entorno de 5700x 32gb de ram y una 3070? existe alguna IA como plantea rabbit r1? es decir una IA que ejecute accion? Muchas gracias ahora al firme de ver tu contenido!

tremendo muchas gracias!!! crees que faltara poco para tener un LM studio con IA generativa tipo stabledifucion???

Tremendo video como siempre, despues lo miro

Eres un MAKINA!

Graicas por el video, sería interesante que hicieras un video de cómo interactuar con un modelo como estos desde programación.

Muy buen contenido, hasta para los mas juniors en este mundillo. Dandole vueltas muchas veces he buscado y no he encontrado nad aal respecto (tampoco es que conozca todo el mundo de los modelos de lenguaje e IAs) pero estaría bien saber si existe alguna herramienta open source que sea capaz de desarrollar archivos dwg, como para Autocad, sin duda eso sería increíble. Para temas de esquemas en ingeniería o arquitectura sería un avance muy grande. Si sabes de algo, o alguien que lea el comentario, sobre esto te agradecería que lo dejases por aquí. Muchas gracias por tu contenido, sigue así!

Genial el video :). Amigo, cual es el acelerador gráfico que usas?. Es un servidor y cuantas tarjetas graficas pusiste?

Buenismo. Vengo del otro canal. Suscrito.

Hola. Excelente video . Que grafica usas . Gracias

Hola, estupendo contenido!! una duda, estos modelos sirven para crear imágenes? gracias

la vida es dura, me alcanzo para un i3 y 4gb jaja pero almenos ya subi un nivel a comparacion de la q tenia, a seguir trabajando, esto de la programacion es como un hobby

Muy buen Contenido!!!!.

excelente video estimado, probando software.

Podrías hacer un video sobre el hardware qué tienes?? Y también el hardware mínimo que recomiendas para montar en tu casa??

Excelente, ya quisiera tener una GPU como la tuya, tengo una RTX 4080, me sirve!

De antemano muchas gracias por tu trabajo y el aporte que nos haces a tus seguidores, tu canal es genial!. Quisiera saber cómo puedo desplegar estos modelos en un servidor y darle paso solo a mis suscriptores, ejemplo conectarlo a Whatsapp y otras API como Google Maps, una base de datos... etc

Un grande 😊

Buen video, soy nuevo en el mundo de la inversión, he escuchado mucho sobre criptomonedas, bolsa de valores y otros tipos de inversión, y agradecería si alguien me puede orientar para empezar a invertir para aumentar mis ingresos.

Si alguien me dijera en 1990 que podrías ejecutar tu propia IA "funcional", no daría crédito xD que momento tan subrrealista nos toca vivir. Es maravilloso.

Impresionante. Se puede hacer lo que se quiera. Que susto 😱

Máster, muy bueno el video. Una consulta, tengo una empresa que cuenta con mesa de ayuda y una base de datos con años de respuesta a las diferentes problemáticas de nuestro producto, es posible entrenar algún modelo con las respuestas y automatizar esos procesos con IA?

Primero gracias por el contenido siempre de valor que nos compartes. Quería hacer una consulta, cómo podría integrar uno de estos LLM que tiene licencia comercial a un sottware?

Genial. Usas un modelo Dolphin, y me encataría saber cómo entrenar a este modelo en temas específicos

videazo

Ya me instale la herramienta tengo una gran idea para usarla jejeje

Muchas gracias por tus videos. creo que estaría bien un video sobre setups de hardware para trastear "lm studio" con comparativas de lo que puedes mover dignamente según el presupuesto.

Hola Carlos como estas? Cual tarjeta me recomiendas como mínimo para poder manejar un modelo con nivel mayor a gpt 3.5? Estoy pensando en rentar un hosting con GPU para probar Mixtral, o dolphin por lo que veo en el video estas usando una Nvidia A6000 y parece ir bastante rápido pero es bastante cara, algo que rinda en precio vs velocidad. Gracias por tus videos, realmente aportan mucho valor.

Gracias crack!

Muy bueno como siempre! Propongo un tema de video: tarjetas gráficas para ML 😅 Gracias!!

Gracias, buscaba algo así, quiero un generador de historias sin censura para mis partidas de rol

Que lastima que no subas más videos. Igualmente mil gracias!!

el dominio más veloz del mundo!! 🪳

El otro día traté de mejorar el storytelling de uno de mis guiones con Copilot. Mi temática es la que es: TRUE CRIME y claro, debo mencionar ciertas cosas por que de eso va mi contenido. Conclusión, que empezaba a generar texto, pero lo cortaba en seco por ciertas palabras perturbadoras. Y ESO, ES UN PROBLEMA. Y MUY GORDO A MI JUICIO. Cómo aplican filtros y como disciernen entre algo que estás diciendo en serio a una pieza documental o de ficción. Todo lo mete en el mismo saco y según quieras hacer una cosa u otra, te deja o no te deja. Al final vamos a acabar hablando en clave, por que no podremos decir absolutamente NADA en ningún lado. Es triste, es alarmante y poco se habla de esto. En fin, ya nos lo encontraremos... No sólo no conseguí lo que pretendía con la IA por culpa de unos filtros y una censura encubierta que no saben cómo ajustar bien, si no que tuve que arreglar el maldito guion yo mismo, que al final de cuentas, se aplica el refrán de siempre: SI QUIERES HACER ALGO, HAZLO TÚ MISMO! Mi experiencia con la IA en este sentido es un poco decepcionante. Al final vamos a tener que hablar de ositos de peluche y unicornios rosas por que al poco que metas una palabra "prohibida" estos LLM´s actúan casi como si fueran a avisar a las autoridades. Vamos que la IA ni es tan inteligente ni es tan artificial ya que alguien habrá en algún lado viendo todo lo que le pedimos.

Gran video! sabes que versión va para una macbook pro m1 y m1 pro? 🤔

grande video broder y de cuantos gigas de GPU recomiendas

Hola gracias por tu video, soy nuevo aquí y me gustaría saber si ésta IA la puedo conectar a internet para que me de una respuesta con datos actualizados?

Grande!.

El mejor video q te puedes encontrar

De lujo! Y ya salió algun SAAS que nos lo ofrezca mediante API?

Gran video. Acabo de llegar desde tu otro canal, y Aunque soy principiante, me gustaría saber: 1. ¿Cómo podría entrenar mi modelo en local? 2. ¿Cómo podría hacer que mi modelo desplegado y entrenado en local, sea accesible desde mi red LAN(por navegador web, por ejemplo). Agradecería mucho las respuestas. PD. Excelentes explicaciones.

Tremendo video. Me encantaría saber si también haces contenido como este pero orientado a audiencias un poco menos técnicas. Por ejemplo, gente que no venga del mundo de la ingeniería.

Sabes si LM Studio u otra herramientas como Ollama, permiten hacer Fine Tuning o solo cargan modelos ya preentrenados.

7:41 Humildemente Carlos hablándo de sus GPU's :D

Larga vida dot csv lab . Csv , simi simi

Gracias Carlos, que envidia de tu entorno de trabajo, 96GB en GPUs, wow!. Llevo unos meses "jugando" con LM Studio con resultados inconcluyentes... tendrias tiempo de mirar sobre como implementar un RAG con esta aplicacion? yo lo uso con VSCode via el acceso API, con mi propio fine-tuning con mi codigo-fuente, pero seria muy interesante poder integrarlo con un vector-store local y llama-index u otros frameworks para incluir un RAG. He visto algunos videos que te explican como usar autogen o crewAI (lo mejor en agentes hoy dia) con modelos locales, normalmente usando Ollama (que no existe para Windows lo que no me ayuda)...

Que maquina la que tiene Dot CSV Lab. Yo con 16GB Ram jejeje

muy bueno el video

El tutorial más complicado de todo Internet, sos un crack papu

Gracias por tus videos, ¿alguna recomendación de modelo para 'inquietos' con menos recursos hardware?, en mi caso un procesador Ryzen 5 con 16GB de ram.

Buen video, que fascinante que se pueda ejecutar una IA de forma local, yo estoy interesado en crear una IA especializada en transporte publico conectada con WhatsApp para que responda a todas las consultas de los pasajeros, pero no sabría como hacer un modelo únicamente experto en temas de transporte de pasajeros, que brinde horarios, tarifas, recorridos y que no sea tan pesada. En la empresa recibimos 700 chats diarios de consultas y eso conlleva mínimo 3 empleados o 4, Algo tranquilamente reemplazable con IA. Saludos desde Argentina

Entre feliz sin saber hasta qué Mendi cuenta que necesitas una GPU... Gracias por el aporte de todas formas.