Novedades LM Studio - Chatea con tus imágenes y modelos mucho más potentes (Llava y Mixtral) 

Hola! Puedes hacer que Mixtral 7x8b te funcione bastante mas rapido si evitas que al cargar el modelo uses memoria de GPU compartida. Eso hace que vaya muchisimo mas lento. Configura el nº de capas de GPU ofload hasta que llenes la vram solo (en mi rtx 3060 12gb son 10 capas), ademas veras que haciendo esto reduces el uso de RAM. Gran video!!

Hola! Gracias por tus videos, son muy aclaratorios e interesantes. Me funciona bien con LM Studio v0.2.16 y AI-Engine BakLLaVA1 MistralLLaVA 7B Q5_K_M. Preguntas de todo sobre la imagen y va contestando muy bien, no es perfecto pero muy útil, incluso ve cosas en que no te fijas, como un reflejo en un parachoques y te cuenta que es de un edificio. 👍

Gracias empezaré a probarlos

Que opinas del modelo solar-10.7b instrict-v1.0? A nivel matemático esta siendo bastante acertado, con errores pero es interesante el modelo, tiene su version uncensored.

Hola! Existe algún modelo que te permita cargar un repositorio completo?

hay alguno que genere texto coherente e imagenes a partir de instrucciones?. O eso de momento solo lo tiene GPT4 que es de pago

cómo puedo generar imagines con ello?

no logro que me lea imágenes me salta el error de Vision Adapter

Hola!, No me sale el icono para mandar imágenes, uso dolphin 2.7

hay alguno que lea archivos tipo documento, pdf, excel, etc?

No oigo nada 😢