Una vez que lo hayas descargado, no. Es totalmente offline y privado. De todas formas te recuerdo que el modelo que hay en este video quedó un poquito desactualizado. Hace unos pocos días salió una versión más nueva (requiere los mismos requisitos) se llama "Phi-3.5 mini" busca lo que está mucho mejor
Anderson buenas, amigo mira tengo un problema no se porque pero cuando me habla la ia pone símbolos y otras después de un tiempo raleando comienza a liarse en las acciones de los personajes e incluso en los nombres ¿me puedes dar algún consejo?
Si la aventura de rol que estás intentando ejecutar tiene demasiados personajes o tramas, es muy probable que termine liandose. No nos olvidemos de que es un modelo de rol bastante pequeño. Los modelos de guía grandes como GPT-4 tal vez no tendrían problemas en manejar tramas complejas, pero tienen el inconveniente de que son muy censurados, y no te permiten generar aventuras sobre determinados temas. El único consejo que puedo darte es el siguiente. Cuando noto que el modelo de lenguaje comienza a escribir galimatías sin ningún sentido se debe a dos motivos: uno puede ser que la temperatura esté muy alta (recuerda que la temperatura la puedes manejar desde lm Studio, y es la cantidad de variabilidad que posee el texto que genera. La temperatura no tiene nada que ver con la temperatura que mide el termómetro, jejej) otro motivo es que hayas superado los 8000 tokens aproximadamente de conversación con el modelo. De este modo vas a tener que iniciar un nuevo chat. Ya que cuando supera esa cantidad de tokens, muchos modelos suelen generar textos sin coherencia o sin sentido.
@@andersonconlag mil gracias amigo lo tendre en cuenta... de todas formas siempre me bajo modelos q8 pq mi grafica tiene 12gb de vi ram entonces... prestare atencion a la temperatura y tokens.. muchas gracias maestro.
@@Jesulex82 te doy otro pequeño consejo. Estuve leyendo mucho acerca de las cuantizaciones y su impacto final en la complejidad del modelo. Resulta que a menos que utilices algún modelo que sea 2B, No aconsejan mucho utilizar Q8. Ya que el modelo se vuelve innecesariamente grande y los beneficios con respecto al Q5 o Q6 son prácticamente inexistentes, por lo menos en el uso que uno les da. Con Q5/Q6 el modelo no pierde calidad y se hace más pequeño, por lo cual incluso te puede generar una inferencia mucho más rápida.
@@andersonconlag Gran consejo... pense que al ser de mayor tamaño... este tendria mejor estabilidad y respuesta. gracias amigo mio lo tomare en cuenta.
Te soy honesto, probé muchos modelos de IA para programar, de tamaño 8B, y realmente no son buenas. Yo conozco también de programación en Python y C++, aunque no soy experto, y realmente no tuve experiencia satisfactorias. A veces responden bien las solicitudes y realmente otras veces generan código muy defectuoso
Te refieres a si existe alguna IA que no tenga absolutamente ningún tipo de restricción? Actualmente no existe. Los modelos que presentan este video carecen de censura ideológica y política, y de muchos otros temas, pero libertad absoluta (con mayúsculas) no te da ningún modelo. En cierto sentido me parece bueno, porque los actuales modelos solamente te rechazan una solicitud si les pedís algo demasiado grave. Y eso me parece bien.
probando la primera ia, ando mejor sin la grafica osea gpu aceleration 0 o desactivada, puse la grafica en computar (es amd), oc a la gpu, ramdick para poner la ia en la ram) y pase de 6.30 a 14.50
Fíjate que la Inteligencia artificial de este video ya quedó un poco desactualizada. Ayer a la noche salió un modelo que es un poquito mejor, y te pide los mismos requisitos. Se llama "Phi-3.5 mini"
Pueden ser dos cuestiones. La primera es que no estés usando la versión actualizada de lm Studio. La segunda es que tengas activada por error (en el caso de que no tengas una placa gráfica) la opción de "gpu offload". Desactiva esa opción e inténtalo de nuevo
Justamente ayer a la noche cuando estaba haciendo el video, publicaron un nuevo modelo que también está muy bueno. Y que te va a andar muy bien si no tenés una placa gráfica. Se llama Phi-3.5 mini. Y tiene un rendimiento bastante similar a Llama 3.1 del video, aunque es mucho más pequeño y anda más rápido
Super, eres el mejor canal que explica sobre nuevos modelos de IA local. Descargué y probé los modelos que mencionas, todos estan super, los Llama son buenos, los estoy probando. Me sorprendió el gemma 2, consume poco, es rapido y es muy bueno también. Sigue asi bro
Hola unq pregunta, la IA tiene limitaciones ? Por lo que e visto es de modo local por lo que no se envia a otros servidores asi que no tiene tantas politicas como las IA normales pero esta tiene alguna ? Una ultima pregunta, sera posible fusionar stable difussion y una ia de modo local para que al estar hablando la ia te mande fotos de ella por asi decir?
No, no tiene ninguna limitación de tipo política o ideológica. Es una de las inteligencias artificiales más libres que hay. Aunque hoy en día casi todas las que hay disponibles, que sean open source, son bastante libres
2:00 estoy luchando con la IA para que me hable en español la culiada me pone partes del texto en español mientras me escribe en ingles, en una respuesta me cuestiono por no hablar su idioma nativo. jaj
Buenas che! Mire varios videos y termine usando la aplicacion que recomendaste con el modelo "Xwin-LM-13B-V0.2-GGUF", EXCELENTE, la combino con el modelo de groq llama 70b.
Igual fíjate que el modelo Xwin ya se considera muy viejo. Este video tiene varios meses de antigüedad. Fíjate que actualmente hay modelos que son mucho mejores, y que incluso son más pequeños
Cómo estás? No sé si existe actualmente un modelo de lenguaje que sea específicamente bueno para eso. Pero sí te puedo decir, que para escritura creativa, el modelo de lenguaje que aparece en este video es el mejor de todos (por supuesto hablando de modelos que son pequeños)
Ayuda no me deja usarlo me dice Compatibility Issue Detected All backends available to LM Studio have been detected to be incompatible with your machine: llama.cpp-win-x86_64-avx2: CPU compatibility check for backend 'llama.cpp-win-x86_64-avx2' failed. Backend CPU info: {"architecture":"x86_64","instruction_set_extensions":["AVX2"]}. Hardware CPU info: {"result":{"code":"Success","message":""},"cpuinfo":{"architecture":"x86_64","sup…["AVX"]}} llama.cpp-win-x86_64-nvidia-cuda-avx2: CPU compatibility check for backend 'llama.cpp-win-x86_64-nvidia-cuda-avx2' failed. Backend CPU info: {"architecture":"x86_64","instruction_set_extensions":["AVX2"]}. Hardware CPU info: {"result":{"code":"Success","message":""},"cpuinfo":{"architecture":"x86_64","sup…["AVX"]}} llama.cpp-win-x86_64-vulkan-avx2: CPU compatibility check for backend 'llama.cpp-win-x86_64-vulkan-avx2' failed. Backend CPU info: {"architecture":"x86_64","instruction_set_extensions":["AVX2"]}. Hardware CPU info: {"result":{"code":"Success","message":""},"cpuinfo":{"architecture":"x86_64","sup…["AVX"]}} Please reach out to us on Discord or by emailing team@lmstudio.ai for support. [Exit] :((((
Sólo texto. Pero fíjate que en el canal tengo videos más actualizados con modelos que son 10 veces mejores. Estos modelos ya son extremadamente antiguos
Hola. Un modelo como Samantha, puede ser entrenada con documentos propios? Estos modelos, se pueden, por ejemplo, enlazar con una pagina web para que sea consultada por otros usuarios? Gracias Anderson!
Cómo estás? Hay una aplicación que se llama GPT4all, la puedes descargar gratis para la computadora. Hace poco inauguraron una funcionalidad en la cual te permite usar cualquier modelo de lenguaje para analizar documentos (pdf o docx) y responder en consecuencia. No sé qué clase de computadora tengas, pero requiere tener una placa gráfica nvidia de gama alta para que funcione como debe. Personalmente la he probado solo utilizando el microprocesador de la computadora y ha demorado más de una hora en procesar un documento de texto de una carilla. Por otro lado, si querés utilizar todas esas características a través de una página web, ahí ya no te puedo ayudar, ya que no tengo experiencia en eso, aunque sí sé que se puede hacer.
La verdad que debe ser un problema tuyo. Esta IA tiene una ventana de contexto bastante amplia la verdad. De hecho, actuales sigue siendo la mejor de su tipo y tamaño.
Nop, esa IA en específico empieza a buguearse a los 900 prompts (Que sería 1 pregunta con respuesta detallada o 3 preguntas simples). He descargado IAs que permiten hasta 32K prompts que funcionan bien (Incliso es mi PC que no da para más de 20K ~23K prompts). También pasó con una nueva que descargué, de llama 3,1 que debería aceptar más de 100K prompts pero se bugueaba a los 1500. Cambiando de tema ¿Sabes si alguna permite analizar documentos e imágenes? Solo he encontrado una de imágenes pero es bastante básica, te describe lo que hay pero no reconoce bien el texto de la imagen.
Juegos de rol con IA son todos aquellos en donde le pides a la Inteligencia artificial que simule ser un personaje (real o ficticio), en cualquier ambiente que elijas, y entonces puedas tener una aventura conversacional con ese personaje.
@@andersonconlag hola necesito q me orintes, quiero una IA basica para aprender de linux cual me recomiendas mi laptop tiene 16 de ram, solo para aprender comandos y errores etc
@@andersonconlag tengo dias buscando desde leo brave hasta bing cuando chateas mas de un punto te dice que debes pagar o se reiniciar la conversacion y eso no me sirve, necesito q sea de la pc es para aprender sobre el sistema creo q no tengo solucion solo pagar
Yo te sugería gpt-4 porque actualmente es el más capacitado, pero si es para conocimiento básico sobre el funcionamiento de Linux, te podría servir para tu computadora un modelo Llama 3 de 8B, o el modelo Gemma 9B
Te vendría bien cualquier modelo tipo llama 3 en versión Q4_K_M. Fíjate que hay un video en donde subí algunos buenos. El video se llama "Los modelos de IA que uso"
@@andersonconlag No me arranca LM ,al momento de arrancar aparece la pantallita verde despues un mensaje blanco con los errores y de fondo pantalla negra con info del programa
Si, pero no se pueden utilizar a través de Lm Studio. Tenés que buscar en RU-vid tutoriales para ejecutar Stable Diffusion (la versión 1.5 requiere menos PC, la versión XL un poco más)
Bro, podes hacer un video haciendoles preguntas a estos modelos? se la banca respondiendo cosas especificas, de temas picantes, politica, misterios? Que modelo me recomendas para eso ?
@@andersonconlag hay alguno que se la banque respondiendo cosas especificas, de temas picantes, politica, misterios? Que modelo me recomendas para eso ?
TIO CREO QUE CONSEGUIDO LO QUE NADIE... LA INTELIGENCIA ARTIFICIAL DEL MODELO DE ROL A DESACTIVADO LOS SERVICIOS JAJAJAJAJAJA ME PUSE A DECIRLE UN MONTON DE COSAS BESTIAS Y ME NIEGA EL SERVICIO JAJAJAJAJA ES ACOJONANTE JAJAJAJAJAJAJAJA
ANDERSON, CHE CAPO!!!!! PUDE HACERLO... USE DEL LISTADO VULKAN Y DE AHI AGARRO, ABRIENDO TODO LO QUE DICES. MIL GRACIAS REY TE QUEREMOS CAPO!!!!!!!!!!!
Anderson que locura, cuando me baje el de AMD resulta que me sale el cuadrado tuyo pero reconoce la RTX.3060 ESTOY EMOCIONADO A VER SI PUEDO HACERLO COMO TU GRACIAS JEFASO.
Hola, por acá alguien que le gustan los juegos de rol y la verdad que para eso está genial el video, te pregunto, yo tengo un i5 con 8 gb de ram y una tarjeta gráfica intel, supongo que debe ser la integrada, que versión del programa debería descargar? gracias y saludos
Cómo estás? En el caso de que tengas una gráfica integrada intel, te conviene descargar la versión de AMD, y en opciones elegí primero BlasCL. Si te funciona bien, y si no, probá OpenBlas, que ahí fijo te funciona utilizando la CPU.
Me imaginaba un chiste de humor negro al inicio algo así como "estas cansado de que chatgpt no te de las instrucciones para iniciar un fucking apocalípcis nuclear ?"
