Тёмный

Лучшее нейросетевое приложение с поиском по интернету, документам и youtube, с ollama и lm studio 

code dd3
Подписаться 5 тыс.
Просмотров 2,5 тыс.
50% 1

👉 AnythingLLM : Приватный чат, готовое к работе с корпоративными документами решение для чат-ботов с открытым исходным кодом.
Полнофункциональное приложение, позволяющее вам превратить любой документ, ресурс в контекст, который может использоваться во время общения в чате. Это приложение позволяет вам выбирать, какую нейросеть или векторную базу данных вы хотите использовать, а также поддерживает многопользовательское управление
Этот сервис поддерживает и бесплатные модели, так что можно воспользоватся хоть чат GPT от openai хоть lm-studio и ollama.
Полная кастомизация позволяет настроить интерфейс конкретно под ваи задачи.
Что внутри:
0:00 - введение,
0:56 - стартовая демонстрация,
2:15 - установка,
5:12 - опции,
6:14 - youtube поиск,
7:14 - тест с документами,
11:14 - тест с документами,
12:14 - выводы
подробнее на тему RAG -
• Приватный бесплатный ч...
telegram - codokot

Опубликовано:

 

19 июн 2024

Поделиться:

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист
Посмотреть позже
Комментарии : 26   
@codedd3280
@codedd3280 2 месяца назад
все ссылки по теме видео в телеграм: t.me/+zTcoFHq7i9AyMWM6
@AnubisGog
@AnubisGog Месяц назад
Благодарствую за такие полезности!
@the_angel_tw
@the_angel_tw 2 месяца назад
По больше бы обучающих таких бы видео очень интересно. Спасибо за контент.
@the_angel_tw
@the_angel_tw 21 день назад
Я тут протестил и пришел все таки к выводу место AnythingLLM нужно делать свою русскую и сейчас пишу оболочку для моделей на C# это позволит сжимать квантовать модели без потери качество ответа и модели будут гораздо меньше весить значит и ресурсов локального компьютера нужно будет меньше)
@Asver_
@Asver_ 2 месяца назад
Спасибо вам огромное за видео гайды.!!!!!
@codedd3280
@codedd3280 2 месяца назад
пожалуйста!
@user-ed1rs5ph3u
@user-ed1rs5ph3u 24 дня назад
проверим
@bulba1995
@bulba1995 2 месяца назад
Как всегда шикарное видео , я вам признателен ))
@YuriyLvov
@YuriyLvov 2 месяца назад
СПС за видос
@l7l7l7lful
@l7l7l7lful 2 месяца назад
Годнота
@arthurivanov1354
@arthurivanov1354 2 месяца назад
Очень интересно, похоже, то что я искал! Если Вас не затруднит, подскажите. возможно ли в LM Studio в промпт подгружать файлы локально или ссылки с онлайн ресурсов?
@codedd3280
@codedd3280 2 месяца назад
в LM Studio нельзя, для этого и показываю, как это делать в AnythingLlm, она также работает локально, можно запросто работать без интернета. Еще есть похожее видео про RAG, его там есть другbе интструменты на эту тему
@arthurivanov1354
@arthurivanov1354 2 месяца назад
@@codedd3280 Спасибо! Я так и предполагал, поэтому Ваш гайд прямо в точку.
@diversitynone431
@diversitynone431 2 месяца назад
Можно ли подключать не страничку а сайт типа многостраничного форума чтоб самому не читать?
@AlexAlex-vw3bm
@AlexAlex-vw3bm 2 месяца назад
а можно ли подключать проекты с кодом где много файлов и директорий?
@user-iu4xj8mc3w
@user-iu4xj8mc3w Месяц назад
немного непонятно зачем эта прослойка, которая может сливать дату, особенно если она не сертифицирована. ведь в лм студио тоже самое всё
@airlow6784
@airlow6784 2 месяца назад
Дополню: Поднял сервак на linux арендовал платный с видяхой на 12gb и 32gb ram, установил там lm studio, на ней выбрал mistral как модель нейронки, и активировал Сервер с дефолтным портом 1234. На домашнем компе установил Anything llm и прописал в настройках модели адрес удалённого сервера, всё завелось ! Подгрузил документ, начал общаться с ним... качество так себе... видимо нужно играться с моделью на серваке, ну и другими настройками....
@codedd3280
@codedd3280 2 месяца назад
очень много вопросов - что за модель, нужно чекать правильно ли подгрузилась lm-studio, и самое главное - язык документов, если русский, то нужно подобрать эмбендинговую модель из списка, который я сбросил в телегу. Еще я сбросил ссылку на бесплатный сервис (до определенных лимитов, но они очень солидные) чтобы ничего не арендовать и не платить. Отдельный вопрос - что для Вас - "качество"
@airlow6784
@airlow6784 2 месяца назад
@@codedd3280 Качество, это когда по запросу, из док-та вытягивается нужный мне ответ, информация, как на вашем видео, пока хотя бы так, - но сейчас полная чушь, а ниже он даёт ссылку как будто вытащил это с моего док-та.
@codedd3280
@codedd3280 2 месяца назад
если документ на русском - нужна специальная модель, без этого качество может не соответсвовать ожиданиям
@Asver_
@Asver_ 2 месяца назад
Напишите пожалуйста, как настроить сервер. У вас в видео ни чего об этом не сказано.
@codedd3280
@codedd3280 Месяц назад
да, совсем скоро будет видео про железо
@2009Spread
@2009Spread 2 месяца назад
давай исчё!
@codedd3280
@codedd3280 2 месяца назад
ох и не просто это исчё, много времени и сил, чтобы найти, оттестировать и записать что-то стоящее
@2009Spread
@2009Spread 2 месяца назад
@@codedd3280 за это тебе благодарочка
Далее
Open Source RAG running LLMs locally with Ollama
10:00