Тёмный

Llama3 一键本地部署 !无需GPU !100% 保证成功,轻松体验 Meta 最新的 8B、70B AI大模型!! | 零度解说 

零度解说
Подписаться 884 тыс.
Просмотров 116 тыс.
50% 1

【更多资源】▶ / @零度解说
【零度博客】▶www.freedidi.com
【加入会员】▶ / @零度解说
-------------------------------------
🔔
本地部署 Llama3 - 8B/70B 大模型软件下载:www.freedidi.com/12189.html
🔰 安全VPN推荐(最高优惠链接):
1.ExpressVPN:go.expressvpn.com/c/2612933/1...
2.PureVPN: billing.purevpn.com/aff.php?a...
🚀VPS 推荐:
1.bittly.cc/Vultr (优惠链接)
2.bandwagonhost.com/aff.php?aff... (CN2 GIA 全网高速线路)
🦞
AI 生成对口型视频(支持多语言):bittly.cc/rHFM3
🐳我的下载工具:bittly.cc/idm
💓
1.回国加速VPN :bittly.cc/qt8cx
💰比特币交易平台
1.火币官网 : www.htx-kol.com/invite/zh-cn/...
2.门罗币:localmonero.co/?rc=y25g
接码平台推荐:
sms-activate.org/?ref=4203005
0:00 视频简介
0:23 通过GPT4AII部署Llama 3
2:25 在 CPU 上运行Llama 3 (8B)大模型
3:38 LMstudio 一键部署 Llama 3(8B/70B)
5:37 100% 调用GPU进行AI模型加速
6:17 Ollama 平台上进行部署Llama 3
8:23 安装过程的重点提示
8:58 Ollama 功能设置
=======================
其它更多精彩内容推荐:😍
• ChatGPT 王炸升级新!无敌的 GPT-...
• Gen-2【燃爆】AI 视频革命! 一句话秒...
• Google 警告只剩下 3 周时间,开始删...
• Google浏览器的8大“奇技淫巧”!你可能...
• Google AI 聊天机器人「Bard」最...
• 【火爆全网的】AI视频生成神器!让老外说中文...
• AI 视频换脸!史上最强最快的方法,100%...
• Windows 11 最新版(23H2)官方...
• 屌爆了!一键提速400%,堪称 Window...
• Windows 11 正式升级(23H2)新...
• 重大更新!Windows 11 正式发布“M...
• Windows 11 最新版 23H2 发布...
• 注意了 !Windows 11 (21H2)...
• Video
• 【超强的 AI 作图】Stable Diff...
• “老司机” 必备的8款精品软件! 超级实用,...
• 炸场来了! Adobe 新版 AI绘画模型发...
• 终于来了!微软推出 DALL-E 3 图片生...
• 老司机必备的2个U盘,以免为时已晚!它们堪称...
• 【超强的 AI 作图】Stable Diff...
• 让人惊呆!Adobe 新版 Photosho...
• 又一款爆火的AI人工智能应用!碾压ChatG...
• 超逼真的AI数字人,一键免费生成教程!还能克...
-------------------------------------------------
🐎🐎
商务联系:ozabc6@gmail.com
=========================

Наука

Опубликовано:

 

14 июл 2024

Поделиться:

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист
Посмотреть позже
Комментарии : 345   
@zhangbinjie
@zhangbinjie 2 месяца назад
太喜欢了,这个频道一直喜欢,了解最新的动态。而且学习到很多知识:)
@zhangbinjie
@zhangbinjie 2 месяца назад
含金量喜欢高的频道:)
@A103
@A103 2 месяца назад
真是太棒了,让我第一次体验了在本地使用AI。 希望未来可以讲解下使用API的知识
@happyalldaylong6212
@happyalldaylong6212 2 месяца назад
感谢零度,我只是学生,无法提供经济支持,但是你的视频真的很有意义,对我帮助很大!感谢!
@Bystanders-6_6
@Bystanders-6_6 2 месяца назад
Don’t you have a dollar?
@redwu5918
@redwu5918 2 месяца назад
@@Bystanders-6_6 负债中~
@mit377
@mit377 2 месяца назад
come on~~ you got parents and kidneies.
@user-hz9gc7ew8u
@user-hz9gc7ew8u 2 месяца назад
学生让零度给你送台电脑,再给你两万块钱
@user-jh4qb3zg1m
@user-jh4qb3zg1m 2 месяца назад
你的视频很经典很实用👍
@kai9499
@kai9499 2 месяца назад
簡單又明瞭的教程, 萬分感謝
@user-mu4zi5hh2g
@user-mu4zi5hh2g 16 дней назад
大佬我越来越喜欢你了,估计全网就你一直发表干货。
@gacctom
@gacctom Месяц назад
太棒了,必須點讚支持一下
@wongsimon2387
@wongsimon2387 2 месяца назад
簡單又而明白。謝謝。
@xinsecthosre937
@xinsecthosre937 2 месяца назад
感谢分享,零哥太猛了
@withcarename
@withcarename 2 месяца назад
可以做一期視頻如何用sillytavern進行角色扮演嗎?你知道的,很多紳士都想知道!!😂😂😂
@ximinzhang1817
@ximinzhang1817 2 месяца назад
不错不错不错非常好
@Dragonborn2024
@Dragonborn2024 2 месяца назад
mac版的如何配置呢?这三个应该如何选择呢?
@user-th5od6xi7n
@user-th5od6xi7n 2 месяца назад
值得学习
@0xtopper508
@0xtopper508 2 месяца назад
感谢分享
@user-np5cr6id2x
@user-np5cr6id2x 2 месяца назад
感谢零度每次都能提供相对很快的简单教程,这次做一点补充Windows的话部署docker在安装webui调用ollama不是最方便的(个人观点勿喷),建议用ollama+chatbox方案,对于小白来说可能梗方便一点,主要是Windows下的docker时不时会出问题,而且开hyperv加wsl对小白可能也有点难度。
@yesyunxin
@yesyunxin 2 месяца назад
部署docker在安装webui调用适合安装在家用服务器上,方便调用
@shanrenzeri
@shanrenzeri 2 месяца назад
wsl还是会出现问题。还是2种方法靠谱
@shanrenzeri
@shanrenzeri 2 месяца назад
其实lmstudio是最快最方便的方法。
@user-mv9ul9tz1c
@user-mv9ul9tz1c 2 месяца назад
真的,一開始看到的相關影片就是用ollama+chatbox方案,整個流程感覺有些複雜,還想說有什麼程式碼可以直接以API的方式來執行models 後來看到GPT4All、LMstudio、Jan這些似乎簡單很多
@zechen8299
@zechen8299 2 месяца назад
@@yesyunxin 意思是可以我用GPU主機運行docker 然後使用macbook iphone之類的用局域網使用LLM嗎?
@FusionDraw9527
@FusionDraw9527 2 месяца назад
太香了 第三種還支援本地SD模型 真方便
@joenson.w2622
@joenson.w2622 2 месяца назад
爱了 爱了 ~!~!来啵一个😍
@kamen007
@kamen007 2 месяца назад
感谢分享,大佬能否出个基于大模型构建知识库的视频?
@user-vk6tv8gg7c
@user-vk6tv8gg7c 2 месяца назад
试过了第二种方法的7B,性能实在低下,跟gpt差太远了,但还是多谢零度!
@kdjs-gk8vt
@kdjs-gk8vt 2 месяца назад
感谢
@yuanmeanchan1368
@yuanmeanchan1368 2 месяца назад
真的太棒了,零度大大,用了第三种本地部署,关掉运行界面后怎么重新开启使用?
@taokai
@taokai 2 месяца назад
哥们建议你把字幕弄小一些。太大了挡住了太多屏幕空间。
@user-kp9un9dp7n
@user-kp9un9dp7n 25 дней назад
这款ai限不限次数,大佬,零度
@user-mv9ul9tz1c
@user-mv9ul9tz1c 2 месяца назад
感覺零度大可以一集專門介紹跑這些AI model的電腦設備配置規格順便業配
@pengfeiluo9194
@pengfeiluo9194 2 месяца назад
不过零度很少涉及硬件介绍,主要是软件设置。
@leeneo8933
@leeneo8933 2 месяца назад
能出一期视频,讲怎么使用本地程序调用本地部署的大模型进行自然语言处理的视频吗? 比如我编写一个python程序,需要给本地的文章进行扩写或者总结,然后保存到本地文件。
@shanjiang9203
@shanjiang9203 2 месяца назад
@liubao
@liubao 2 месяца назад
希望出一个本地化训练的教程
@thomaskuo9884
@thomaskuo9884 2 месяца назад
零度先生您好,已成功佈署並可運行,感謝您。請零度先生撥空,教導如何與Stable Diffusion 做連結,一直有錯誤訊息出現....,如果繪圖功能也完整,那在單機上就完整加完美了,謝謝您!!
@jiero115
@jiero115 2 месяца назад
對了哦,不知道能不能支持多模態?如拋個EXCEL表去給他分析?
@DonaldTrum2806
@DonaldTrum2806 2 месяца назад
请问一下,这个本地模型怎么调教?比如我想把它训练成一个文学性较强的小说生成专家,我该怎么投喂数据?
@user-mv7ll7ty5n
@user-mv7ll7ty5n 2 месяца назад
请问LM studio 里面的AI Chat 和之前视频里面的Jan聊天有什么区别
@JasonXu-rz6gd
@JasonXu-rz6gd Месяц назад
感谢分享,Docker Desktop安装后怎么设置使用GPU ?
@mickeylau1
@mickeylau1 2 месяца назад
請問up主用甚麼電腦?如果用筆記本會否很易過熱?
@cnflashsword
@cnflashsword 2 месяца назад
笔记本电脑是不是买M系列比较好,内存当显存用
@user-wt1fr2vh3g
@user-wt1fr2vh3g 2 месяца назад
学习了,第三种方式用Ollama+anythingLLM会不会更简便
@conerwei6720
@conerwei6720 2 месяца назад
零度可以分享怎么把开源模型微调成无限制回答任何问题的吗
@yan_yan_1995
@yan_yan_1995 2 месяца назад
省流省時間,CPU 跑的結果能在 3:35 看到 CPU 跑是能跑,就是慢 到最後就是說要是跑大模型的話顯卡是少不了!!! 簡單缷載, 拜~
@user-ps2lr8ci2d
@user-ps2lr8ci2d 2 месяца назад
人生中第一次回复评论,希望大哥出一期如何本地微调我需要写文案
@user-ps2lr8ci2d
@user-ps2lr8ci2d 2 месяца назад
安装后硬盘变得好满又找不到,小白求求可以出一期教如何清理干净
@LeeLee-tf7vi
@LeeLee-tf7vi 2 месяца назад
请教,这些本地模型,可以经常更新吗?如果更新的话是全部下载模型还是只下载更新的部分
@jingke724
@jingke724 2 месяца назад
受教了
@tommyzen3984
@tommyzen3984 2 месяца назад
CMD输入提示docker不是内部或外部命令,也不是可运行的程序或批处理文件
@demodemo5991
@demodemo5991 2 месяца назад
你的Windows 沒有安裝 Docker。 自己尋找Windows 安裝 Docker 的教學,安裝Docker。
@TooropLo
@TooropLo 2 месяца назад
零度,谢谢!能不能制作一个介绍将ollama和open webui安装在云服务器的视频?我的电脑比较渣,云服务器安装虽然付费,测试的时候,总比买个新电脑便宜。谢谢!
@LOHAS-BRAIN23241
@LOHAS-BRAIN23241 2 месяца назад
谢谢您的分享,请问安装Liama3在本地电脑,可以直接调取我百度网盘内存储的数据,进行训练吗?
@weiwan6585
@weiwan6585 2 месяца назад
可不可以做一期用甲骨文云服务器安装Ollama的教程?我觉得如果能安装在服务器上会比本机更有效果!
@user-it7zp1dn9q
@user-it7zp1dn9q 2 месяца назад
能通过对话 让ai进行全网搜索吗😂
@Mrlin6
@Mrlin6 2 месяца назад
请问第三种方式会产生什么消耗吗,怎么恢复原来界面呢,直接删除docker有影响吗
@user-hv6ln5gn3k
@user-hv6ln5gn3k 2 месяца назад
mac intel 没办法安装,支持m1 m2处理器。
@gigantic6066
@gigantic6066 2 месяца назад
想问下 采用第二种方法安装了以后 是否能够上传文件请AI分析 如何操作?谢谢
@rezou656
@rezou656 2 месяца назад
后面能更新下ollama怎么配合stable diffusion使用么?
@Jamesbound407
@Jamesbound407 2 месяца назад
最后介绍的ollama+llama3测试下来对lobe chat不兼容
@YuRanHuang-yd8yt
@YuRanHuang-yd8yt 2 месяца назад
请问本地运行的llama 3 ,能够支持文生图功能嘛
@yiweiwu5950
@yiweiwu5950 2 месяца назад
感谢大佬分享!请教一下,我安装了GPT4All,我可以在设备管理里看到显示适配器是 NVIDIA Geforce RTX 3060 ti 但是为什么在Device的设置中并没有出现我的显卡信息..我只能选择CPU..这是为啥😅
@Latano
@Latano 2 месяца назад
这么多模型,他们本质上有什么区别吗?或者说每个模型针对的范围不一样?可以介绍一下吗
@amain-lin
@amain-lin 2 месяца назад
試用過後,還是覺得將gguf引入Jan比較好用,可以製作一集Jan API的教學嗎? llama3中文支援較差,但是可以要求將回覆的英文答案翻成中文!
@little-catya
@little-catya 2 месяца назад
有没有在vercel等容器上部署的
@marketliao7950
@marketliao7950 2 месяца назад
vercel部署的只能是桥接到AI网址api吧
@bryanjofersion
@bryanjofersion 2 месяца назад
最后一款看到一个+号,是不是意味着可以上传文件呢?
@albertdell
@albertdell 2 месяца назад
請問這3種安裝,有支援插件或是其他功能,例如知識庫或工作流?
@user-Shawnlin1220
@user-Shawnlin1220 2 месяца назад
簽到到
@Mrlin6
@Mrlin6 2 месяца назад
安装模型会占用内存空间吗
@JettZhang
@JettZhang 2 месяца назад
请问这个支持上传文档吗
@aggiech153
@aggiech153 2 месяца назад
感谢,想使用monica, 有免费使用办法吗?
@foxtmd
@foxtmd 2 месяца назад
这篇内容对于国内的人来说,很先进,第一种安装成功了,请问,下载的模型存放在哪个根目录下,我想拷贝下来,随时随时可用.第二个问题,第三个安装方法有绘画的功能,是我所期盼的,接下来研究一下,同时也告之,下载的模型存放在哪,谢谢隔壁老乡了.郴州阿桂
@user-fg6gn4us3r
@user-fg6gn4us3r 2 месяца назад
docker下载的模型在docker的虚拟磁盘里,默认是在c盘用户名的appdata里的dockers文件夹里,试了下连不上sd,不知道什么原因
@dandelionsdontfly6422
@dandelionsdontfly6422 2 месяца назад
Llama3使用本地satble-diffusion有什么用?一般本地有SD我也可以直接运行啊,Llama3里面运行有什么效果?
@54shanghairen
@54shanghairen 2 месяца назад
昨天就已经通过ollama部署好了,回答问题默认都是英语,只有要求它用中文回复才行。而且问他金庸写过哪些小说,答案尽然有红楼梦和三国演义
@donkeykong8792
@donkeykong8792 2 месяца назад
回复快吗? 还是要隔很久
@TangFlos
@TangFlos 2 месяца назад
flirtease也還不錯
@leontang2086
@leontang2086 2 месяца назад
证明很笨
@bg9280
@bg9280 2 месяца назад
我都怀疑它是故意回答错的.
@jiangjiang9130
@jiangjiang9130 2 месяца назад
那就没下载的意义了
@user-nv6js3vs5r
@user-nv6js3vs5r 2 месяца назад
回答信息都是最新的吗?
@macliang2005
@macliang2005 2 месяца назад
太好了,我可以科学上网,全局模式,但是下载模型提示Fail,提供一个70B模型的下载地址吗?谢谢 :)
@FangLiu-ef3sj
@FangLiu-ef3sj 2 месяца назад
請教:使用70B模型對顯卡的最低要求是什麽,我使用TITAN RTX 24GB顯存,機器是雙E5-2699A V4 CPU RAM是128GB 安裝你提供的方法在GPT4ALL裏無法運行70B模型,我需要運行這個大模型請你幫助,先謝了!
@user-pq5gb4op8d
@user-pq5gb4op8d 2 месяца назад
如果下载多个模型。ollama 会影响性能吗?
@shanrenzeri
@shanrenzeri 2 месяца назад
请问下在lm studio上运行的llama3,如何解除限制,让它回答原本不能回答的问题?
@w8406
@w8406 2 месяца назад
能不能分享一下70b的模型
@JukaGanisia
@JukaGanisia 2 месяца назад
想看能支持知识库的部署方法
@lightside5492
@lightside5492 2 месяца назад
最好是深度使用
@user-ie6yf8zu6j
@user-ie6yf8zu6j 2 месяца назад
请问有对应的api吗
@nickwang975
@nickwang975 Месяц назад
需要喂数据训练吗?lla3和gpt4比哪个好
@user-gc9sm9ow4l
@user-gc9sm9ow4l 9 дней назад
您好,请问能不能用Mac电脑演示一次如何安装使用?
@junweizhang-mu4jd
@junweizhang-mu4jd 2 месяца назад
70B本地部署的话,需要什么样硬件配置呢?
@hedu-jh3th
@hedu-jh3th 2 месяца назад
用的是第三种方法😂
@guangxing9010
@guangxing9010 17 дней назад
推荐个好用的梯子
@xihaiyu2970
@xihaiyu2970 2 месяца назад
非常感谢零度解说,太喜欢你的频道了,请问LEONARDO开源吗?😄
@user-dn9pt2vf1d
@user-dn9pt2vf1d 2 месяца назад
请问,如何我想微调模型,我需要怎么准备数据,训练方式是怎么样呢
@jinyuli1022
@jinyuli1022 2 месяца назад
感谢零度!怎么本地微调可以讲一下吗?本地的数据集,例如产品手册、话术库等,另外针对报价表之类可能随时更新的文件有没有比微调效率更高的方式?
@VincentCheng1658
@VincentCheng1658 Месяц назад
+1 也需要這個功能,也就是透過微調建立自訂定的知識庫
@janabortagdir216
@janabortagdir216 2 месяца назад
问一下你们的Llama3 是不是鸡兔同笼问题解出来都是错的?
@user-hr1ql3si3b
@user-hr1ql3si3b 2 месяца назад
有docker版本吗?
@user-pu3zv6zz9e
@user-pu3zv6zz9e Месяц назад
零度你好,请教一下这些本地运行的平台立面下载的模型文件可以共享吗?否则太消耗硬盘空间了
@TheBear0116
@TheBear0116 2 месяца назад
請問用IDM下載不了影片 ,有其他管道下載嗎? 有爬文 好像是新增了DRM 求解 謝謝(是要下載某個平台的影片)
@user-vu3nq9hx2s
@user-vu3nq9hx2s 2 месяца назад
硬件需要哪些要求?
@user-eh3ug5nl2p
@user-eh3ug5nl2p 2 месяца назад
我看到這個東西 想到說 有沒有可能用語音轉文字 > 傳輸給lm studio > 生成的回應 > 傳輸給gpt-sovits > 自動生成人聲 短語音的話 應該不到10秒就可以收到回覆了 這樣只要調校好 就可以跟喜歡的角色說話了 可惜我完全不知道從何下手把這個整合起來
@HuiYin-yz3vt
@HuiYin-yz3vt 2 месяца назад
本地布署后,如何用程序调用它的接口
@user-gs5io2vc4f
@user-gs5io2vc4f Месяц назад
这个大模型可以分析文件吗?
@fusooadsssfefefef
@fusooadsssfefefef 2 месяца назад
4090😮
@nickchen5303
@nickchen5303 2 месяца назад
可以在amd的显卡上面跑吗?
@yun-chenyen2834
@yun-chenyen2834 2 месяца назад
比較好奇,個人或學術開源就算了,為什麼那麼多企業也開源用那麼多成本訓練的AI模型?這背後有甚麼商業邏輯嗎?
@garydeng4048
@garydeng4048 2 месяца назад
70B 的占用内存太高了,我的显卡是4060TI,都运行不了。
@samero520
@samero520 2 месяца назад
最后那个dock部署的方法,后面选择模型完全跟博主演示的不一样,博主的可以直接点击下载模型,还能查看模型,我自己的模型只能填写,填了好几次都不行,要么没有授权,要么连不上,没有下载模型的选项。。。。怀疑博主用的是特供版。。。
@tonyzheng7943
@tonyzheng7943 2 месяца назад
第三种安装成功,2️⃣字跳
@larrywen4743
@larrywen4743 2 месяца назад
用第一种方法的时候,下载Llama 3 模型会一直卡在那边 好奇怪
@pandahot586
@pandahot586 2 месяца назад
熟悉的搭好
@user-go4hz1te9o
@user-go4hz1te9o 2 месяца назад
零度博客是用什么搭建的
@zisu-lt6uq
@zisu-lt6uq 2 месяца назад
请问什么时候能够分享模型包呢,大陆地区收不到网页,根本无法下载
@xiyin999
@xiyin999 2 месяца назад
已经开了全局,docker的镜像文件还是不能下载,请问怎么解决?
@junhu2388
@junhu2388 2 месяца назад
视频中的下载软件是什么名字,很有意思。
Далее
🎙️А не СПЕТЬ ли мне ПЕСНЮ?
3:12:39
😮Новый ДИРЕКТОР Apple🍏
0:29
Просмотров 26 тыс.
Красиво, но телефон жаль
0:32
Просмотров 762 тыс.