🔥 [라이브 Q&A] Open Ko(한국어) LLM 리더보드 최장기간 1위 모델 개발하신 이승유님과

Подписаться 22 тыс.

Просмотров 4,9 тыс.

50% 1

💻 자료
발표자료(PDF): www.dropbox.com/scl/fi/kfgmx0...
💻 코드
github.com/DopeorNope-Lee/Eas...
🙇‍♂️ 이승유님 이력
- 기사: www.aitimes.com/news/articleV...
- Open Ko llm leaderboard 최장기간 1위 모델 개발
- Open llm leaderboard 1위 모델 개발(최초 다른 아키텍쳐 기반의 MOE 방법론)
- 마커 AI LLM 연구원
- 한국부동산원 주택가격 예측 연구
- 메디컬, 3D 비전 연구 3년 SCI/SCIE paper 주저자 공저자
- 전북대학교병원-포스텍 공동연구 코디네이터 진행 중
- 허깅페이스 peft 라이브러리 contributor
✅ 세미나내용
- llm 및 생성모델의 개요
- llm 파인튜닝 방법론
- 딥러닝을 효과적으로 다루는 방법
- 딥러닝 관련 Q&A
⏰ 일정: 2024년 6월 12일 (수) 오후 9시
🤖 디스코드 채널
/ discord
📘 랭체인 튜토리얼 무료 전자책(wikidocs)
wikidocs.net/book/14314
✅ 랭체인 한국어 튜토리얼 코드저장소(GitHub)
github.com/teddylee777/langch...
#테디노트 #rag
---
🔥 랭체인 강의 "RAG 비법노트": fastcampus.co.kr/data_online_...
📘 랭체인 한국어 튜토리얼(무료 전자책): wikidocs.net/book/14314
📝 테디노트(깃헙 블로그) : teddylee777.github.io
💻 GitHub 소스코드 저장소: github.com/teddylee777

Наука

Опубликовано:

11 июн 2024

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист

Посмотреть позже

Комментарии : 32

@hanschoi20 12 дней назад

1. LLM 16:43 기존의 sequence를 다루는 모델 : RNN, LSTM, GRU 17:42 Attention RNN 18:19 : Attention is All You Need (구글논문) - 번역 Task에서 SOTA달성 - Transformer 19:06: Transformer의 응용 20:31: Encoder & Decoder? 21:23: 생성형 AI란? - 개념 22:30 생성형 AI란? - 기존 ML 23:18: Auto Encoder Model , Masked LM (MLM) - 디코더의 멀티 해드 어탠션: 미래에 있는 정보를 참조하지 않고 현재의 상태를 가지고 그 다음을 예측하는데 적합 (27:12) - 디코더만 사용하는 LLM의 범용성에 도움 27:37 Scalability: Parameter가 커질수록, 성능 향상 2. Fine-tuning 28:35 Fine-tuning: LoRA, IA3 31:54 LoRA

@teddynote 12 дней назад

👍👍

@user-bx4sh1ow5x 13 дней назад

AI 입문한 지 한 달 되었는데 회사에서 AI하는 사람이 저 밖에 없어서 테디님이나 승유님 같은 분들꼐 많은 도움 받습니다ㅎㅎ

@teddynote 13 дней назад

좋은 말씀 감사합니다! 앞으로도 도움이 되는 콘텐츠 만들어 보겠습니다. 디스코드나 카톡방에 오시면 많은 분들과 소통하면서 어려운 문제에 대한 고민을 같이 해결해 보실 수 있습니다^^

@johnjang8447 14 дней назад

Why not change the world 멋지십니다 선배님

@teddynote 14 дней назад

👍👍👍

@herry7200 12 дней назад

반쯤 듣고있는 중인데 너무 좋은강의입니다. 감사합니다.

@teddynote 12 дней назад

감사합니다~🙏🙏

@changheecho857 10 дней назад

귀중한 강의 정말 감사합니다.

@teddynote 10 дней назад

감사합니다!!

@JamesLee99527 13 дней назад

설명이 간결하고 좋습니다! 트랜스포머까지 직접 구현해보고 버트랑 지피티는 뭐가 달라 정도는 알고 있었는데 그걸 또 그림과 예시로 설명해주시네요! 테디님의 버트에서 질문도 너무 좋았고 답변도 시계열을 하셨어서 그런지 합당한 의견이라고 생각합니다! 멋진 연구자이시네요 이승유님!

@JamesLee99527 13 дней назад

테디님의 질문들이 정말 모두 좋네요!! 질문도 LLM쪽 현황을 잘 알고계시기 때문이 아닌가 싶네요!

@teddynote 13 дней назад

감사합니다. 사전에 질문을 받은 것들이 도움 많이 되었습니다~^^ 이 모든 공은 참여해 주신 분들과 무엇보다도 승유님 덕입니다!

@user-ou5px2rj5q 11 дней назад

영상 올려주셔서 감사해요. 반복청취

@teddynote 11 дней назад

함께 해주셔서 감사합니다.

@plannedhappenstance7594 4 дня назад

파인튜닝 코드 올리셨다는 유튜브 알람 뜨자마자 신나서 들어가서 코드부터 봤습니다^^ 두 가지 궁금한 점이 바로 팍 뜨더라구요. 1. 혹시 eeve모델도 시도해보셨나요? ㅋ 성능 차이가 날지 너무 궁금한데 제 실력에는 하나씩 수정하면서 할려면 몇 일 걸릴거 같아서 먼저 여쭤 봅니다. 2. 그리고 혹시 여기 리턴 기록에 보니까 vram을 13기가 정도 사용한 걸로 보이던데 그럼 3090 한 장만으로도 파인튜닝 할 수 있는 걸로 이해해도 될까요? 베이스모델이나 데이터에 따라 달라지는 것 같긴 하던데 제 데이터로 대략적인 견적을 가늠해 볼 수 있을 것 같아서 여쭤봅니다^^;