NVIDIA가 AI 시대를 얼마나 잘 준비했는지 짐작되는 기술... GPU 간, CPU-GPU 간 빠르게 통신할 수 있는 NVLINK 4.0 (feat. CXL, PAM4) 

고맙습니다. 매일 콘텐츠 기다리게되네요.

6:54 PCIe 6.0은 PAM4 Signal을 사용합니다. 애초에 PCIe5.0 spec이 예정보다 늦게 제정된 이유도 5.0부터 PAM4를 쓸지 아니면 마지막 NRZ로 쓸지에 대한 논의때문인거죠. 물론 아직 상용 PCIe 6.0제품이 없기때문에 그렇게 말씀하신거 같지만 정확히 따지자면 PCIe보다 먼저 사용했다라고 하는게 맞겠네요

잘보고 있습니다 공학님 👍

감사합니다 잘 들었습니다~

감사드립니다

잘 보고 갑니다.

NVLINK에 대해서 궁금했는데 잘 들었습니다. 감사합니다

감사합니다

NVLink를 가장 잘 설명한 콘텐츠네요. 감사합니다.

진짜 전문적인 내용...

너무너무 잘 보고 잘 배우고 있습니다. 에러님 이효석채널에서 강의 하시는 것도 좀전에 봤는데요 데이터센터 열관리 중에서 액침냉각에 무척 관심이 많습니다. 한국에서는 sk와 삼성에서 쓴다고 하던데 북미 또는 글로벌에서 어떤 회사들이 액침냉각시스템을 만들고 그 분야에서 최고들인지 알고 싶어요. 최고의 회사들을 알아보는 능력은 저희같은 일반인은 불가능인 것 같습니다.

애러, 이 분은 천재인 것 같네요.

게임때문에 개발한게 이렇게 쓰일줄이야 엔비디아도 깜놀했을듯

엔비디아 깊게 파도 드는 거 많이 만들어 주세오

혹시 cuda도 다뤄주실 수 있나요? 요즘 ai는 사실상 쿠다코어 필수 인것 같은데 비전공자여서 글은 읽어도 감이 잘 안오네요…

CXL이 흥미로워 보이는데 CXL 자세히 다뤄주심 감사할 듯 합니다. CXL 기술로 GPU 메모리를 더 확장한다 하면, 인텔이든 AMD든 각 사의 CPU가 CXL 규격으로 통신해야 하니까 서로 상부상조 하면 좋겠으요.

참고로 현재 나와있는 RTX GPU중에 NVLink지원되는 GPU는 A5000이상 모델만 됩니다. 이 NVLink가 지원되는 GPU는 추가로 꼿으면 선형적으로 성능이 올라갑니다. 공돌이들은 모르는 문과 출신 컴터쟁이가 한마디 하고 갑니다.

이야 이걸 또 해내네

예전 SLI기술을 발전시킨 것이군요

cxl기술과 nvlink의 차이점이 뭔가요? ㅜㅜ

이정도면 외계 공학이네 와...

테슬라 차세대 도조서버..랑 비슷하네요. 따라한거 같기도 하고..무튼 너무 멋진 설계잊니다

천재세요?

엔비디아는 어디까지 갈것인가?

시모스에 하던 하드 레이드를 GPU레이드로

이형 소식 진짜 빨라 랩틸리안이야 형 ?

그냥 이정도면 메타 , 엔비디아 , 마소 , 오픈 AI 기업 회장들은 AI가 만들어낸 초인류 아닐까

ㄹㅇ 옜날에 엔비디아 주식을 살껄 하는 후회가 듭니다.

시스템 연구하는 사람인데, 이 분 왜케 잘 알지...? 아키텍쳐나 시스템 관련자이신가?😅

링크 모듈레이션이 마치 광통신을 이용하는것 같군요. PAM4로 QSFP-DD에서 이미 상용화되어서 많이 사용하고 있습니다. 딱히 NVLINk라는것이 새로운것 같아 보이지 않아 보입니다. 이미 상용화된 광통신 모듈 테크닉을 보드에 구현한 정도로 보입니다.

cpu를 졸라게 많이 만들어서 장착하면 졸라게 비싸지겠죠;;

900gb/s이면 CPU의 L1 캐시 속도랑 비슷하네

그냥 SLI?

무슨소리인지.결국 엔비디아주가는 계속 날라간다는거겠죠?😅

당연히 렙틸리언아님?

나온지 5년된 뒷북

개념적인 소개만 하다보니 필요한 내용들은 많이 없네요 ㅠ 컴퓨팅 엔지니어링 전공은 아니지만 딥러닝에서 패럴 gpu사용을 하다 조금씩 공부하기는 하는데 gpu 연산 값을 모은다거나 서로 참고한다거나 할 때 결국엔 cpu가 연산을 한다거나 아니면 일종의 mother gpu(보통 0번 gpu)가 그런일을 한다던가 할텐데 단순히 통신이 잘되게 했다라는게 어떤 필요에 의한 부분인지는 모르겠네요... 채널의 타겟팅을 잘 하셔야할 듯 ㅠ

마지막에 소리 좀 안 질렀으면

pam4 아이다이어그램 폼미쳤다 3진법 보다 보법 찢은 응디비아 클라스

可以安排見面嗎

4000번대 시리즈나왔을때 4090말고 쓰레기라고 거품물던 PC게임머들... 결국 엔비디아는 너희는 안중에도 없었어....ㅋㅋㅋㅋㅋㅋ개큰그림 그리고있었던 엔비디아

기본적인 정성적 분석에 대한 내용인데 정량적 기준에 대한 정보는 전혀 없군요. 몇십년전에 일반 메모리의 속도는 그야말로 처참했지요. SRAM에 비하면요. 그런 부분에 정량적 비교는 전혀 없네요? 900MB/ s가 빠르긴 하지만 1st 나 2nd cache memory에 비하면 아예 비교대상이 안됩니다. 단순이 빠르다가 아니라 전체 성능에 미치는 영향이 중요하겠죠. AI에 비해 정말 간단한 수준인 게임 fps 만 보더라도 메모리 속도나 pci-express 속도가 어느정도 고해상도 게임에선 아무런 영향을 미치지 않는데 그런 부분과 비교해서 NV-link의 900mb/s의 속도가 실제 AI 연산 성능에 어느정도 영향을 끼칠까요? 이건 '절대' 비아냥이 아닙니다. 정말 궁금해서 여쭤보는거에요. 일반적으로 커뮤니케이션 속도 향상이 비약적인 성능 향상으로 이어진 경우는 극초반 게임 그래픽 시장 이외엔 없었으니깐요.

아...근데 너무 꼭지임...실적발표 후 떡락 예약

nvlink는 원래 있던거에요…

감사합니다