삼성의 잃어버린 10년, 결국 터졌다!! 네이버와 삼성이 탄생시킨 기적 마하1의 모든 것

Подписаться 684 тыс.

Просмотров 327 тыс.

50% 1

삼성이 AI 반도체 '마하-1'을 공개했습니다.
4차 산업혁명 시대, 엔비디아의 독주를 멈출 수 있을까요?
- 채널에 가입하여 혜택을 누려보세요.
/ @softdragon
- 인스타그램: / softdragon__
- Chapter
0:00 배경
2:15 마하1의 성능
3:56 마하1의 경쟁우위
5:58 마하1이 해결한 난제
7:55 삼성전자의 전략
- 내용 출처
1. 강해령, “삼성은 AI 추론 칩 '마하 1'을 어떻게 만들까? (1)”, 서울경제, 2024
2. 이동수, 페이스북 포스팅, han.gl/4XLky, 2024 네이버 클라우드 플랫폼, “하이퍼스케일 AI를 위한 데이터센터와 반도체를 만들다”, 2024
3. Se Jung Kwon et al, “Structured Compression by Weight Encryption for Unstructured Pruning and Quantization”, CVF 2020
4. 경계현, 링크드인 포스팅, han.gl/w2Ppx, 2024
5. 강해령, “삼성은 AI 추론 칩 마하1을 어떻게 만들까? (2), 서울경제, 2024
6. 김규철, “삼성전자, HBM과 AI 가속기 ‘마하-1’ 투트랙 전략···AI생태계 확장”, 증권일보, 2024
7. 장형태, “AI 연산 핵심 칩은 ‘GPU’… AI 가속기로 추론하고 이미지 만들어”, 조선일보, 2024
8. 황정수, 박의명, “"5만弗 AI 가속기는 비싸"…삼성전자 '마하1'으로 빅테크 잡는다”, 한국경제, 2024
- BGM
1. Destiny by Amir Marcus
2. Come back alive by Ian Post
3. Pave the Way by Lux Inspira
4. Blinded by AlexGrohl

Наука

Опубликовано:

23 июл 2024

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист

Посмотреть позже

Комментарии : 426

@softdragon 2 месяца назад

한국 반도체 석학들이 추천하는, 초등학생도 쉽게 읽을 수 있는 반도체의 모든 것! 많이... 사주실 거죠...!? ✅교보문고 bit.ly/422KIiQ ✅예스24 bit.ly/4aUQ43x ✅알라딘 bit.ly/48VmkBW

@ronwi333 2 месяца назад

팀이 고생이 많다~

@whitecloud0225 2 месяца назад

그냥 복붙하셨는데요? ㅋㅋㅋ

@user-ld6qo2fp7r 2 месяца назад

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

@-JP-TV 2 месяца назад

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅌ

@user-zx8tv3op3s 2 месяца назад

ㅋㅋㅋㅋㅋㅋㅋ

@user-bl9vw9ov5h 2 месяца назад

국민으로서 자랑스런 삼성을 늘 응윈합니다 ^^

@sepi2469 2 месяца назад

우리나라 기업 화이팅입니다!

@user-oz5rl2eu4b 2 месяца назад

@SherlynFluhmann너나해

@user-ux8jt2ni3e 2 месяца назад

한국인으로서 꼭 성공 하기를 빕니다

@user-qf9hs6uu8f 2 месяца назад

출시되기전에 폐기될 제품,

@kiva9583 2 месяца назад

삼성의 도전 성공하길 빕니다

@user-xj3up1vz2l 2 месяца назад

삼성전자 대한민국 기업으로써 항상 응원합니다.

@user-ew7uv8eb1s 2 месяца назад

이거 참고하셧던 유튜버분(SOD님이 댓글 단 분) 까지 봤었는데 여기서 말하는 pruning은 언제 적용되는건가요? 이미 embedded 혹은 edge device에서 동작하는 ai 를 구현하기위한 대표적인 기법이 quantization(양자화) + pruning이거든요 여기서 나온 pruning은이랑 차이를 모르겠어서...

@user-st4oe7uj1b 2 месяца назад

제발 잘되자 한국!!

@user-wf2xr4jr8k 2 месяца назад

잘 보겠습니다.

@user-xp3jx8xv5v 2 месяца назад

우리나라 삼성 응원하고 있습니다

@kwony4115 2 месяца назад

이번엔 제발 언플이 아니라 진짜 판을 뒤집을 카드가 되길..

@doog9601 2 месяца назад

솔직히 말하면 마하1로는 절대 판 못 뒤집어요 ㅜㅜ

@doog9601 2 месяца назад

@@benjaminbarrymore NPU 쪽에서 일하고 있는 사람이구요. 마하1 설계하던 사람들한테 들은 내용을 토대로 말씀드리는 겁니다. 분발해서 차후로는 좋은 결과 있으면 좋겠네요.

@doog9601 2 месяца назад

@@benjaminbarrymore 공학에 있어 언제나 평가는 냉정히 해야합니다.

@user-vu4qe5im5q 2 месяца назад

정신승리 하겠다는데 왜 그럼

@jay-lm7kj 2 месяца назад

@@benjaminbarrymore 매정하게 얘리해야 발전하죠

@michaeljr.6218 2 месяца назад

삼성전자 흥해라~!!

@donghochoi8158 2 месяца назад

제가 알기로 pruning은 딥러닝 알고리즘 차원에서 이루어진다고 알고 있었는데, 하드웨어 레벨에서의 pruning은 어떻게 하는 것인가요? 이미 바이너리로 올라간 코드의 일부에서 param 경량화는 불가능할 것이고, 마하-1 독자적인 하드웨어 가속 용 소프트웨어를 같이 출시하는 것인가요?

@kanonk8093 2 месяца назад

기대합니다 파이팅!

@uandikk82 2 месяца назад

집근방식이 좋네요. 상대방의 단점을 주무기로 삼는다라. 그리고 인공지능은 수단이되어야지 결과를 가져다주는게 아니다라는 것을 인지했으면 하네요

@user-tp7fd3xu5e 2 месяца назад

머리 맞은 기분입니다 ㅋㅋ 하도 인공지능 인공지능해서 착각에 빠졌네

@user-yy4sk6wz2d 2 месяца назад

좋은 소식 기대하겠습니다. 우리 기업을 우리가 밀어줘야죠.

@user-du3qb5it1p 2 месяца назад

삼성이 곧 대한민국입니다 부디 크게성공하여 세계속에 우뚝서는 대한민국이 될수있기를 간절히 기원합니다

@user-oz5rl2eu4b 2 месяца назад

동감임.

@user-tm2cu2ng4b 2 месяца назад

그게 문제임 대한민국엔 삼성밖에 앖는....

@user-tx5qf3dq8g 2 месяца назад

@@user-tm2cu2ng4b완전 완전 완전 동감합니다 대한민국 삼성 밖에 없는, ~~

@user-jv3bc7pt3z 2 месяца назад

삼성이 솔직히 망해야 대한민국이 산다고봅니다

@sonisan2682 2 месяца назад

@@user-tm2cu2ng4b 하이닉스, LG, 한화, 기타 등등 죠온나 많은데

@My.love_minjang_aespa 2 месяца назад

삼성 화이팅 응원합니다

@user-yv4rd7ht6o 2 месяца назад

삼성전자의 건승을 기원합니다. 더 이상 중국에 간섭받아서도, 국내 친중 세력에 흔들려서도 아니됩니다. 응원합니다. 이재용 회장 화이팅. 국민연금에 빨대 꽃혀서 경영권 흔들리지만 않으면 승산 있습니다.

@user-ej3uo4kv3d 2 месяца назад

삼성전자 고맙습니다 가슴이 뭉클합니다

@user-zc5ms8kd5v 2 месяца назад

삼성전자 꼭 대박 성공하길 바란다 가즈아~~~!!!

@UGiant 2 месяца назад

응원합니다 우리나라기업

@user-xe3zx4wu2m 2 месяца назад

반가운소식이네요

@user-br5uk7qg7i 2 месяца назад

소프트웨어가 경쟁력임. 엔비디아가 성공한건 바로 소프트웨어 덕분... 삼성전자는 소프트웨어에 가장 많이 투자해야함

@Dohan06 2 месяца назад

??? : samsung girl

@user-ti7cm1vq6c 2 месяца назад

도대체 어떤 소프트웨어????

@user-ls2oq6yf5y 2 месяца назад

하드웨어 발전은 느려서 다 또이또이한거 같은데 소프트웨어 많이 차이나는듯

@gregory000 2 месяца назад

엔비디아가?? 뭔 소프트웨어요 -_- 리눅스 지원 잘 하는거? 다 윈도운데 뭔

@changhoshin5891 2 месяца назад

쿠다.. 현실적으로 마하1은 공짜로 줘도 총비용 개념으로 접근하면 엔비디아보다 비쌈. 마하1은 실패작임

@user-jt8xh2ir5d 2 месяца назад

봄이 왔네요라는 말이 이말인가

@user-ht1re3iq9b 2 месяца назад

좋은 내용의 영상이었습니다. 응원합니다. SOD.

@jg0902lee 2 месяца назад

dram시장에서 일본업체들이 서버컴 dram에 집중할때 삼성은 개인용dram을 공략했죠. 예전 fpga 좀 큰 로직을 486에 컴파일할때 하루종일이지만 그거보다 10배큰 로직도 현재 pc기반에서 몇십분이면됩니다. 삼성의 전략이 또 먹힐지? 기대됩니다.

@user-zp8tu2ue5i 2 месяца назад

간만에 가슴 두근거리는 소식이네요

@user-rz2wo6jg1w 2 месяца назад

우리나라가 혁신적으로 발전되게 해주셔서 감사드립니다.

@담낭이 2 месяца назад

마하1은 기존의 리벨리온 같은 국내 스타트업이 노리는 시장과 겹치는 건 아닌가요?

@jindal-tube 2 месяца назад

이 기술 미쳤다...! 진짜 중국에만 뺏기지 말자 제발..ㅠㅠ

@user-vv4qp5vm6h 2 месяца назад

탁상공론 마시고, 현재 삼성과 하이닉스는 HBM 쪽이 메인입니다. 삼성이 하이닉스 쫓는 입장이고 양쪽에 장비파는 업체라 ㅎ

@user-vr2vb4th3j 2 месяца назад

좀 소름이 돋네요

@PO70 2 месяца назад

요새 Ai하는 기업들의 전력에 대한 문제가 생긴다는데 그런 면에서 마하1은 최고의 선택지가 될 것 같네요. 그런데 추론으로는 어떤 것을 할 수 있나요?? 요새 GPT도 벌써부터 답답하게 느껴지는게 이거보다 성능이 좋지않은 Ai라면 굳이 사용할까 싶어서요

@Matou-Sakura 2 месяца назад

삼성은 반도체 분야 안에서도 다각화에 성공했고 또 도전하고 성공하고 있다는 점을 높이 평가하고 싶습니다. 메모리에 특화된 하이닉스보다 더 높게 평가하고 싶어요.

@gunmukim9525 2 месяца назад

와 여기서도 댓글 또 보네요 ㅎㅎㅎ 어떻게 올라오는 영상 보는게 동일한지 취향 알고리즘 정확도가 놀랍네요

@Matou-Sakura 2 месяца назад

@@gunmukim9525 방가요~♡

@Matou-Sakura 2 месяца назад

@@gunmukim9525 안냐세여~~꾸벅

@user-bo9by5zc3s 2 месяца назад

오 듣고보니 그러네요

@PRIMITIAE_030 2 месяца назад

그쵸. 여태 여러 도전을 하느라 TSMC를 따라잡지 못한거기도하고요. 그 과정에서 마하1이 나온건데 이게 만약 대박을 친다면 새로운 기술을 또 개발할수 있을거고요.

@user-pt9ho5nf3s 2 месяца назад

삼성 만세~~^^

@유튜브잡것들아책임져 2 месяца назад

더욱 협력하고 강력하게 발전하기를

@user-kt6vp3bk8q 2 месяца назад

잘 되기를 기원합니다. 시스템반도체는 아니지만 자동차 산업에 대량으로 사용되는 전력반도체의 기본이 되는 삼성의 반도체 공장을 IMF때 정부압박으로 페어차일드에 매각당했죠. 그뒤 페어차일드는 온세미에 매각했고 지금 전기자동차에 쓰이는 실리콘카바이트전력소자를 생산하고 있죠. 그외 다양한 콘트롤러 반도체 전력콘트롤 배터리콘트롤 등의 제어 IC도 생산중이죠

@n2027_8 2 месяца назад

네이버와 삼성이 만든건 다들 아는데 사람들 대부분 네이버의 기술이 뭔지 모르는 상황에서 경량화 기술에 네이버 것도 같이 알려주면 좋았으뻔 했네여. 삼성의 암호화 프루닝에만 집중하신듯

@H_H_H_H_H 2 месяца назад

마하1의 성능이 얼마나 될지... 또 AI 추론 부분의 파이가 얼마나 클지... 궁금하네요. 네이버와 손잡은 인텔 얘기도 다뤄주셨으면 좋겠습니다.

@kkkk-rc5di 2 месяца назад

회장님 봄이 온다 반도체 sfa 메모리기대하자패끼징

@CamilleBidan 2 месяца назад

엔비디아가 독주하면서 시장이 좋지 않은 방향으로 흐르고 있는데 여기에 좋은 경쟁자가 등장하면 소비자들과 세계 경제에 좋은 영향을 줍니다 이런 차원에서 삼성 전자와 그 협업 그룹들이 잘되면 정말 좋겠습니다 다만 미래의 진짜 먹거리는 양자컴퓨터라고 봅니다 삼성도 지금부터 장기 전략으로 양자컴퓨팅 개발을 해야하고 Ai 추론 이나 연산도 양자컴퓨팅 방식인 4진 연산과 접목하면 지금보다 훨씬 빠르고 저전력으로 추론 할 수 있는 칩을 개발 할 수 있지 않을까 합니다 아니면 전기가 아닌 광을 이용하는 칩 기술쪽에 투자를 하는 방법도 있고...

@user-vy4ev9tl8z 2 месяца назад

엔비디아 대항하겠다고 엔비디아보다 뛰어나다고 주장하는 하는 칩들이 줄줄이 나오고 있습니다 마하는 그 중 하나일뿐이죠 어떻게 될지는 아직 몰라요

@jameskim6845 2 месяца назад

엔비디아가 범용 개발 툴 이라면 삼성의 타겟은 특정 용도에 최적화된 툴을 개발하는 것이겠네요. 애플이 M1 칩을 내놓으면서 약간의 뉴럴네트워크 회로와 영상에 특화된 몇가지 하드웨어 로직회로를 넣어 자신들의 앱에 최적화시켜 일반 사용자들의 요구에 충분한 성능을 만족하는 컴퓨터를 내놓은 것 처럼.. 잘 만들어서 성공했으면 좋겠습니다.

@user-iu7sb4zb5v 2 месяца назад

삼성이 있어야 대한민국이 있다.

@user-xz5wy1me5p 2 месяца назад

삼성 화이팅!

@heuaha5082 2 месяца назад

오늘 처음으로 지긋지긋하게 보이던 저 책이 사고싶어졌다

@user-bo1bb1oe7r Месяц назад

SOD응원합니다. 젊은 패기 참 좋습니다. 순수한열정이 느껴지고 우리기업을 응원해주니 좋구요. 삼성과 네이버주식 쭉 보유하고 있어야 겠네요

@softdragon Месяц назад

응원 감사합니다.

@user-wi1bl3vj9u 2 месяца назад

제발 ㄱㅈㅇ!!

@IPOIR-xe2gh 26 дней назад

기사에서 다 본 내용인데 새로운게 있나 기대했어요 근데 없네요

@user-jc1ny3to3s 2 месяца назад

경영자를 이공계출신으로 바꿔야 한다고 생각함.

@thc6896 2 месяца назад

이공계출신이면서 MBA전공자..어떤가요

@JWCho-op8xn 2 месяца назад

경영자 말고 대통령을..

@ryankim5289 2 месяца назад

그동안 삼전에서, 최근까지도 수요일이나 개발해서 좋은 성과를 거두지 못하고 실패하고 있는 부분에 대해서는 부정적으로 볼 수밖에 없는데 이 부분은 어떻게 생각하시나요?

@sukyoung 2 месяца назад

SOD가 세분이시면 1일 3영상이 가능하겠구나!

@pop5770 2 месяца назад

확실히 쓸만한 기술이네요. 갤럭시폰에 이 기술이 탑재되면 인공지능이 좀더 쓸만해지겠네요.

@user-dl5ms4zc6t 2 месяца назад

모바일이랑 나중에 팬리스 갤북에 들어가면 아이폰에 대항할만 해지겠네요

@parkthoven 2 месяца назад

삼성전자 지금이라도 사놓아야 하나요~~ㅎㅎ

@user-nb4zn7oi2e 2 месяца назад

달수야 화이팅

@user-zm4wi1up1t 2 месяца назад

삼성의 잃어버린 10년 이야기를 들으며, 삼성에 많이 실망하여 보유하고 있는 주식을 처분하고 싶었는데, 이 영상을 보니 마하1이 성공한다면 삼성의 주가는 다시 한번 날아오를 것 같네요! 주식은 좀 더 갖고 가야겠다는 생각이 드네요. 또한 개인적인 바램은 삼성전자는 둘로 분할 하는 것이 기업 가치를 더 인정 받을 수 있는 좋은 방법이라고 생각합니다.(제 개인적 견해) 반도체를 중심으로 하는 기업 (가칭:삼성반도체)과 스마트폰, 가전 등 반도체 이외의 사업부를 하나로 한 기업 (가칭:삼성전자)으로 분할하여 삼성반도체(가칭)를 나스닥에 상장한다면 지금보다 훨씬 더 높은 기업가치를 인정받을 수 있을 것으로 봅니다.

@user-ws5kb2or2o 11 дней назад

생각의 전환 정말 대단한 삼성전자가 우리나라에 있어서 감개무량합니다...유지비를 줄이는 방법을 반도체로 해결한다 정말 대단한 발상입니다 마하1 기억하겠습니다

@user-gp3wf7rq9u 2 месяца назад

앞으로 큐브 칩으로 이전 할듯

@user-dp5di5hi8f 2 месяца назад

애플과 챗GPT 협업이 완전 미쳤던데

@user-hc6hv8jd9m 2 месяца назад

이런 근거있는 소식은 국뽕 차도 됩니다~ 우리나라 기업들 화이팅~

@yarn75 2 месяца назад

ATi 마하 그래픽카드 생각나는군요. 손정희가 AI 할때에 한번 꼬꾸라지고 다시 올때가 진짜구나 했음.

@bipolarman9246 2 месяца назад

SOD님 언제부터 얼굴을 공개하셨는지, 잘생기셨네요. 앞으로 더욱 더 빠른 전문 IT 정보 부탁드리겠습니다.

@user-nm6lw4mf5k 2 месяца назад

다시 뛰자 대.한.민.국. 화이팅!!!!!!!!!

@tedlee821 2 месяца назад

@3:22 메모리와 GPU 처리량을 1/8로 줄였다는 말이 왜 의미 있는 것일까요? 전력 소모량을 잘못 표현하신것 같기도 한데요...... 아무튼 HBM 같은 빅이슈에도 후발주자로 들어간 삼성전자 답지 못한 행보에 갑갑했었는데 간만에 빅이슈네요.

@Dr.Chamchi 2 месяца назад

현직자입니다. 실력에비해 언플이심합니다.

@user-bo8ct5eb4z Месяц назад

그래도 허풍이 사실이되게 열심히 해주세요 화이팅😊 한잔해 🍻

@dkdxmfmap 2 месяца назад

봄이 왔네요

@tomorrow97. 2 месяца назад

점점 책 광고만 늘어나는 기분 광고도 좋지만 광고 이야기 말고 본래 했던 이야기를 좀더 해줬으면 좋겠네요...

@monster_is 2 месяца назад

책은 그냥 새워두기만 하는게.. 너무 ~~가 추천한! 구입해주세요! 이러니까 별 생각 안들던것도 반감이 생김

@user-cf4ny6uf8w 2 месяца назад

인공지능 칩 전력문제 진짜 심하긴 함

@user-tf8nb8vz4o 21 день назад

엔비디아의 상대가 되긴 힘들거 같긴함 더나은 gpu나 npu를 만들어야되는데 엔비디아가 넘사벽이지. 초전도같은 물질이 개발된다면 모를까 그리고 엔비디아도 놀지않을거임 지금 벌어 들이는 돈이 어마해서 얼마든지 저전력쪽에도 확장할수있으니 힘겨운 싸음이 되지 않을까 싶습니다.

@user-pz9by7dc4e 2 месяца назад

클로바X, 클로바노트 등등등... 네이버.. 잘쓰고 있습니다 :)

@user-jh6pg8nv3g 2 месяца назад

오우야 소름 돋았어

@user-lh7jq8nq5h 2 месяца назад

형 근데 마하1도 지피유인가요? 에이아이 가속칩인데 그럼 혹시 지피유와 메모리간 통신을 가속 시켜주나요

@haae2580 2 месяца назад

고성능 칩 성능을 못 잡는건 확실 시 되고 있었으니.. 최선의 선택을 했다고 생각합니다 방향만 잘 잡으면 반은 성공했다고 하죠 잘 될꺼라 믿습니다

@jaglns2182 2 месяца назад

힘내라 삼성!

@he5909 2 месяца назад

떡상가즈아!!!!!

@user-ft1oe9ti9m Месяц назад

삼성 파이팅입니다.

@Choi-Ja 2 месяца назад

난 용이용이형 믿어용

@teravolta 2 месяца назад

오늘도 입 잘보고 갑니다. 전달하는 지식에 점점 알맹이가 없어요... 수사만 많아진 것이 아쉽습니다

@kdpark35 2 месяца назад

❤❤❤

@user-fu8xv6rz2h 2 месяца назад

두근두근

@user-uv1qj2zt6m 2 месяца назад

현직자로서 응원하고 회사의 방향에 동참하지만 동기부여인 보상이 없다보니 사내 분위기가 바닥입니다.. 보상 체계 조정하고 소통을 통해 임원의 방향에 직원들이 힘을 합칠 수 있는 회사가 되었으면 합니다.

@user-ji4mi1gi3z 2 месяца назад

Ai칩 파운더리는 포기? 리밸리온 같은 회사는..?

@user-uk1pw8pj7e 2 месяца назад

저건 어차피 우리같은 일반인이 다룰 품목이 아니니 걍 llw-dram올해말 양산소식이나 더 나왔으면

@user-jz3gf1jq1p 2 месяца назад

한국기술력 더욱 발전하는건 100퍼 기쁨.

@kwangchipa 2 месяца назад

뭐하자는건지...나도 삼성 잘되기 바라징...근데 이렇게 국뽕으로 주가만 지킨다고 되는게 아님. 요즘 이런 방송들 꽤 많은데 삼성 홍보팀이 참 바쁘게 움직이는듯.

@user-ni3ub2bu7b 2 месяца назад

삼성빠1인이 존나응원한다. 재용이형 가즈아아

@babbitt11 26 дней назад

마하1로 직접 AI칩 사업을 하면서 빅테크 기업의 AI 칩 파운드리 서비스를 한다고요? 아무리 생각해봐도 넌센스입니다. 삼성은 둘 줄 하나만 해야합니다.

@HanSeungKang 2 месяца назад

네이버가 라인 서비스를 일본에 뺏기면 네이버의 AI부문은 앞으로 어떻게 될지도 궁금합니다.

@jesukyang4850 2 месяца назад

과연 정확도 및 원하는 답을 얻을수 있다니 저가로 해결 가능한 AI라니....이걸 기반으로 고성능에 도전은 포기 설마 아니겠지요. 결국 망하는 건가.

@square2754 2 месяца назад

처음에 국뽕 유튜브를 저격하면서 많은 구독자를 확보했던거 같은데, 지금 와서는 국뽕 유튜브와 닮아가는거 같아서 아쉬움 구체적인 설명이 1도 없는게 국뽕 유튜브와 비슷하다 생각함. 적어도 이번 영상에서는 삼성 논문에 대한 요약 + weight only quantization + 엔비디아의 fp4는 무조건 포함되어 있었어야 함 현 상황에 대한 정확한 이해 없이 신제품에 대한 기대감을 말하는 것이 큰 의미가 없다고 느꼈음 + gpu관련 오해 몇 가지 Nvidia 반도체는 그래픽 용이므로 전력소모가 높고 효율이 좋지 않다. - 이미 예전부터 그래픽 관련 요소들은 다 제거했음, 최신 반도체 알고리즘(트랜스포머) 최적화된 반도체가 nvidia 제품임 - 칩 한 개당 전력소모는 크지만 서버 전체 전력 소모는 더 적음. SRAM 기반 npu제조업체들의 예산과 달리 모델 크기는 급격히 증가하였음, 따라서 생성과정에서 메모리 바운드가 매우 증가함 => 현 시점 유일한 해결방안은 hbm 뿐임. Hbm이 없으니 메모리 용량이 적고 필요한 칩 개수가 증가하므로 총 전력소모는 증가함. Groq의 경우 200배 더 전력소모가 많음 (Llama 70b) Gpu는 추론용으로 비효율적이다 - 일부는 맞고 일부는 틀림, 요약 과정에는 강력한 연산성능이 필요하므로 효율적이지만 생성과정은 메모리바운드 이므로 gpu가동율이 떨어짐 -> 근데 이건 모든 반도체에 적용되는 사실임, 결국 중요한건 메모리 바운드를 어떻게 해결하는가 - 이에 대한 해답이 모델을 줄이는 방법이고 nvidia는 fp4를 제시함 - 삼성 + 네이버는 마하1을 해답으로 생각한 것

@ttoss8196 2 месяца назад

인재들이 연구하고 더 노력했으면 좋겠다. 유튜브 같이 그냥 쉽게 먹고 살려는 것 말고.... 땀 흘리고 성과 내는데서 희열을 느꼈으면 좋겠다

@foryou03211 2 месяца назад

유튜버가 성공하기 얼마나 어려운데 쉽게 먹고 산다는 의견은 좀 그렇내요 실수 한번에도 언제 채널 내릴지 모르는 업종인데...

@user-tx9qr7pp2p 2 месяца назад

슬프지만 현실은 삼전은 침몰하는 '배' 입니다... 그 후에 배는 유령선이... 선원들은 유령들이 될거 같아 안타깝습니다

@user-nr7kc1hn9e 2 месяца назад

망한다에 100표. 완성된 영혼도 아니고, 미완성된 영혼을 어떤것을 기준으로 가지치기할까요? 그 불완전한 영혼을 가지치기했는데 신뢰가 가능한가요?ㅎㅎㅎ 누구에게나 시간은 한정되어 있고, 그 시간을 효율적으로 또는 행복하게 유지해서 남보다 뛰어나게 혹은 남보다 행복하게 사는게 인생의 목표인데, ,,,우린 신이 아닌데, 불완전한 영혼을 가지치기 시도하네..AI딥러닝에 대한 해석능력도 없는데...전제로 봤을때는 그냥 망하는 불지옥으로 빠져드네요. ㅠ.ㅠ 슬프다.

@user-ek2uw3gj1w 2 месяца назад

머프야인텔주식은왜않오르니?

@user-kb2nm5hb2v 2 месяца назад

애국자는 아니지만, 아이폰 쓰지말고 삼성 갤럭시 쓰는걸 추천한다. 삼성이 잘되면 코스피, 코스닥이 살아나고 삼성과 관련된 회사들 뿐만 아니라 경기가 살아난다. 외국보다 자국민들에게 더 비싸게 팔아서 역차별을 당하는지에 열받아 했었고 근데 역차별은 인터넷 손품만 팔아도 싸게 살수 있으니 쉽게 해결되는 문제고... 삼성이 망하면 나라가 망한다는 허무맹랑한 소리를 하는지 이해를 못했다. 근데 주식해보니 알겠더라~ 진짜 삼성 망하면 우리나라 망하는 구조더라. 개취는 분명히 있겠지만, 왠만하면 아이폰 보다 갤럭시 써라!!!