솔트룩스라는 업체에 대해 잘 몰랐는데, 대표님이 대단한 분이셨네요. 정말 똑똑하신 듯.. MS가 ChatGPT에 100억 달러 투자한대서 '저런 것도 있구나, 알파고 같은 건가?' 했는데 덕분에 AI의 역사와 현황, 미래 등등 많은 걸 배웠습니다. 인공지능학회에 가서나 들을 수 있는 전문강연을 방에서 공짜로 들었네요. 100년 전 카잘의 끈질긴 노력과 튜링의 열정이 100년 후 후손들의 삶을 바꿔 놓았듯이.. 저도 아이들과 매년 나무 한그루씩이라도 심어야 겠습니다. 솔트룩스.. 세계적인 기업이 되길 빕니다~!!
주식투자 안할거면 모르겠지만 투자 계속할거면 단타치지 마시고 주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음) 주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요 시간나면 한번 둘러보는것도 괜찮을 듯 광고 아니니 오해 없으시길..
ChatGPT의 원리는 기본적으로 베이지안 추론 엔진에 기반한 것이며 이는 미사일이 전투기를 요격할 때 쓰는 칼만 필터와 같은 원리, 확률적 학습을 의미한다. 그 사실은 언어 학습이 에드워드 파이겐바움의 다소 원시적인 추론 엔진에서 드디어 오늘날의 더 활성화된 추론 엔진의 개발로 이어진 것이며 한편으로는 롯피 자데의 제어이론의 근간을 이루는 퍼지 이론과도 밀접한 연관이 있다. 퍼지로직은 요즘 아예 얘기조차 안 하지만 이미 카메라의 떨림 방지, 전기밥솥 등 각종 전자제어 시스템을 통해 상용화된 바 있으며 잘 모르는 사람들은 하나의 유행, fad에 지나지 않는다고 보기 십상이나 실은 위의 베이지안 통계학, 그리고 칼만 필터 등을 다 포섭하는 중요한 학문이다. 0과 1의 이진법 디지털 시스템에서 퍼지로직은 바운더리가 불분명한 퍼지 카테고리, 언어의 낱말 등을 다루는 데에 있어서 반드시 필요한 학문인 것이다. 솔트룩스 이 대표의 설명을 가만히 잘 들으면 구글이 2017년 NIPS에서 발표한 "Attention Is All You Need (필요한 것은 단지 '집중일 뿐')" 논문이 결국은 퍼지이론의 연장선상이라는 것을 보게 된다. 문제는 요즘 '퍼지'라는 표현 자체가 그동안 타부시 되어 왔다는 것인데 UC Berkeley 전자공학과의 자데 박사는 제어이론의 최고 전문가로서 그의 연구는 언어학, 수학 (특히 통계학), 제어이론 등 매우 학제적인 중요성을 띄고 있으며 결국 현대 언어학의 궁극적인 목적이라 할 수 있는 사람이 생각하는 방식을 수학적으로 표현한 것이다. 내용 중에 나오는 개념화, conceptualization은 결국 언어학에서의 '특질분석(Distinctive Feature Analysis)' 및 '종합(Distinctive Feature Synthesis)'에 해당하며 80년대 초 미국 정부가 MIT의 에드워드 파이겐바움 박사 팀에 수십억 달러의 연구비를 지원하던 당시의 원시적인 언어 추론 엔진 (language inference engine)과는 엄청난 차이를 보여 주고 있는 것이다. 당시만 해도 구문 분석과 의미론 간의 분석 면에서 애를 먹고 있었으며 늘 AI에서 잘 나오는 에피소드 중 하나가 "Time flies like an arrow" (시간은 [쏜] 살 같이 빠르다...를 의미하는지 'Time-Flies'라는 특정 종에 속하는 '파리'들이 어느 특정한 하나의 화살을 좋아 한다는 얘기인지)의 의미 규명을 못하던 시절이다. 그게 이제는 적당한 입력을 통해 적절한 말의 학습이 가능해진 것이며 이는 한편으로 스티브 크래션의 Maximum Input Theory라는 언어 습득이론과도 어느 정도 일맥상통한다. (이제는 거기서 탈피하여 다른 학습이론을 내놓고 있다). 크래션의 이론이나 위의 Chat GPT 추론 엔진에서나 왜 최다의 입력이 최고로 이상적이지 않은지는 전자통신 이론을 아는 사람의 경우 '노이즈' 문제와 직결되는 것을 알 수 있다. 어느 정도 '임계질량'을 초과하면 더 이상의 인풋은 필요 없고 오히려 바람직하지 못한 것이며 이를 이해하기 위해서는 칼만 필터가 일정한 학습 시간 후 그 다음부터는 기 학습한 수학적 '경험치'에 의해 타겟 전투기의 비행 경로를 알아 맞추는 것과 같다. 이러한 퍼지로직과 베이지안 통계학, 컨트롤 이론, 그리고 언어 추론 등의 관계를 가장 적절히 설명해 놓은 책으로는 USC의 바트 코스코 (수학교수로서 후에 변호사가 됨)의 'Introduction to Fuzzy Logic (1993년 작)'이라는 입문서가 일반인들을 위해 가장 잘 쓴 책이라 본다. 중요하게, 기본적으로 '줄거리 파악'이 완료되면 '엔진'이 풀 가동되어 계속 배워 가면서 그 새로운 학습효과를 아우르는 가운데 기 학습한 '지식'을 기반으로 계속 fine tuning해 나간다는 데에 이러한 AI 기술이 결국 휴리스틱스 (학습형 발견법)에 기반함을 알 수 있다. 이를 통해 어린 아이들의 '모국어(첫 언어)' 습득이 모방에 의한 것이 아님을 재확인하게 되며 '언어학적 탐정 (linguistic detective)'으로서 신생아 시절, 아니 태 중에 있을 때부터 많은 데이타를 수집하고 그에 대한 자연적인 그물망을 아기들의 뇌가 쌓아 가고 있다는 것을 관측하게 된다. 병리학자이자 신경조직학자 "산티아고 라몬 이 카할"이 처음 관측했다는 뇌의 시냅스 간의 '특정 패턴'은 neural net (뉴럴 네트: 뇌 신경망)이며 거기서 더 짙게 나타나는 그물망은 그 '교량' 상의 교통량 흐름을 나타낸다. 그 교통의 흐름이 더 활발할수록 그 신경망 도로는 골이 깊어지게 되며 더 원활한 교신을 의미하게 된다. 급기야는 한참 멀리 동떨어진 데이타 포인트 간에 새로운 '우회도로'가 자연적으로 형성되어 이른바 전기적 '합선 현상(short circuit)'이 발생, 영어로 'short cut'이라 하는 샛길, 지름길이 생기는 법이다. 이는 사람의 뇌에서도 그러하고 컴퓨터를 이용한 전자 신경망에서도 그러하다. 결국 생각을 많이 하면 할수록 연산에 걸리는 시간이 단축되며 머리 좋은 사람은 생각을 많이 하는 사람, 더 원활하게 두뇌가 돌아가는 '훈련'을 한 사람인 것이다. 이를 의학계에서는 두뇌 활동이 더 원활한 사람의 두뇌 에너지 소모량, 곧 포도당 소모량이 '양전자 방사 단층 촬영(PET scan ["positron emission tomography"])'를 통해 덜 원활한 사람에 비해 훨씬 '적다는 사실'을 알고 있다. 소위 튜링 엔진계에 속하는 '생각하는 추론 엔진'이 엄청난 데이타의 입력 및 비트코인 채굴기의 경우처럼 많은 전력을 소모한다고 나온다는 사실은 조만간에 엔진의 '마력'이 증가함에 따라 그에 반비례해서 전력 소모량이 급감하게 될 것이며 이 기술이 현재 유아기, 즉 걸음마 시절에 머물러 있음을 뜻한다 (it is still at its 'infancy'). 언어학의 목표가 사람의 '마음과 정신(mind and heart / heart and mind)'의 이론적 '기술(記術)', 그 묘사(description)에 있드시 조만간 이 기계적 메타포어(은유)도 더 우아하게 다듬어 질 것으로 예상되며 그 때 가면 어느 정도 스스로 감정을 느끼는 휴머노이드의 출현도 예상할 수 있다고 본다. 그 역시 처음에는 어린 아이나 원시적 존재에 불과할 것이며 많은 윤리적, 보안 이슈가 있게 될 것인 바 법체계 정비가 필요할 것으로 예상한다. 프라하에서
@@tigermsk1 주식투자 안할거면 모르겠지만 투자 계속할거라면 주식으로 10만원에서 30억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음) 주식투자를 어떻게 해야만 하는지 그야말로 주식의정석을 보여주고있더군요. 아마 은둔고수로 추정이되는데요 광고 아니니 오해없으시길..
35:21 nlp를 기술적인 설명보다 '사랑이 뭐냐를 개념화하게 되면 사랑을 했었던 섬세한 느낌들은 희소화된다는' 비유적인 표현으로 말해주시니 아이러니하게도 더 쉽게 이해가 됩니다! 감사합니다. 그리고 전지전능하다고 생각했던 컴퓨터도 개념화과정에서 아직은 잃는 것이 있다는 점과 그 과정에서 인간이 개입을 해줘야 한다는게 인간으로서 다행이라는 생각이 드네요ㅎㅎ
일목요연하게 잘 정리해줘서 감사합니다. 그런데 시연한 것 중에서 Mary의 성별에 대한 정보 부분은 진짜로 정보가 없어서 ChatGPT가 대답을 못한 게 맞습니다. 성별을 알 수 있는 사람은 Tony의 wife와 Jena의 어머니 그리고 Mary의 father입니다. Mary가 딸인지 아들인지, 손녀인지 손자인지 같은 성별 정보가 없어요. 그래서 Mary의 gender를 결정할 정보가 부족하다고 한거였네요
챗GPT보면서 정말 비즈니스를 위해 때론 과감해 져야 한다는 진리를 뼈져리게 느꼈습니다. 구글이 이 분야에 당연히 돈도 더 많이 들였고 기술도 더 우위라고 하는데 두려움과 조심성 탓에 챗GPT에 밀렸다는 말이 있더군요. 이제와서 내부적으로 코드레드 발동하고 난리를 친다는데.... 조심성도 좋은데 그 조심성 덕에 어쨋든 선두를 날려먹은 셈이니 투자자들 입장에선 복창이 터질 노릇일 겁니다.
