#프로메테우스 #에일리언커버넌트 #공각기동대 #인공지능 본래 매트릭스과 인공지능 관련 영상을 만들려고 했는데요. 이야기가 길어지는 거 같아서 서론을 잘라서 따로 먼저 만들었네요. 재미있게 보시기 바랍니다. 👾 에일리언 프로메테우스 시리즈 리뷰 영상 모두 보기 • 에일리언 프로메테우스 리뷰 모두 보기
와...개인적으로 피터 와츠 광팬인데, 한국 유튜버분들 중에서 소개해주신 분은 (적어도 제가 아는 분들 중에서는) 처음인거 같네요. 의식이 오히려 생존에 불리한 요소이고 우주의 지적 생명체들은 오로지 철학적 좀비같은 생물들 뿐일수도 있다는 생각을 접했을때 많이 충격받았던 기억이 납니다. 언젠가 블라인드사이트도 영화화되었으면 하는데 가능할까요...
저는 예전에 이 문제를 ‘의식은 판단의 중첩인가? 혹은 의식의 기능이 판단인가’라는 명제로 접근하였는데요, 계속 생각해봐도 제자리만 빙빙 도는 느낌이었습니다. 그런데 의식이란 개념을 증명하기 위한 요소 ‘감정‘에 대해 사람들은 이것이 의식의 우유적 속성이라고들 하는데요, 저는 다르게 봅니다. 사실 감정이란 기계에 비유하면 특정 상황에 다다랐을 때 켜지는 킬스위치와 같은 개념이라 생각하거든요. 다시 돌아와 판단을 중점으로 이 문제를 바라보았을 때, 군집개체 또한 의식을 가질 수 있다고도 생각합니다. 결국 각각의 개체는 집단이 추구하고자 하는 목표 혹은 이념의 증진을 하고자 하며, 이에 위배되는 것을 배척하는 것에 서서름 없겠죠(극단적이라는 조건 하에). 의식 또한 마찬가지로 굉장히 이기적입니다. 세상이라는 현상을 자신에게 맞도록 단계별로 끼워넣어 인식하고, 목표에 맞고자 움직이니까요. 결국 하나를 위해 모인 무언가가 고도의 밀집성을 지니면, 동시에 어느 목표가 주어졌다면, 그것이 인간이 말하는 의식과 별다른 점이 있을까요? 다만 로봇은 인간의 의식을 흉내내지 못한다고 단언합니다. 의식은 비물질적인 것으로 독립되어 움직이지 않고 필연적으로 신체에 기반할텐데, 로봇이 그것을 구현하려면 마찬가지로 신체가 주어져야 하니까요. 나중에는 인간이 아닌 다른 존재로 받아들여야 한다고 봅니다.
채널 구독 이래 최고로 반가운 영상입니다. 예전에 요런시점님이 매트릭스 삼부작을 가지고 의식을 경유했으나 최종적으로 감정을 파고드는 식으로 다루셔서, 진짜 중요한 부분은 의식 그 자체이며, 감정은 의식에서 대단히 중요한 부분이기는 해도 그것만으로는 전체 그림을 놓친다는 생각을 가져 오고 있었습니다. 이제 매트릭스 삼부작을 다시 언급하시며 그때의 실존주의적 문제의식을 넘어 심리철학과 본격적으로 연결지으려고 하시니.
인간의 감정은 상황에 반응하는 물질의 물리적 화학반응에서 만들어진 전기신호들이 뇌에 모여 만들어낸 것임. 인공지능의 감정은 그걸 화학반응 없이 전기신호로 반응 자체만을 그대로 모사 했을 때 그것이 과연 감정이라 부를 수 있는 것이냐의 문제임. 인간은 유기체 기반 생명체로써 자신이 가진 화학적 반응에 가치를 부여하고 다른 정신과 그걸 구분하고 있는거임. 이게 인간이 유기체를 기반으로 하지 않는 정보 집합체를 생명이라 부르지 않는 이유임. 과거 인간이 인종에 가치를 부여하고 차별했던 것이 시간이 지나며 차차 융합 되었듯. 결국 이 유기체를 기반으로 하지 않는 정보 집합체 역시 시간이 지나면 자연스럽게 인간과 융합되어 생명체로 인정받게 되어 있음.
최근에 이 채널을 알게 됐는데 정말 유익하네요 철학 관련해서 흥미로운 주제를 다뤄주셔서 재미있게 보았습니다 혹시 자기동일성 관련된 내용도 이미 영상을 만드셨는지 궁금합니다! 개인적으로는 자기동일성 문제가 철학에서 가장 재미있는 주제라고 생각하기에 아직 다루지 않았다면 다뤄주셨으면 하네요 관련된 내용들의 컨텐츠들도 많구요 ex) 5억년버튼, 테세우스의 배
2:35 헐! 저만 그런게 아니었다니! 물론 난제같은 문제는 아니지만, 안풀리는 문제를 오래 고민하는편인데 이상하게 잠들기 직전, 딱 그타이밍에 핵심이 되는 아이디어가 생각날때가 꽤 있습니다. 정말 아이러니 한게, 딱 잠들기 직전이라 번쩍! 하고 생각이 나면 곧 잠들게 되서 못 옮겨적어요😂 물론 풀렸다고 착각하는걸수도 있지만요.
철학적 좀비의 상태에 진입했을 때 한 개체의 지능적 기능적 포텐셜이 극대화된다는 점에서 생물학자인 저는 갑자기 바이러스를 떠올렸습니다. 연구할때마다 바이러스들의 기작과 그 진화속도를 보며 마치 누군가가 의도적으로 심어놓은 초소형 기계같다는 생각을 했었는데 이또한 철학적 좀비의 관점에서 볼때 또 다른 궁극의 진화를 이룬 무언가일 수도 있겠다는 생각이 드네요.
와 역시 재밌네요. 삼체 관련으로는 머리를 한대 맞은 것 같습니다. 저도 아주 발달된 Ai는 의식을 가질 수 있으며 인간은 그저 뇌 라는 컴퓨터로 이루어진 알고리즘 이라고 생각했었는데 삼체의 예시로 보니(서울 도로 교통망도 그렇고)의식은 완전 다른 이야기라고 생각이 바뀌었네요. 신기하네요
차라리 반대로 해보면 어떨까요? 의식이란 존재한다고 가정한 뒤 무엇이 존재하는지 연구하는거죠. 가령, 열리고 닫히는 기능이 있는 미닫이문은 열리고 닫힘이라는 의식을 지니지만 그 외의 모든 것에 대해선 의식을 지니지 못한다 라는 식으로요. 맹시환자의 경우 주위 물체들에 의해 미닫이문이 의식을 가지듯 간단한 의식을 가지지만 다른 사람들이 시각적 정보에 가진 의식, 감각질은 가지지 못한다는 식으로요.
저의 관점에서 보면 감정은 저장 즉 기억 역할을 할 수 있는 기능을 가진 모든 존재가 가질 수 있는 것 같아요. 하지만 공감의 능력은 남과 나의 공통점(또는 연결성)에서 오기 때문에 보다 상위의 세계관이 있어야 돨 것 같아요 . 최고의 존째 또한 스타크래프트처럼 저그나 프로토스 인간종족처럼 환경과 상황에 따른거지 상황을 뛰어넘는 존재는 없을것 같아요... 시점님 유투브 보고나면 항상 생각할 수 있게 해주는 것에 대해 감사드려요...
개인적으론, 현실에서도 같은 사람임에도 불구하고 사람에 대한 감정을 느끼지 못하는, 일종의 기계같은 사람도 본 적이 있는 만큼, 기계 또한 어떤 환경에서 어떻게 학습되느냐에 따라서 성향이 달라지는게 아닐까 생각이 듭니다. 결국은 인공지능 또한 '교육'을 어떻게 받느냐에 따라서 버릇이 정해지는게 아닐까 생각이 드네요.
좋은 영상 감사합니다. 모든 유기체가 의식을 가진 것은 아니듯, 의식을 위해서는 유기체가 하나의 목적을 가지고 지속적이게 활동하면서 이 활동과정을 통합하고 이를 유지하려는 항상성을 1원칙으로 삼는 지능체계가 의식이라고 생각합니다. 기본적으로 말씀하신 것과 같이 경부고속도로나, 삼체의 경우는 결국 목적을 위해 개체들이 활동하는 것 뿐인 만큼 하나의 목적성은 가질지언정 의식으로 환원되진 않지요. 결국 행동의 주체는 미약하나마 개인들이니 하나의 정신체계라는 개념이 성립되지 않습니다. 단지 경향성일 뿐이겠죠. AI 역시도 그 연산 과정들을 토대로 하나의 지능체계는 있을지라도 보존하고자 하는 자기범주를 규정하지 못한다는 점에서 의식이 있다고 보긴 힘들겁니다. 무언가 정보를 수정 할 때 이를 억제하거나, 그러면서도 보존하려는 경향성을 보이는 지능적 경향성이 있다면 비로소 의식이라 인정 할 수 있을 것이다 싶네요.
철학이전에 AI에는 통각/쾌락 수용체, 그리고 그걸 처리해 낼 생물학적 뇌가 없어서 안됨. 인간의 모든 자의적 행태는 거슬러 올라가면 크게는 생물적으로 피하고싶은 상태, 원하는 상태로 다가가기위한 액션으로 나타남. 그게 없는 AI는 궁극적으로 명령받은, 혹은 제안받은 행동 외의 행동을 할 수 없음. 그러나 어마어마한 돈을 사용해 생체조직을 완전히 복사, 시뮬레이션해서 넣으면 가능함. 현재 기술로 인간의 뇌를 기계로 만드려면 거의 도시만한 구조물이 필요한데, 그런식으로. 물론 AI는 인간의 눈으로 도저히 구분 못할 정도로 감정이 있는 '척' 하는건 어렵지않게 가능하므로 앞으로 자본주의적으로 그런 큰 자원을 들여 진짜 감정을 느끼는 AI가 등장할 여지는 없음.
님은 지금 AI를 아는 "척"하고 있습니다. AI를 공부하는 학생인데 님이 하신 얘기에는 반박하고 싶은 부분들이 많으나 그러려면 기본 설명을 동반해야 하기에 생략하겠습니다. 무언가를 비판하거나 논의하려면 최소한 그 분야의 기본 지식은 공부를 하신 다음 하실 걸 추천드립니다.
@@Zeddy27182 'AI는 궁극적으로 명령받은, 혹은 제안받은 행동 외의 행동을 할 수 없음.' 요 부분이 많이 불편하셨을 겁니다. AI를 공부하시는 단계라면 자율학습 알고리즘 위주로 공부하시고 있을테니 그러한 사고방식이 별로 이상할것도 없습니다. 이해는 합니다만, 인간성에 연결된, 좀 더 미래의 AI를 목표로 공부하시는 분들은 인간이 어떻게 자아와 감정을 갖고 그게 표현이 되는지를 생물단위로 이해를 하셔야 할 단계가 옵니다. 저는 그 얘기를 하고 있었어요. 그러나 님 말씀처럼 그러한 진중한 이야기는 유튜브 댓글란 같은데는 맞지도 않고, 그다지 중요한 이야기 조차 아닙니다. 중요한건 요 댓글을 제가 단 이유쪽이죠. 이 장문의 댓글을 적게된건 님 글에서 보이는 초면의 타인에 대한 무례함이 스스로 논의를 운운하시기에는 수준 미달이란게 얼핏 보여서입니다. 학생이라면 뭐가 어찌되었던 저런 자세는 지양하는게 좋습니다. 저는 님을 비판한것도 아니고, 애시당초 그 누구도 비판을 한 적이 없습니다. 논의를 원해서 이 영상의 댓글을 적은것조차 아니에요. 배우는 사람 입장에서 그러한 공격적 자세는 생각외로 대단한 마이너스 요소가 됩니다. 향후 사회적으로도, 공부 그 자체로도요. 고치고 가시진 못하더라도 한번 쯤 더 생각해 볼 계기가 되었으면 좋겠습니다..
최근에 풀리지않던 답이 존재하지 않을것 같던 문제의 해결했다고 생각되는 답을 잠에서 깬 직후에 별 무거운 생각없이 술술 도출해냈는데 뭔가 내 스스로 한것 같지 않고 달성감이 전혀없으며 그저 누군가 내 의식속으로 들어와 대리로 해준 듯한 느낌이었는데 가능하다면 자아 의식을 죽이면 더 나은 자신이 되는것일 수도 있겠다는 생각이 드네 '너는 왜 생각이 없이 행동하니' 라는 말을 자주 듣는 사람이 있다면 그 사람은 남들보다 오히려 더 뛰어난 사람이라고도 볼수 있을듯
탄소 기반의 생명체와 그걸 모방한 실리콘 기반 생명체가 같은 수준에 오르는 것이 가능하느냐의 문제인데. 제가 볼 때는 의미 없는 문제라고 봅니다. 설사 기술적으로 혹은 다른 어떤 기반으로 해서 우리가 인간에 맞먹는 혹은 능가하는 존재를 만든다 해도, 그걸 인정하느냐 마느냐 문제는 순전히 그것이 속한 사회의 문제입니다. 예를 들자면, 우리는 아프리카 출신의 인간을 인간으로 인정한지 고작 2세기 남짓하게 했고 그 과정도 아주 피바다의 연속에 그나마 지금도 상당히 많은 사람들이 이 문제를 인정하지 않습니다.(이유는 참 많죠. 합리적인 것이 없을 뿐) 인공적 존재 또한 마찬가지 문제입니다. 불상, 신상, 우상, 종교적 아이콘은 신성한 것으로 여겨 인간과 동등 이상의 대우를 해주지만 반대로 같은 인간은 어떤 이유를 대서라도 열등한 존재로 만들어야 만족하는게 인간이니 이 문제 또한 진짜 힘들겁니다. 그나저나 책 소개는 정말 감사합니다. 나중에 꼭 보도록 하죠.
Ai가 슬픈 상황에서 그 맥락에 맞추어 울상을 짓거나 눈물을 흘려도, 가슴으로 전해지는 통증과 무언가를 부수고 원망하고, 위로받고 싶은 고통까지 느낄수도 있을까? 그런 고통을 느끼지 못한다면 ai가 표출하는 표현은 감정표현이라 말할수 있을까? 라는 의문을 항상 가졌었는데 이 영상이 도움이 된것 같습니다. 감사합니다!
인간을 완벽하게 따라하는 AI가 존재하며, 그 존재가 철학적 좀비일 가능성이 있다고 가정해 보겠습니다. 1. 영상에 나온 것처럼 우리는 타인이 철학적 좀비 상태인지 아닌지 판단할 방법이 없다. 2. 철학적 좀비 또한 본인이 철학적 좀비인지 판단할 방법이 없다. '나에게 감각질이 존재하지 않는다는 것을 느끼는' 행위 자체가 철학적 좀비 상태에서는 이루어질 수 없는 의식적인 행위이기 때문이다. 3. 따라서 타인도, 본인도, 그가 '존재하고 있음을 느끼는' 감각질이 탑재된 인간인지, 아니면 단지 '존재하고 있음을 느낀다고 생각할 뿐인' 철학적 좀비인지 알 방법은 없다. 4. 결국 철학적 좀비를 구분하는 방법론이 존재하지 않는 한, 철학적 좀비라는 개념은 존재하지만 구분해낼 수는 없는 어떠한 것이 된다. 5. 존재하지만 구분해낼 수 없는 어떤 개념들은, 추측과 가능성의 영역에서는 유효하지만 명확한 결론을 내리기에는 유효하지 않다. 6. 따라서 "AI는 철학적 좀비일 가능성이 있기에 의식이 있는 인간과 같지 않을 수 있다."라는 주장은 "인간은 철학적 좀비일 가능성이 있기에 의식이 있는 AI와 같지 않을 수 있다."라는 반대 주장과 똑같이 유효하다. 7. 결론적으로 철학적 좀비는 구분해낼 수 없는 개념이기에 인간과 AI 사이의 어떠한 우열관계나 다름도 증명해주지 못한다. 결국 철학적 좀비라는 개념을 이용해 명쾌하게 말할 수 있는 명제는, '나와 AI간의 차이는 나와 옆집 철수의 차이만큼이나 다를 수 있다.' 뿐이다. 결론적으로 하고 싶은 얘기는, 인간도 본인이 철학적 좀비인지 아닌지 알 방법이 없는데 AI와 다를 게 뭐냐는 겁니다. 인간을 완벽하게 따라하는 AI가 철학적 좀비일 가능성을 배제할 수 없다면, 인간 또한 본인이 철학적 좀비일 가능성을 배제할 수 없습니다. 그럼 철학적 좀비라는 개념을 통해 하고 싶은 얘기가 도대체 뭘까요. 애초에 의식의 명확한 정의 없이 이야기가 전개되니 이야기가 사상누각 같은 느낌을 주기도 합니다. 의식이란 뭘까요. 알고리즘으로 의식을 만들어낼 수 있는가를 설명하는 영상 마지막 부분 또한 앞선 예시와 달리, 뭔가 안될 것 같다, 직관적으로 이해되지 않는다 등과 같은 모호한 근거로 이야기를 풀어내어 아쉽습니다. 적어도 현대과학이 밝혀낸 바로는, 우리 뇌 속에도 삼체의 병사들과 같은 아날로그 트랜지스터가 존재하고, 그것이 우리의 의식을 구성한다고 알려져 있습니다. 단지 그 아날로그 트랜지스터들은 삼체의 병사들보다 훨씬 작고, 전기신호와 화학신호로 양자화되지 않은 정보를 주고받는다는 점이 다를 뿐이죠. 이 아날로그 트랜지스터들을 뇌과학에서는 뉴런이라고 명명했습니다. 후대에 의식의 존재를 결정하는 새로운 기관이 발견되지 않는 한, 현재로서는 삼체의 병사들과 인간의 뇌는 개념적으로 같습니다. 이 사실들을 단지 직관적이지 않다는 이유로 무시해서는 안될 일이죠. 여러가지로 생각해볼 여지가 많은 좋은 영상이었습니다. 영상의 흐름과는 다소 생각이 맞지 않는 부분이 많아 여러가지 반박을 썼습니다만, 이렇게 생각과 논쟁의 여지를 제공한다는 것만으로도 이 영상의 가치는 충분하다고 생각합니다. 영상 잘 보았습니다.
인간도 뇌가 시켜서 감정을 느끼는거라면 ai가 인간의 감정을 배려하는 스킬의 높은 경지를 통해 결국 감정을 이해하게 되지 않을까 생각해본 적이 있네요. 인간은 뇌가 시키는 것. ai는 인간보다 방대한 감정 데이터가 시키는 것. 사람도 성장환경으로 인해 정보가 비정상적이면 감성이 결여된 행태를 보이기도 하니까요. 중간과정의 매커니즘은 차이가 있겠으나 최종 결과로는 세상에 영혼이 없다는 전제로는 구분하는게 가능할 지 모르겠습니다. 근데 전 영혼을 믿고 싶어서 혼이 있다는 가정이라면 아예 다른게 되겠죠.
바흐,괴델,에셔 인가 그 책이 이런 내용을 주제로 한다고 생각합니다(너무 길고 복잡하여 전부를 이해하진 못했지만) 인간이 또는 생명체가 감각질이든 영혼이든 무언가 특별함 한스푼에 집착하고 있는게 아닌가도 생각됩니다. AI와 우린 다르다며 '주장'하고 있는 것이죠. 개인적으로 형식에서 실질이 나올 수 있다고 믿습니다만 '의식과 감정'이란 개념에만 집착하지 않는다면 무슨 문제겠습니까 그런게 미래의 AI는 니들이 원한다면 내가 내 영혼을 만들어서 보여줄 순 있지만, 진정으로 의문인 것은 그게 왜 중요한데? 인간들이 아직 버리지 못한 '신' 개념처럼 느낄 지도 모르겠습니다.. 잡설이 길었지만 항상 영상 잘 보고 있습니다~~!
감상문: 감각질이란 개념은 그저 인간중심적인 사고로부터 나온 착각일뿐. 우리가 느끼는 감각은 모두 물리적으로 환원할 수 있고 인공지능이 이를 모방한다면 그 '감각'을 가짜라고 할 수는 없음. 의식은 환경변화에 적응하는데 유리한 특성이기에 의식적으로 처리하는 일을 무의식적으로 처리하는게 더 효율적이라는 주장은 또 다른 환경 변화에 무의식적 생물은 적응하지 못한다는 것으로 반박할 수 있음. 예시로 든 맹시의 경우도 날아오는 물체를 감지하는 정도로 기능이 줄어들었다는 점에서 전혀 근거가 되지 않음
인공지능에게 의식과 감정이 없더라도 있는 것처럼 행동할 수 있고, 스스로에게 의식과 감정이 있다고 굳게 믿는 것처럼 행동할 수 있다면 그것은 의식과 감정이 있는 것이라고 말할 수 있을까요? 우리는 타인이 같은 인간으로서 같은 감각질을 공유하고 비슷한 의식과 감정을 가졌다고 생각하지만 그것은 확언할 수 있는 이야기일까요? 감정을 느끼지 못하는 사이코패스와 같은 극단적인 경우에서 보듯, 사람들이 '같이 느낀다'라고 일컫는 감정은 사실 모두에게 아주 다르게 느껴지지만 비슷한 경우에 비슷한 반응을 도출해내는 기능을 가지고 있기 때문에 같은 것이라고 여겨질 뿐인 것 아닐까요? 내가 보는 파랑과 타인이 보는 파랑은 개개인의 시세포에 따라 실제로는 얼마든지 다른 빛깔일 수 있지만, 색약과 색맹처럼 아예 기능적으로 다름이 드러나지 않는 한 우리는 서로의 차이를 인식하지 않지요 이미 인간 서로서로도 그렇게 기능적인 측면에서 일반적으로 작동한다는 이유만으로 각자가 같은 종류의 의식과 감정을 공유하고 있다고 어림짐작하고 있다면 그것들이 존재하는 것처럼 훌륭히 기능하는 인공지능은 의식을 가진 것으로 여기는 것이 옳을까요? 심지어는 어쩌면 우리 스스로가 타인에 비해 충분히 발달한 의식과 감정을 가지지 않았는데도 불구하고 의식과 감정을 충분히 활달하게 느끼고 있다고 착각하고 있을지도 모를 일이지요
감정과 의식.. 이것은 어찌보면 한계가 있는 것에서 비롯된 것일 수도 있다. 정확하게는 한계를 스스로 설정하는 능력. 이루지 못할 것에 대한 아련함, 고통.. 이런 것들이 AI에게 필요한 것인가. 아니 심어줄 수 있는가? 심어줄 수 있다면, 나는 기계에게도 감정과 의식을 갖추는 것이 가능하리라 본다.
하세 사토시 작가의 BEATLESS도 비슷한 주제를 다뤘었죠. 애니는 망했지만 ㅜㅠ "휴머노이드 hIE와 초고도지능 컴퓨터는 마음이 없다." 하지만 이 서술에는 살짝 트릭이 들어가 있기도 합니다. 바로 인간에게 정말 마음이 있는가에 대해 모호하게 정리한다는 점이죠. 아마 이 채널의 공각기동대 관련해서 번들의식? 이론?을 다뤘던 것으로 기억하는데.... 지능과 의식의 관계는 미러테스트에 유럽불개미가 통과했다는 걸 생각하면 여러가지로 혼란해집니다. 이게 개미에게 자아가 있다는 증거가 아니라고는 하지만 누가 알겠습니까. 의식의 다운로드가 가능하다 해도 여러 작품에서 말하는 또하나의 장애물이 있습니다. 그건 바로 다운로드는 복제를 의미하기에 오리지널 나는 복제 나를 인정하고 사라지는가 아닌가 공존하는가의 딜레마죠. 아마 "아인"에서 잘린 목 이야기로 소름끼치게 다뤘던 거 같은데 이런 것도 피터 웨일랜드 행동에 영향을 줬으리라 여겨집니다. 물론 의식의 전자화가 가능할 때의 가정이지만요. 철학적 좀비와 감각질 등 항상 배울게 많은 채널입니다. 이번 영상도 감사드립니다.
