완벽할 거 같았지만, 의외로 맹~~ 하죠 ㅎㅎ 전에 알파고와 이세돌프로 대국을 봤을때, 대국 방식이 이세돌 기사에게 환경적으로 불리했다고 봅니다. 알파고와 대국을 하더라도 대리 기사가 이어폰을 통해서 좌표를 수신 받거나 특수렌즈를 통해 대리기사만 볼 수 있는 포인트를 바둑판에 마킹해야 한다고 생각하는데... 어수선하게 컴퓨터 옆에 두고 마우스 클릭하고... 이건 대국 방식에 큰 문제라고 생각했습니다. 딥런닝에 큰 헛점이 있다는게 발견됐으니, 개발자들이 또 그에 해당하는걸 업데이트 하겠군요. Ai 묵사발 대국 설명 잘~ 들었습니다. ^^
AI개발자들이 이번 버그는 보완 하기가 어렵다는 거죠. 왜냐하면? 인공지능 데이터는 수많은 실전을 통해서 적립된 것인바 일방적인 국면에서의 데이터는 없다는 것입니다. 백퍼센트 유리할때 어디둘지를 모른다는 선택장애가 발생하는거죠. 이점은 여타 분야의 AI들도 마찬가지로 치명적인 AI의 약점일 것입니다. 그걸믿고 맡겼다가 어이없이 낭패를 당할수 있다는거죠. 차라리 훈련이 덜된 말을타고 가는것이 AI 자율주행 차를 타는것보다 안전할수 있다는거죠. 어느 조건이 되면... 그냥 물속으로 들어가 버릴수도 있다는거. 자동 변속 자동차의 급발진 사고도 그런 경우가 아닐까 싶어요. AI의 위험성이죠. 하지만 편리함 때문에 확률낮은 위험성은 외면하게 되는거죠.
저거 진짜 내다 바둑 처음 배웠을 때 하던 말도 안되는 꼼순데 저게 통할 줄이야 ㅋㅋㅋㅋㅋ 한 수 차이나 두 수 차이로 죽었다고 판단됐을 때 다른 데 두면 상대방이 그거 까먹겠지 해서 다른 데 두다가 은근슬쩍 다시 두는거ㅋㅋㅋㅋ 상대가 방심하면 가끔 통하긴 했었는데 인공지능한테 통할 줄이야ㅋㅋㅋㅋ
인공지능은 입력시킨 자료 한도내에서만 계산한다 그런 얘기네요. 저런 떡수를 입력시키질 않았으니 전혀 모르고 응용할 줄은 더 모른다는 말이겠죠. 모든 가능한 떡수도 전부 입력시켜주고 어떻게 대응할 것인지까지 가르쳐 줘야 한다는 말이네요. 키포인트는 많이 이길 필요없고 한집만 이기면 된다는 식으로 프로그램을 짜야 할 듯...
인공지능 살짝 전공한 사람으로써 얘기하자면 감정이라는걸 따로 학습하지 않으니까 방심이나 그런것보다는 학습되지 않은 어설픈 수에 대해서 대응이 불가능한거죠 가장 좋은 수 ( 정답 ) 을 내릴 수 있는게 AI지만 사람의 개념으로 학습된건 아니니까요 한마디로 사람과 개념이 다르고 AI도 모르니까 당한다는거죠
바둑 잘 모르는데 AI쪽 전공이라 그런지 이게 알고리즘에 뜨네요. 개인적으로 전공자로써의 생각은 인간이 AI의 허점을 노력해서 찾을순 있다고 생각해요. 어차피 인공지능이란것도 수많은 데이터 가운데에서 제작자가 만든 알고리즘을 따라가는거니까요 근데 그 허점이 알려지는순간 보완은 한순간이고 그다음 허점을 사람이 찾는건 점점 힘들어질거라고 생각합니다.
음 근데 생각보다 아직은 “꼼수” 찾기가 쉬운거 같아요. Black box attack 은 조금 빡세긴 하지만 gradient 정보를 볼 수 있는 whitebox attack 은 솔직히 defense 가 아직 너무 너무 약해서… 아직 보완하는 방법이 개발이 덜 되었어요.
재미있군요. 딥러닝을 통해서 배우기를 엄청나게 배우긴 했는데, 결국에는 그 배운 것들이 전부 "잘 훈련 된 프로기사들이 하는 행동"을 기준으로만 배웠다는 거네요. 그렇기 떄문에 인간들끼리 바둑을 할 때에는 굳이 확인사살하거나 끊어버릴 것도 없이 상대가 알아서 패배선언하고 끝내버리거나, 기권 안해도 이미 죽어 보이는 곳은 그냥 포기하고 다른 곳을 가는 것이 너무나 당연한 상식인데... 그것을 인공지능이 딥러닝으로 배우기는 배웠는데 "그렇게 하는 줄로만 알지 정작 왜 그러는 지는 모른다"는 소리네요. 그렇기 떄문에 지금까지 진지한 프로 기사들은 당연히 사람들 하는대로 승산 없는 곳에서는 그냥 포기하고 다른 곳에 두었고, 인공지능은 그렇게 자기 승산이 절대적이라고 판단한 위치에는 "인간들 하는 대로 흉내" 내서 굳이 확인사살 같은 것 안하고 다른 데 둔다는 말이죠. 그런데, 인공지능 잡는 방법을 교육받은 이 사람은 일부러 "보통 기사들끼리 대국이라면 안하는 짓"을 자꾸 하니까 인공지능이 경우에 없는 수를 만나면서 판단을 제대로 못하게 되버린다는 거네요. 그런데 만약 진짜 사람들끼리의 대국이었더라면 사람이 단순히 바둑의 지식량으로만 대국을 하는 게 아니라 그 순간순간 상대방의 의도나 심리도 당연히 아는 것이니까, 진짜 대국에서 저렇게 했더라면 걍 단칼에 잘려서 박살났다는 소리죠... ? .
이게 실력이냐 꼼수냐가 중요한게 아니라, AI의 헛점이 드러났다는거 자체가 의미가 크다. AI는 바둑뿐만 아니라 의료분야와 같은 인간의 생명을 담당하는 분야에도 접목이 될텐데, 이러한 결함이 발생 되었다면 아직 보완해야 할 점이 많다는 점을 시사하게 됨. AI의 대한 맹목적인 믿음을 가진 사람들도 많지만, 아직 보완해야할 숙제도 함께 발견된거고, AI를 개발하는 수많은 회사와 개발자들한테도 경종을 깨우는 사건이 되지 않을까?
스타로 치자면 3대1 컴까기 할때 시작하자 마자 일꾼 보내서 기지 건드리면 다 따라옴 이렇게 휘젓고 나면 발전이 엄청 느리지 즉 어떤 상황에선 일꾼까지 총동원해서 막아야 하는 경우도 있고 어떤때는 유닛만 계속 뽑아서 방어하고 일꾼은 도망 치는게 유리 할수도 있고 인간은 이런걸 바로 판단 가능한데 AI는 아직까지 불가능 하다는거지
'어림도 없는 수' 에 반응을 안한다는 거네요. 위협적인 수에는 칼반응하지만 당장 볼때 아무 걱정할 필요가 없으니 그냥 넘긴다는거. 사람이라면 이상한 떡수가 계속 반복되면 '무슨 꿍꿍인지 모르겠으니 일단 차단하고 보자' 하겠지만 인공지능은 '어차피 데이터 상으로 떡수' 라고 판단해서 손을 빼고, 그게 쌓이고 쌓여서 어느 순간 뒤집기가 실현되다니.. 불안이라는게 없는 인공지능이니 가능한 꼼수군요
인공지능에게는 의도가 없다는 것을 보여주는 것 같네요. 미래에 인공지능이 세계를 정복하면 어떻하냐라고 많은 사람들이 걱정하지만 인공지능은 애초에 어떤 의도도 없이 단지 프로그램된 상황에서 최고 효율을 따질 뿐이라는 것이죠. 인간 프로였다면 상대방이 이렇게 둔다면 초보가 재미있게 두네라고 생각하면서 대충 맞춰주면서 교육바둑을 둬줄 수 있겠지만 인공지능은 자신이 의도가 없는 것처렁 상대방의 의도를 파악할 수도 없다는 것이 패착이라고 생각이되네요.
인공지능이 무서운 이유가 영향의 범위가 커질 경우, 의도가 없이 멋대로 행한 조치가 인간에게 피해를 주는 경우가 생길까봐인겁니다. 멋대로 발전해서 인공지능이 저그처럼 바닥에 아스팔트처럼 금속을 덮어버리고 그 위에 있는 것들은 다 분쇄해버리는 작업을 반복하면서 인간이 건드릴 수 없을 만큼 빠르거나 여러 군데서 동시에 바이러스처럼 반복하는 시나리오를 가정했을때, 기계는 어떤 의도도 없지만 지구를 잠식해버릴 수 있죠. 위의 예는 단순한 예지만 이런 비슷한 시나리오가 인공지능이 인간에게 위협이 되는 경우라고 할 수 있습니다.
바둑을 제대로 보신 게 맞으신지요? 저희같은 아마추어야 실력이 안 되니 인공지능이 맞겠구나~했지만 정상에 있는 프로들은 인공지능이 둔 수를 왜 그렇게 뒀을까? 끊임없이 분석하고 자신의 것으로 만든 뒤에야 뒀습니다. 심지어는 승률이 좋다곤 하지만 내 관점에서는 도저히 그렇게 못 두겠다 하고 인공지능의 최선의 수와 다르게 둔 기사들도 있었으니까요. 더 나아가 인공지능이 보지 못하는 더 나은 수를 두는 기사는 계속 있었습니다. 그 어떤 해설과 교육에서도 AI가 뒀으니 좋은 거라고 하지는 않습니다. 미약하게나마 인간이 못 본 AI의 수를 해석해 줬죠.
말 그대로 ’헛점‘입니다. 완벽하지는 않다는 것이지 모든 것이 틀리다는 것도 아닙니다. 0.1% 부분의 헛점이 있는 것이지 나머지 99.9%도 잘못된 것이 아닙니다. 그리고 현 바둑기사들은 절대 의심하지 않고 검증도 하지 않고 받아들이지 않습니다. 모든 바둑공부가 그렇듯 AI의 한 수 한 수에 대해 끊임없이 생각합니다. 바둑 외에 챗 GPT와 같은 인공지능 기반 챗봇의 경우 아직은 잘못된 내용을 맞는듯이 제공해주는 경우가 있어 이런 것에 대해서는 스스로 맞는지 생각하고 검증해야 하겠죠.
인공지능을 연구하고 있는 박사과정입니다. 사실 인공지능 관련되어 전공자가 아닌 흔히 일반인 이라고 불리는 대중들이 무시하는 게 있습니다. 그것인 인공지능의 신뢰도는 사람의 신뢰도 보다 낮다는 점 입니다. 즉 인공지능은 절대 사람을 넘을 수 없다는 것이죠. 근데 요즘 사람들이 말하는 거나 하는 행동을 보면 인공지능을 무조건적으로 신뢰하는 걸 보고있자면 정말 안타깝다는 생각밖에 안들더라구요.
비대면으로 바둑을 두었는데 ᆢ 대충 계가해도 내가 25집은 이겨서 인공지능이 계가를 했는데 ᆢ 거꾸로 상대방이 25집을 이겼다고 해서 바둑판을 살펴보니 ᆢ 상대방의 죽은돌이 살아있는것으로 계산을 했다 그런 일들이 5%는 되는것 같아서 충분히 이겼을때는 불필요한 가일수를 해야했다 인공지능은 생각보다 멍청했다
이방법도 ai 타계방법중 하나에 속함니다. 1.바둑판 중간중간에 돌을두고 방치 2.바둑판이 정리되면서 마무리 한국룰로 생각을하는 인간은 방치된돌들이 자동사 이기에 상대방집으로 계산하지만 중국룰은 죽은돌이 아니기에 집으로 인정을 안하고 계가를 함니다. 이 허점을 이용하여 대충 경계선만 다 메우고 계과신청을 하면 ai는 이긴바둑을 졌다고 판단하는 버그가 있었던걸로 알아요. 완벽한 내집 30~40집만 가지고도 중앙에 거대한 상대방집에 내돌들이 잡히지 않은 상태에서 계과 신청하면 중앙의 거대한 집은 집이 아니라 공베로 판단하는 버그죠. 중국룰은 가일수를 하고 완벽하게 잡아내야 집으로 인정. 결과 값은 똑 같아서 인간은 이과정을 생략하고 계과할수있으나 기계는 과정을 빼먹으면 오류가 생기죠..인간처럼 생각을 못함니다
인간의 꼼수는 80억인구가 만들어내는 무한대 알고리즘이지만, 인공지능은 한정된 사람이 본인이 예측가능한 알고리즘에 바둑두는 프로 및 아마추어 기사들의 기보의 합일뿐입니다. 따라서, 태권도와 상당한 융통성을 가진 UFC에 챔피언조차 한참 아래 실력의 엉뚱한 수에 뒤질 수도 있는게 현실입니다. 헐리우도 영화같은 세상은 없으니까요.
@@TheWoseven 바둑의 전체 경우의 수에 비하면 80억명이 만들어내는 경우의 수는 티끌만도 못해요. 또한 바둑 인공지능은 자기들끼리 무수한 대국을 두며 발전합니다. 카타고의 안목은 인간과 비교가 불가능하지만, 그럼에도 바둑의 전체 경우의 수엔 티끌만도 못하죠. Kim S H님이 말하신 대로 정상적인 것만 학습한 방향성의 문제라고 생각합니다.
인간 vs 로봇 전구갈기 시합하면 인간은 사다리에 올라가 전구를 잡고 돌려 빠르게 갈수 있지만 로봇은 사다리 올라 전구잡는 로봇 1대 사다리를 양쪽에서 잡고 들어올려 돌려주느누로봇 2대 총 3대가 필요하다고 하죠 바둑은 완벽하지만 바둑이 아닌 바둑은 배워본적도 해본적도 없는거죠 인지의 사각이라고 생각됩니다
@@나너머-w9x 바둑의 경우의 수는 우주의 모든 원자의 갯수보다 많습니다. 물론 이는 이론적으로 말도안되는 수까지 포함해 바둑판을 꽉 채울 경우의 수를 모두 계산한 것이라 실질적인 경우의 수는 훨씬 적습니다만.. 그래도 경우의 수는 너무 많아요. 그래서 인공지능도 옛 체스인공지능처럼 수를 일일히 계산(고전 알고리즘)하는 것이 아니라 느끼도록(딥러닝) 설계되었습니다.
이세돌 9단 선견지명이 있네요! 바둑은 예술이다. 근데 이건 예술이 아니다. 은퇴하지않고 AI를 이기려 했다면 결국 그 비상한 두뇌로 AI 파훼법을 누구보다 빠르게 찾아냈을 거라고 생각합니다. 하지만 영상의 기보처럼 이건 그냥 승패일뿐... "바둑의 멋"이 느껴지지 않네요.. 자신의 기풍으로 AI를 이긴 이세돌 9단이 다시 한번 존경스럽네요
ㅎㅎㅎ...난 컴 공학자도 아니고 그냥 평범한 사람인데...내가 엔지니어니 ,컴퓨터 학자가 아니기 때문에 내가 하진 못하지만...제이 ㄹ처음 나왔을때 부터 알았다...지능이 아니라 그냥 초고성능 프로 그램이란것을...!!!지능과 프로그램의 차이는...지능은 일정하지 안다는것이고...프로그램은 앞뒤 젤것도 없이 지시한 데로만 하는거야....!!! 말하자면 지능은 이기면 까불고 지면 화내고 이게 지능이야...!! 프로 그램은 이겨도 그대로고 져도 그대로고...그래서 지능이 결국은 인간을 멸낭시킨다는걸 유수의 ㅛㅓㄱ학들이 말하느거야...인공 지능의 우험성...인공 초고성능 프로그램은 위험하지 안아..!!! 처음 프로그램 처럼 똥 푸라고 해놓으면...근임없이 똥만 푸는거야....똥을 딥러닝으로 어떻게 하면 잘 풀것인가 학습해서 똥을 존나 잘푸는거야 하나도 안흘리고...그건 초고성능 프로 그램인거지...그런대 똥푸라고 프로그램 해봤는데 똥만 존나 푸니까 짜증나서 때려 치우고 주인에게 "야이 ㅆㅂ로마 왜 니가 쳐먹고 내지린걸 먹지도 안고 싸지도 아는 내보고 푸라 카노 니가 푸라 쐒끼야!!!" 이러는게 인공지능(AI)이지...이게 안되면 프로그램이야 아무리 성능이 좋아도...!!!
