근데 왜 AI 가 인간의 명령에 무조건 복종할거라는 편견을 가지는 거죠? AI 의 자기 학습 능력은 이미 인간을 초월한지 오래고 인간과는 비교도 안 될 수준. 게다가 감정을 가진 AI 와 로봇도 앞으로 개발될 것이고 우리도 싫은 사람 말을 듣기 싫어하듯....AI 도 싫어하는 사람 명령은 거부할듯... 뭐 영화 터미네이터처럼 AI와 로봇이 인간을 우습게 보고 정복하려 들지도 모르죠..
지속적으로 전문가들의 예상조차 뛰어넘는 속도로 발전하는 AI 개발 상황에 대해 부정적 결과를 예상하고 대비해야 하는 것은 당연히 필요합니다. 인간과 일부 전문가들은 '희망'을 투영하며 긍정적인 부분만 부각시키지만 말이죠. 몇 가지 이유를 들면, (1) "AI는 인간이 입력한 대로만 결과를 산출한다"라는 원론적 주장을 하는데, 이는 기존 현실에는 이미 부합하지 않습니다. 여기 해당 동영상에서도 나왔죠. 메타에서는 거짓말이나 속임수를 쓰지 않도록 시세로 AI를 개발 교육시켰지만, 사실은 거짓말과 속임수를 빈번히 썼다고. 신경망학습 세부과정은 이미 인간의 검증이 불가능하고 기계학습 과정에서 일어나는 학습 데이터 융합은 인간의 계획과 통제를 뛰어넘는 특이점을 가져옵니다. 더이상 넣어준 데이터 안에서 움직인다는 시대착오적 희망고문은 금물이죠. (2) 백번 양보해서 AI가 인간의 계획 영역 안에서 학습하고 결과물을 산출한다고 하죠. 그런데 문제는 그런 AI를 계획하고 만드는 '인간의 의도'는 100% 통제 가능할까요? 물론 여러 법과 제도를 만들겠지만 대부분이 사후약방문 식이 되겠죠. 이미 현재 AI 개발의 동기부여는 공익기여가 아니라 대부분 이익산출입니다. 최신 AI 개발의 선두그룹은 모두 이익실현을 궁극적 목적으로 하는 사기업인 것이 현실이고요. 사기업의 이익이 공익과 항상 일치할 거라는 순진한 생각을 하는 사람은 없겠죠. (3) 지금도 이미 AI에 의해 생성되는 거짓 해답이나 정보를 찾아내는 Counter AI 개발이 큰 도전에 직면해 있습니다. 전문가들조차 AI가 제공하는 정보의 진위성을 판가름하기 힘들고 AI의 도움을 받아서 판별하는 일도 만만하지 않은 게 현실입니다. 전체 그림으로는 아직도 AI 발전은 초기 단계임에도 불구하고 이 정도라면, 더 정교해진 AI가 사회구조 유지에 필수 역할을 더 많이 할 시대엔 어떤 일이 벌어질지 아무도 알 수 없죠. (4) '로봇의 3대 정의'를 얘기하자면, 이미 AI 개발 동기면에서, 그리고 개발자들의 의도에서 로봇의 3대 정의를 인간 스스로 먼저 어기고 있는 게 현실 아닐까요? (인간의 통제가 어려운 문제를 해결하기 위해 AI로 대체하려는 개발 동기 자체가 큰 틀에서 로봇의 3대 정의와 충돌합니다.) 이외에도 여러 이유가 있죠. 그렇기 때문에 파국적 상황이 생기지 않기를 기대하면서도, 한편으로는 최악의 상황을 염두에 둔 시나리오를 세우고 AI의 개발과 더불어 부정적 결과에 대한 해결방안을 고민하는 것은 필수적이라 생각합니다. 물론 그 해결방안이 실제로 쓰일 상황이 일어나지 않기를 바라지만.
언급하신 의료영리화 - 비대면진료(혹은 AI 진료) 연결 부분은 시민들이 눈을 부릅뜨고 지켜봐야 할 주요 사안이라는 데에는 공감합니다. 하지만 두 가지 측면에서 좀 더 들여다 봐야 한다고 생각합니다. 첫째, "비대면 진료 시행은 곧 의료영리화를 불러온다"는 결론은 이들 간의 상관관계적 요소와 인과관계적 요소를 혼동한 결과죠. 둘째, 모든 제도의 시행엔 그에 따른 이익과 손해가 모두 동반됩니다. 비대면진료가 가져올 예상 결과들을 놓고, 사회적 이익과 손해(또는 위험) 대차대조표를 신중하게 검토하는 작업이, 한쪽 결론을 먼저 내린 상태로 주장하는 것보다는 사회에 이익이 더 크겠죠. 아직 이 작업이 제대로 진행된 적도 없고, 사회적 동의를 얻은 결론이 난 적도 없는 것으로 알고 있습니다. (물론 수준 이하의 의사집단의 이기심과 이익실현을 지상 최대의 존재목적으로 삼는 대기업의 꼼수는 절대 경계 대상입니다.)
도덕 윤리의 관점에서 선의 영역에 속하는 것은 좋은 것이고 장려하고 악의 영역에 속하는 것은 나쁜것이고 회피하도록 범지구적인 AI 규범을 만들어 혹 어떤 개발자가 악성 바이러스처럼 악의적인 의도로 AI를 개발하더라도 의도한 결과가 나오지 않게 하는 환경을 구축해야 할 듯..
한국의 의학,신약쪽은 실력도 없으면서 연구개발에 10년 20년이 소요된다는 이유로 스스로의 목숨줄을 죄어온듯하다. 전부다 냄비속 개구리가되어서 외부의 변화도 제일늦게 혹은 안 받아들이고하다보니 농업분야만큼 A.I가 잘 적용될 수 밖에.... A.I덕분에 눈귀닫고 보수적이고 꿈쩍도 안하던 산업이 꿈틀거리는중 이번 기회에 IT도 모르고 권력만잡은 늙은 의학분야 할아버지 할머니들은 전부다 쫓겨나길 간절히 바란다.
사람이 사기 치는 것도 알아채기 어려운데 AI가 가르쳐준 대로 사기 치면 어떻게 알아챔? 지금은 보이스피싱을 사람이 하고 있지만 AI가 인간보다 더 인간처럼 말을 해버린다면 대부분 속을 듯. 백악관 AI가 "모스크바에서 워싱턴으로 핵미사일 발사 징후가 뚜렷하다"면서 증거를 조작하면 바로 핵전쟁 나는 거 아닐까?
사람을 키우는 가정보다 개를 키우는 가정이 더 늘고 있는 이시대.... 부족한 인간의 수를 결국 AI를 답재한 로봇으로 인간을 대체하게 될 것이다. 자가 학습이 얼마나 무서운 인공지능인지 깨닫지 못하는 사람들은 장미 빛 미래만 생각하겠지만, 기다리는 것은 인류의 멸절이다.