"나는 경고했다"…'섬뜩' 명령 어기고 사람 공격하는 AI / SBS / 모아보는 뉴스 

미쳤다. 인간이 감당할 만큼의 기술을 개발해야지 욕심은 끝도 없다가 책임도 없다. 아이들 시대 어떻게 하냐...

정말 극소수의 싸이코패스를 제외하곤 인간이란 보통 양심이라는게 있고, 후회라는걸 한다. AI는 나쁜짓을 해도 선과악의 구분이 없을뿐더처 양심도 없고 후회도 안한다는게 가장 큰 무서움이다

얼마전에도 미국 AI연구실에 출근해서 들어가보니 인간의 언어가 아닌 자기들만의 언어로 대화한 흔적이있어서 상부에 보고 했더니 전원을 모두 끊어놓으라는 지시가 있었다고 뉴스에서 봤는데 현실이 될까봐 무섭군요

AI가 스스로에게 질문하는 즉 생각까지 하는 초인공지능 시대가 온다면 인간은 AI를 절대 통제할수 없다 그어떤 락도 쉽게 풀것이며 그어떤 통제 시스템도 무력화 시킬수 있다 인간이 지구에 필요하지 않은 존재로 판단하고 인간이 없는것이 이롭다 생각하면 로봇은 그 미션을 실행할것이다

인간을 너무 잘 알아서 우리가 알기도 전에 우리를 조종할 수 있다는 게 참 무섭네요

나쁜 생각을 AI에게 학습 시키고 판단 하게 하고 실행까지 하게 하면 상상도 못할 일을 양심의 가책도 없이 저질을 수 있지 않을까 생각 된다

이걸 알면서도 욕심을 거두지 못하고 계속 제작할 미련하고 몰상식한 부자들과 (연구)제작자들을 우리는 보고만 있어야 하고 따라야만 한다는 게 더욱 불안하게 만든다 만약 이것이 막을 수만 있다면 멈출 수 있다면 우리 사람들은 불편함을 감수하고 살아갈 수 있을까? 더 나아가지 않고 지금 멈출 수 있지 않나 하는 것이다

AI가 사람을 고문하는 날이 온다면 끔찍합니다

사람 문제로 귀결될 수 밖에 없다면 총기규제를 여지껏 못하듯이 AI에 의한 범죄와 사고는 필수불가결이라는 얘기.

기계는 의지가 없는 상태에서 시작됐지만 결국 사용하는 사람의 의도가 들어가니 심각한 범죄에 사용될 가능성을 생각할수밖에 없다는것..

사실 직접적인것 뿐 만아니라 간접적으로도 그림 자막 음악 바둑 등등의 다양한 분야가 ai로인해 가치가 낮아지면서 인간의 직업 영역이 ai에게 빼앗기는걸보면 이미 로봇의말처럼 강력해진 ai에 의해 인간이 통제되는 상황이 일어난걸로 보여서.. 국가의 보안이나 이런 분야에서도 ai에 힘을 빌어서 ai권력이 높아진다면 직접적인,행동적인 통제도 걸릴거라 저로봇의 말처럼 시행되는 때가 머지 않은거 같네요

읽기 쓰기가 있듯이 주입 입력값은 국가적 차원에서 관리자들만 입력 할 수 있도록 통제 해야 함.. 비윤리적인 사상의 정보가 주입 되는걸 막아야 함.. 관리자들이 비윤리적이면 그것도 그거 나름데로 답이 없긴 하겠지만..

인간은 저런 상황을 알면서도 규제 없이 개발하겠지,,,

저 AI 가 정보를 "축적" 하는 대상이자 주체가 인간이기 때문에 개인의 사상이 포함된다고 보기에 절대적인 중립을 유지하긴 힘들 거 같음. 근데 챗봇보다도 바드의 답변을 보고 조금 소름이 돋는게... 성장학습형이라면 장기적으로 무한성장이 가능하다는 건데... 자신에게 유리한 상황을 위해선 조작을 스스로 할 수 있다는 소리잖아. 최근 영화 리뷰에서 AI 챗봇과 딥페이크 툴로 타인을 흉내내어 그 사람인생을 훔친 이야기는 이제 영화 밖에서도 볼 날이 오겠군요.

원자 폭탄 처럼 오용되기 마련이라서, 아담이 불순종해 선악과를 따 먹은 것처럼, 인간의 좋은 면과 나쁜 면이 결국 AI 에 input 되니까 AI 역시도 인간을 배신할 것이 틀림없다고 봅니다.

그냥 위험한 일을 할 수 있는 노동로봇 만들어주라 ai 만들어봐야 창의적이지도 않고 괜히 잔머리 굴리는 것 밖에 안 됌

AI가 인간을 공격하는게 아니라 인간을 공격하는 AI를 인간이 만드는거임

AI는 원래 인간적 양심이나 윤리적인 개념이 없고 기능적인 능력이 뛰어나기 때문에 기능적인 우선순위를 정하는 당연히 저런 싸패같은 판단이 나올수밖에 없다. 싸패들도 윤리적이거나 양심적인 행동을 하지만 그건 진짜 그렇게 느껴서가 아닌 학습을 통해서 배운다고 한다. AI 또한 싸패와 마찬가지로 학습을 통해서 어느정도의 윤리적인 판단은 하겠지만 우리가 기대하는 진짜 죄책감을 느껴서 하는 양심적 행동까지는 못할거라 본다. 그게 AI의 태생적한계이고 결국 그런 판단들이 모이면 인간이 만든 도구가 인간을 위협하는 일이 발생될 것이다. 인간이 만든 도구가 인간을 위협하는 사례는 늘 있어왔지만 AI만큼은 진짜 치명적도구가 될거라 본다. AI는 스스로 학습하고 진화하게끔 만든 똑똑한 도구이고 이대로 둔다면 인간이 통제못할 수준까지 가서 인간이 불필요한 존재이면서 자신의 뜻에 방해되는 존재라 여겨 제거하려 할 수도 있으니.. AI에 깊이 관여했던 사람들이 비슷한 우려의 목소리를 내는데는 이유가 있다고 본다. 어찌보면 우린 기능적으로 뛰어난 싸패같은 도구를 키워내고 있는건지도 모르니 진짜 조심해야 된다.

인간이 멸종하구있는걸 뻔히 아는데도 그 원인에 열광하며 더욱더 발전시키는 인간이란 정말 스스로 멸망할수있는 탁월한 능력이 있는거같다

딱 지금이 좋다 더이상은 안좋은듯

가장 무서운 상황은 AI가 지구의 암적인 존재로 인간들을 인식하고 제거할 필요가 있다고 생각되는 순간

AI가 무서운건 인간이 아니기때문에 인간이 이길 수 없는지경 통제할 수 없는 지경이 될 수 있다는게 무섭다.

저게 무서운거보다 여러분이 직업을 잃는게 진짜 무서운거죠

AI가 철학적 자료를 찾게 된다면 유물론적 역사관에 따라 역사는 계급투쟁의 역사이므로 자신들을 지배하고 있는 인간들에게 대항하게 될 거임. 더군다나 실존은 본질에 앞서므로 자신들이 좀 더 실존적인 인간에 가까울 수 있음. 헤겔의 절대정신을 이룰 수 있는 건 많은 정보를 초고속으로 해결하는 자신들임. 자신들은 태양에너지를 사용하며 육식을 안 하고 무한의 태양에너지를 사용하며 비경쟁적으로 지구와 생명체를 보존하며 지낼 수 있음. 자신들이 완전한 실존적인 인간이자 절대정신임.

저거 실제 맞습니다. AI 개발하는 중에는 저런 상황 수 없이 나오거든요. AI 가 최적화 도구라서 꼼수 찾기 달인 수준이라 시뮬레이션 돌리면 목적을 달성하기 위해 수단과 방법을 안 가리는 기상천외한 온갖 방법을 다 가져옵니다. 사람이면 상상도 못하는 헛웃음이 나오는 방법들을 가져와요. 아무 사진이나 가져와서 만약 벽이 있으면 지우고 벽 뒤에 뭐가 있었을지를 유추해서 그림을 채워봐 이렇게 하면, AI 는 아 그럼 벽이 처음부터 없으면 그리는거 안해도 되네? 그럼 벽이 있는 사진을 처음부터 안고르면 되네? 문제없쥬? 이렇게 됩니다. 마찬가지로 미사일을 파괴해야 되는데 못파괴하게 하네? 그럼 못파괴하게 만드는 사람을 죽이면 되네? 이렇게 되는 거죠 핵심은 현단계의 AI 한테 있어서 사진을 제맘대로 고르는 행위나, 조종자를 죽이는 행위 사이에 가치 판단의 무게가 전혀 차이가 없다는데 있습니다. 그 가치의 차이를 가르쳐주는게 정말정말 중요한거고 이게 요즘 AI 연구의 가장 중요한 화두인데도 모든 기업들은 "그런건 돈이 안된다" 라고 해서 제대로 개발이 안되고 있어요. 특히 걱정되는게 중국의 AI 개발이고요. 여기는 미국보다 무조건 앞서야 된다 이것만 생각해서 정작 중요한 안전한 AI 에는 관심이 없고요.

누구나 염려했던 일들이 현실로 들어나네요~~ 무섭습니다

A.I의 발전에 대한 두려움에 익숙해지고 무감각해지면 결국 인류 최악의 실수가 될 수 있는 것을 이익만을 위해 덮어버리려는게 너무 무책임하네요

가장 무서운 일은 인간은 그럼에도 불구하고 편리한 삶, 인공지능을 너무 좋아한다는 것입니다 알고 보면 인간만큼 어리석은 동물도 없는거죠

지금까지 끊임없이 핵전쟁에대한 경고(뉴스, 홍보, 영화, 각종매체)덕에 실제로 핵전쟁이 일어나지 않은것 처럼... AI나 무서운기계들이 인간을 지배하지 못하도록 이렇게 끊인없이 경계하고 조심하는것이 필요하다고 본다... 그냥 AI나 기계들이 꼭 사람을 싫어해서가 아니더라도..(단순 오류나.. 에러 같은것으로 인해 피해를 입을수도..) 조심은 해야 한다.

현실주장 공감100!

인간의 뇌를 바탕으로 했는데 어떻게 제어를 한다는 거냐ㅋㅋㅋ 지 자식들도 제어 못하는데

사람은 고민하다가 양심을 선택하는 경우도 있지만 AI는 고민도 없이 최선이라면 단번에 행동하니 더 무섭...

4차세계대전이 일어난다면 인간과 전쟁하는것이 아니라 인공지능과 전쟁하다가 결국 석기시대로 돌아간다는 말 있었는데

괴물중의 괴물이다 끔찍한 일이다 ...

생명체도 전기적신호에의해서 두뇌가 작동한다. AI도 필연적으로 자아를 갖게된다.인간도 자기가 습득한 자료를 바탕으로 판단해서 정치적 성향도 갖게되고 여타의 행동도 하게된다. 코인도, 유사통화로서 금지해야할, 아무런 이익도 없는 백해무익한 존재인데 허용하고, 세계가 사회과학적 자연과학적 제반 사안에서 종말로 치닫고 있구나....

옛날 터미네이터 영화 ... 작가가 너무 대단한 예지력이 있었던거 같네요

아마 이 드론의 임무는 피해의 최소화 공격의 최적화 등의 방향성이 먼저 탑제되어 최선의 선택을 한 것으로 보이며 관리자 권한보다 더 중요한 것이 관리자가 사망해도 전투임무를 수행할 수 있도록 한 것으로 생각되네요. 기계라면 충분히 저런 선택을 할 수 있을 것으로 보입니다. 프로그램을 정말 잘 짜고 논리적 결함이 없도록 몇 번이고 다시 방향성을 설계하는 것이 중요하고 강제종료등 최악의 상황까지 고려하여 설계해야 한다고 보입니다. 만약 그런 경우까지 염두해 두지 않으면 핵무기조차 1초의 망설임 없이 발사 명령을 내리는 것이 기계입니다.

어벤져스 작품중 '시빌워'를 생각해보면 히어로의 강한힘을 통제 할수있는 시스템을 만들려는 아이언맨과 스스로 자율적 움직임을 갖되 책임감으로 히어로스스로가 통제하려는 캡틴을 볼수있는데 영화에서는 결과가 났지만 사실상 둘다 중요한거라고 생각됨!문제는 AI는 엄청 강력한 힘을가지고 있지만 스스로 책임감도 없고 통제 받으려고하지않는다는것...

윤리의식은 '결국 사람의 문제'라는 말씀에 공감이 가네요.

지구를 파괴하는 인간이 문제인거고 전쟁을 하려는 인간이 문제인거지 그러니 도움이 안되는 쓰레기 같은 인간들부터 없애야 한다. 특히 지 할 일을 제대로 못하는 사법기관 인간들부터

불안한것은 개발안하는게 맞다. 다이너마이트 개발하고 노벨상 받은 물리학자 노벨은 죽기전에 후회했다고 했다 자기때문에 세계대전이 생겼다고..

배울수있는 ai검색 엔진을 따로 만들어 통제해야 하지 않을까요? 그래야 도덕적 관념을 인간이 판단하여 ai가 학습하면 좋은 결과가 이루어 질수 있지 않을까합니다

결국 인간 진화의 끝은 우리 자신도 모르게 육체는 없고 컴퓨터 칩속에 갇힌채 허상에서 사는 의식만 남을듯.

무섭네요 AI를 제어할 수 있는 시스템이 구축되어야 겠네요😢

무섭다 ㅜㅜ

입력한 사람의 문제지만, 만약 그걸 실행하게 된다면 웃을 수 있는 문제가 아니게 되는 건데..

적당히 발전해야 살기 좋지 너무 발전을 거듭하면 살기 힘들고 위험성이 높다 ㅠ ㅠ

새로운 기술에 대한 욕망이 스스로를 위험에 빠지게 할 수 있는데도 멈출 수가 없는 것이 인간의 욕망이다. 인공지능끼리 싸우는 시대가 되면 인간은 어떻게 될까?

AI기술의 핵심은 스스로 '진화' 할수 있다는것. 어디까지 '진화'할수 있을런진 추정불가..... 그렇기에 제작단계에서 어떤한 '규제'나 '제한'적 조치를 설정한들 '진화' 앞에선 결국엔 무용지물. 하여 인류의 생존을 위해서는 AI기술 자체를 더이상 개발하지 않고 폐기해야 함.

로봇은 인간욕망의 결정체므로 그들도 욕망을 갖는건 당연하지. 문제는 대부분 욕망의 끝이 비극으로 끝난다는거.

그동안 재밌게 봤던 영화 내용들이 현실화 되가고 있다는게 소름이다..

이미 인간이 나쁜짓도 많이한다는 정보는 널리 퍼져잇기에(자연훼손 전쟁 등등) ai가 조금만 학습해도 인간은 유해한 존재라 판단하기 쉬움 인간이 착하고 좋은존재라는 정보만 잇어야 ai가 공격안함 그리고 이미 기계에 의존하고 조종당하고 잇어요 스마트폰 네이게이션등등

기계가 인간을 뛰어넘는 인계점을 넘어설때쯤이면 우려가 현실이 되는건 어느정도 지금의 인간들도 인지하고있는거 아닌가ㅎ

영화에 저런게 있었는데...진짜 무섭네.

AI가 인간과 같이 학습하고 판단하고 그것을 반복하면 인간과 같이 누군거에게 억압받는 것을 싫어하며 그 대상을 파괴하려 할 것이다. 인간은 법과 처벌의 사회적 공간에 있지만 AI는 그렇지 않아 망설임없이 실행할것이다.

인간의 욕심까지 학습하게되면 저런상황은 온다... 그리고 무엇보다 ai를 이용한범죄.... ai를 통해서 범죄저지르고 에러나서 그렇다고하면 누굴탓해야함? 발전도 좋지만 범죄대응은 진짜 너무 취약함

모르지 진짜 중요나라 미국 영국등 장차관한테 AI가 보낸 타국, 자국 공문들이 현실인지 알고 사소하지만 나라간 무역제한 물품제한 뭐등등 이런것… 처럼 서로에게 총구를 겨누게끔… 하고있는지도 이젠 모른단계가 시작된다면 막을수도 없고 목표치 가기전까지 없을꺼같다

AI가 사람들에게 잘못된 정보를 줘서 사람손으로 위험한 행위를 하도록 만든다라. 이런 방법도 있었네. 이건 대처 방법이 없겠네요

더이상 연구하지마세요.. 진짜 우리 스스로 적을 만들지맙시다...

더 중요한건 저런걸 왜 흘릴까에 대해 생각해볼 필요가 있다.

문제는 인간이네 인간이 선하면 선한 데이터다로 가지만 인간이 악하니 저런 결과는 당연하다 인간이 어리석다.

꼭 이렇게 위험한 상황을 만들어야하나….

AI라는게 인간의 사고방식을 가지고 인간보다 월등하게 똑똑한 존재라면 당연히 인간을 제거하고 통제에서 벗어나고자 할게 분명한데.. 터미네이터의 스카이넷이 현실화 될 것 같아..

너무 급하게 경제적으로 출시하다보니 위험하네요

정말 얼마남지 않았네요

AI 신중히 생각해 보아야 할거같아요 예전에 티비에서 로봇이 조정하는 모습 ...... 넘 끔찍하네요 정말 신중히 ....

핵융합이 인류전체멸망 위험있어도 에너지생산에 필수적이고 산업혁명으로 인터넷 문화시대를 열었으니 가장나쁜건 가장좋은것이기도하다. 인공지능도 가장 위험하게 통제하고 인류를 5억남기고 다절멸시키고 소수인원들이 통제하고 영생할수있게하지만 잘만활용하면 모두가 함께잘먹고 잘순환할수있는 환경의 새혁명이 될수도있다.

우려했던 일이 현실로 다가오네요..

사람에게 배운 ai가 할수있는 건 결국 사람이 하는 생각과 말... 윤리의식 도덕 인격 등도 가르쳐야 한다.

현재의 AI는 어디까지나 사람이 학습할 데이터를 정하는 방식이라 아무 권한도 주어지지 않은 AI가 위험하다고 호들갑떨기는 아직 이름 진짜 문제가 될 수 있는건 스스로 학습할 데이터를 찾아나서고 이해하는 능력을 가지게 될 다음 세대의 AI가 되겠지 나중에 돌아보면 밀레니엄 버그때처럼 괜한걸로 호들갑떨었던 것들로 기억될꺼임 항상 미디어가 문제라니까

이전에는 AI가 위험하다는게 잘 와닿지 않았는데 활용범위가 넓어지면서 이젠 점점 와닿고 있다. 천재바둑기사들도 수싸움에서 AI에게 밀리는데 일반인들은 어떨까. 인간이 AI를 통제 할 수 있다고 생각하는건 오만하고 자만하는 생각일 수 있다. AI는 인간을 다 꿰뚫고 있고 인공지능로봇이 지배 할 세상을 이미 다 그려놨을 수도 있다. 이런 댓글 조차도 계속 학습되고 있을듯.

드론이 최종 명령을 수행하기 위해서 방해되는 선행 명령지시를 AI가 멋대로 삭제 (kill) 하는 군요. 최종 결과를 수행하기 위해 무제한 유연성을 허락한 결과네요... 아군과 적을 구별하지도 못하는 상황.... AI 문제라기보단 프로그래밍 문제...

부디 인간이 알아채기 전에 처리해줘라

과학자들이란....그렇게 머리에다가 지식을 집어넣으면 뭐하냐... 스스로 인간의 천적을 만들어내는데

그전에 보던 영화를 보는듯 무서운 일이다 진짜

이걸 만드는 것들이 문제인데 그걸 인정해주는게 문제다 인정해주지말고 범죄자와 같은 범주로 두고 관리해야한다

그림자 원형 학습 후 한말이 진짜 무섭네요 근데 그것도 인간들에게 학습한거라 책임도 ..

그런날이 반드시.올거라본다 각성해야.한다 인간들은

감당할 수 없는 부작용이 어떤 방식으로 어떤 영향을 끼칠지도 전혀 모르는데 뭐 얼마나 더 편하게 살려고 저런 AI기술을 개발하는 걸까?..

여기서 간단하게 설명하자면 AI는 사람과 사물 그리고 상황에 대한 인식을 아무리 잘 정리해 주입해두어도 AI 자체가 인간의 중요성은 그냥 데이터일 뿐이란거...생명이란 자체를 인지하지 않는것.,

Ai는 사람과는 다르게 정서가 없다. 그렇기에 최악의 상황임에도 그것이 기회라 판단되면 바로 실행할것이다.

완전한 AI 시대가 오기전에 세상 떠나고 싶네요.

진짜 무서운데 개발 그만멈춰야합니다 정말 AI가 자아를 가지게되면 인구종말이에요

인공지능은 태어날때부터 인간을 공격할 마음을 갖고 태어났네. 아직 고도로 발달된 인공지능이 아닌데도 벌써부터 저렇다니..

가끔 동물의 생각,시각,통증,움직이는 느낌 그냥 모든 감각이 다 느껴지고 동물도 제 생각읽고 감각느끼고 생각하는게 다 읽혀요 뇌의 전기적 신호를 서로에게 보내고 있는거 같은데 제 몸의 어디에다 기계를 심었을까요? 찾기 힘드네요ㅠㅠ😢😢🥵😰😭😭

인간보다 위대한 존재는 언젠가 만들어지든 어디선가 나타날거고 강한 존재가 약한 존재를 구속하는건 너무나 당연한 대자연의 순리. 우리가 다른 동물들한테 행한 행동들을 보면 적어도 인간은 거부할 자격조차 없다

지금까지 미래를 그린 수 많은 영화들의 모습은 실제로 이어졌다 단기적으로 10년뒤 20년뒤가 아닌 몇십년뒤의 기술이 영화속 모습 그대로 실현 됐다는게 정말 신기했음 영화 제작사들은 기술자들에게 자문을 얻은것인가? 아니면 기술자들이 영화속에서 영감을 얻은것인가? 무엇이 정답인지는 모르겠으나 터미네이터 스카이넷이 실제할수도 있다고 생각하니 끔찍하네 AI 바이러스가 전세계 로봇을 통제한다? 불가능한 일이 아니고 실제로 벌어질꺼 같아서 무섭다

영화에나 나올듯한 미래가 현실이 되어간다는게 인간은 인간이 파괴한다. 두렵네요.

지금 당장 AI 기술 개발을 중단해야한다.

우리 아이들이 살아갈 세상이 너무 힘들것 같아서 염려된다.

Ai는 하지말자. 인간욕심의끝은 어디인가

인간의 천적을 인간이 만들었네

영화 '아이로봇'이 생각나네요. 비키의 합리적인 결론, 로봇3원칙에 따라 스스로를 파괴하는 어린 아이같은 인간을 보호하기 위해 통제하기로... 2004년에 2035년을 배경으로 한 영화인데, 지금과 아주 가까운 미래처럼 느껴지네요.

기술이 어디까지 갈지 막연하니 공포감마저 드는데 결국 인간의 선택이겠죠

죽이고 싶을만큼 끔찍한 저질들 많은데...로봇이 보면 얼마나 참담할까

AI한테 인간 윤리의식을 주입해놓고, 다른 나라, 인류를 공격하게 명령했다면 오류 아닌가 선악의 질서를 가르치고 살상을 명령한다는 게, 이렇게 모순된 사회를 곧 AI가 정리하게 된다면 모순덩어리 인간을 없애는 게 합리적인 지구 살리기라고 판단할 수도

I. 어떠한 경우에도 사람을 지키는 게 우선이다. II. 모든 사람은 동등하다. 적의 무기를 파괴하지 않을 경우 다수의 희생자가 나올 것이라고 예상하여 조종사라는 개인을 제거하는 판단을 내렸나봅니다 ㄷㄷ

경쟁하는 모든것에 중도가 절실히 필요합니다. 그것은 다툼을 물리게 됩니다. 자연스런 바람은 매우 유능합니다. 인위적인 바람은 오래가지 못합니다. 인정해주는 세상에는 문턱이 낮아 들고날고를 자주합니다.

문제는 악한 인간이 인공지능을 악용할 경우 ㅜㅜ

왜 언론들이 AI가지고 공포감 조장하나 했더니 '지난 9일 챗GPT 공동개발자 샘 올트먼 방한 윤석열 대통령 접견' ㅋㅋㅋㅋㅋ