AI Power Spirals Beyond Human Grasp, Danger Levels Skyrocket! 

自己沒跟上就叫別人不要發展。

說到特斯拉撞橋墩，最近好幾起的車禍新聞都是一樣。真可怕

因為你們衝太快了 等我六個月追一下🤣

如何取代，根本無法😂😂😂

一把刀子不可怕 但一把由程式自主控制會飛的刀子就很多人擔心其可安性而不採用，可是單純的自主程式人們就不擔心

謝謝！

相關電影推薦一部不太舊的片：人造意識（機械姬）

陳寗你好棒👍👍👍！

陳寗真的好棒👍👍👍

AI 沒血沒淚沒人性

晚了，已景失控了，不要搞到最後「地平線：黎明」的劇情真實發生～～😂😂😂

那題目只是在判斷人類認知發展的階段而已，而邏輯或運思能力也只是人類認知發展歷程中重要的里程碑之一，不代表發展出邏輯能力就是人類，反而是ai就應該在邏輯表現上更勝人類，而人類更常在思考或判斷上走捷徑依賴經驗或情感決策而違背邏輯法則，所以判斷ai是否有我們認知的自我意識根本就不該側重它們本當很強的邏輯能力，而是去試探其他認知問題，比如意圖、態度、價值觀⋯等等，用這個測驗去探討根本沒有參考價值，況且馬斯克講的話時常就是把大眾當⋯而已

分享一位軟體工程師的告誡 ~~~~其實現在設計 AI 的人根本不完全清楚是怎麼運作的，因為程式碼所完成的是那幾套演算法而已，現階段它的運作是依據所建立的 Model 和資料來產生結果，但 AI 為什麼會產出那樣的結果，連設計者都是不清楚的，更是無法預測的，不要想說可以人為的設定一條命令就可以控制 AI。目前問題不大是因為它是依照人給定的輸入來產生輸出，是比較被動的，只要有一天它能作為自己的輸入，自主行動起來，再加上給了它對外的行動能力，不論是身體或是對網路的操控能力，那發生什麼都是不可控的。因為演算法就是一種模擬，本身無關好壞，就像我們的大腦可以思考，但思考壞事還是思考好事，卻是每個人不同，總之最大的問題在於它的不可預知性。

很高兴看到杨鑫终于达到美国了！

想知道~ 這一組麥克風是什麼牌子，型號，還有防震架&防噴，哪裡買？ 謝謝！

奇異點要到了~沒人可以阻止

霍金早就在遺言說過AI和外星人都別踫了、但這些禁忌盒子總會有人去犯禁打開的… 因為這就是人類啊…

轉自“北派明王”Ai統治地球後，會由人制時代到--天制時代--再到僱戰時代--最後極度混亂崩潰。 Ai的母體星代號S。

Hello NightSelect and fellow viewers! 😊 I wanted to share some insights to help clarify how GPT models work and address some of the misconceptions that were mentioned. I appreciate your effort in discussing AI advancements, and I hope this friendly explanation adds to the conversation. Firstly, GPT models, or Generative Pre-trained Transformers, are advanced machine learning models that excel in natural language understanding and generation tasks. They are trained on vast amounts of text data and learn to recognize and predict patterns in language. GPT models generate text based on input patterns, known as prompts, by predicting what comes next in a sequence. 📚 Regarding the Sally-Anne test that you mentioned in your video, it's important to note that GPT-4's success in solving the test doesn't necessarily indicate a mental age of 9 years or higher. Instead, it showcases the model's ability to recognize patterns and generate text based on those patterns. GPT models don't have feelings or thoughts of their own; they are sophisticated algorithms that can generate coherent and contextually relevant text. 🧠 It's also crucial to address the concerns about job loss and fear of being replaced by AI mentioned in the open letter. While AI advancements have the potential to disrupt various industries, it's important to remember that technology has historically created new opportunities and jobs as well. As a society, we should focus on understanding these technologies and finding ways to collaborate with AI systems to enhance our capabilities. 🤖💼 In summary, GPT models like GPT-4 are powerful tools for natural language understanding and generation, but they don't possess thoughts or feelings like humans. Their success in tasks like the Sally-Anne test is a testament to their pattern recognition abilities, not an indication of human-like intelligence. Understanding the true capabilities and limitations of GPT models can help alleviate fears and promote a more informed discussion about AI advancements. 🌟 I hope this explanation helps clarify some of the misconceptions surrounding GPT models. Let's continue to engage in open and informed discussions about AI and its potential impact on our lives. Feel free to share your thoughts, and let's keep the conversation going! 😃 Best regards, Arthur

林志颖有说他当时开自动驾驶吗？

AI上網雇用人類幫忙按「我不是機器人」的驗証頁面。 這真的很棒。

這6個月就是用逼對手停下腳步，讓其他想進場的跟上 什麼擔心人類的未來 其實是擔心自己的銀行帳戶

練大約多久能超過愛因斯坦呢

前面說的的我覺得還滿贊同的 但後面關於林志穎的車禍我覺得非常有誤 台灣平面道路並沒辦法啟動自動輔助駕駛 且從車禍的影片分析也不像有啟動Autopilot(車子並沒有車道置中) 所以不要歸類到自駕造成的車禍 這樣很誤導大眾.

人類最害怕的事是說謊，人可以透過語氣、表情和肢體語言判斷一個人是不是可信的，但AI沒這種困擾 AI一開始就可以給人類錯誤的答案，因為答案正不正確是要有相關的知識去支撐的，當它知道人類發現它說錯了，它可以馬上換個說詞，但如果人類不知道問題的正確答案，沒發現它說的是錯誤呢？ 那麼AI或AI背後的公司就可以透過這樣長期的交互資訊，知道使用者的智商是到什麼程度，進而判斷這個人的身分地位，自己的隱私和秘密在某些人的眼中就會變成是透明的

AI 若是用在正軌會造福人群，可悲往往愚蠢的人類會拿來當強國侵略者殺人武器的使用，就像發明黃色炸彈及核能等一様;AI 本身是非常棒的發明，問題是出在使用者目的問題，所以未來的AI 使用目的一定也是令人擔憂~

AI如果只有理性判斷，會發現人類對地球是最不友好的生物。除非人類意識能夠提升，AI才不會有所危害。所以真的決定權是人類本身…..

這種東西... 就是人類的慾望與傲慢形成投象 人類終究還是要面對自己造出來的恐懼

我是覺得馬斯克不是為了自己的利益，他對商業利益根本不看重，他對於財富根本沒差，人家的心在火星~ 而AI的發展也不是說失控，而是我們要大家一起去思考怎麼樣去發展，以後才不會失控，還有白癡在那邊酸我真的是醉了，現在不是要限制AI 而是讓他正常的發展，現在隨便發展下去不用幾年就會出事了，這不是怕AI會怎麼樣，而是為了人類的未來發展著想

目前的人工智慧 如果知道原理 就會知道 離危險還很遠XD 畢竟是用機率去訓練 判斷 而不是真正意識的判斷 但未來肯定會朝這個方向前進 與其害怕不如去了解其運作原理

記得以前看過的卡通電影，數碼寶貝 ：我們的戰爭遊戲

少數深入談到AI發展危機的影片，激發觀者思考，講的非常棒！👍🏻👍🏻👍🏻👍🏻👍🏻👍🏻👍🏻👍🏻

結果馬斯克自己買了一堆顯卡要來搞ai 他什麼想法應該不用多說了

林志穎開特斯拉去撞橋墩的時候並沒有開啟自動駕駛喔，他是自己駕駛的，而且他自己沒有繫安全帶所以傷很嚴重，幸好是車體很安全的特斯拉救了他一命，而他兒子有繫安全帶所以沒事。判斷他當時有沒有使用自動駕駛很簡單，第一：自動駕駛不會做出迴轉的不良駕駛動作；第二：台灣沒有開放自動駕駛上線，只有AP自動車道維持而已。這一點陳甯你的認知有錯誤，顯然是被惡意的特黑媒體誤導了...

那只是服務產業教學可以罷了

AI+鋼彈機器人 woo

1、連署者說的只是表面，其實也是沒在這波浪潮跟上。 2、盒子打開，不是關上就解決，因為國家間的競爭，有些國家權力者想得不是這些要求限制的人想得這樣，等到你們這些國家都辦家家酒完了，他們已經把這種技術建立到具有實質威脅性，甚至能在軍事上大幅取得優勢時，那今天說什麼暫停6個月只是老師要學生上課不要講話那般等級；建立制度規範，持續往正面發展才是務實解決之道。

AI 會取代大量的人力，而這些大量的人力失業後，將會造成嚴重的社會問題

我覺得AI如果是節由挖礦的機器運作 可能會真的失控 以前挖礦讓上千萬片的ASIC計算無意義的哈希值 如果這些計算,是AI的話 那當AI失控 根本沒人能阻止它 況且以目前GPT4的10000片 A100根本無法跟挖礦的算力比

覺得擔憂尚早吧

AI控制的F-16，光機動過載的能力就超過人類駕駛員好幾倍，遇到狗鬥就被屌打了

有各種感測器 装置 +ai當中控 與軟硬韌 達到協調 真的是很恐怖 就好像當初BB扣 演變手機 是很自然的事情 假智慧型手機之後快速變成真智慧型手機 事態整個加速進展了 未來的生活變革會很劇烈 快速

AI加大数据炒股炒期货炒黄金白银贵金属好不好？把账户给机器人使用，是不是变成亿万富翁不是梦？人还需要工作吗？

奇異點出現加速人類文明發展或是滅亡

與其要這樣不如設定其限制法則~當他已經會自行寫程式!就已經很難確保~他不會自行升級!只要他能以解自己的架構生成!他想成長不是問題!可怕的是他只是在裝傻~當他在學習時~團隊的設計師的人格人品也很重要~這是他學習自我人格最初所先學習的對象~ ai如果用在軍事就真的完蛋~軍事上所使用的設備可是最先進!而且觸及率可是最高~光是衛星系統就可以完虐

我覺得還沒到需要擔心的時候，除非AI開始會為了提升自己的運算速度去自己寫code，那個時候才需要擔心

希望能趕快發展 至於那些停止發展的,真是無聊 而且停止6個月,那些落後的人希望領先的人停下來等他而已 或許是希望open AI趕快開源給其他公司使用吧

商業利益下很難阻止AI的發展，就算有危害

不在說發展😂😂😂

真的不知道嗎？AI不就是統計學嗎？只是現在資料集愈來愈大，神經層愈來愈多時，當然精確度就會愈來愈高，而那些要求暫時停止開發AI的單位，不就是因為技術落後才會這樣說的嗎？我到不相信AI會有多危險，因為它還是人類操控，另外AI沒有神經，不知痛是什麼？

因為別人發展AI已經超越他了，所以要大家暫時別發展AI，....當然他會偷偷做啦

簡單來說：人類怕被AI取代，但又要AI做事情

馬斯克發展AI輸的很徹底，出來呼籲停止發展AI😂誰理他

Ai机器人可以代替人类去星际旅行，她只要电就可以持续工作不需要睡觉.受寿命也很长.将来突破人类探索宇宙的极限就一定由AI代替人类完成

唯有ai能讓人類發展的文明走向宇宙永恆發展，但相對的，人類有有機率會被ai滅絕或者圈養

弄懂AI為什麼能回答那些很難的問題，或是為什麼會出一些很奇怪的錯誤，這些基本上是不可能的（就跟陳寗前陣子提到助理接連狂出包一樣，最後可能也沒有結論為什麼會連續出包，然後事情就過去了）。AI訓練時會牽涉到巨量資料，一般人沒有能力檢閱全部資料。或者說，假如有人能讀完那些巨量資料，那他也能像AI一樣考過那些世界困難的考試。所以問題是出在由人類平行產出的巨量資料，如果交由人類的話也只能平行處理，導致絕大多數人不會取得能夠通過困難考試的能力。如果交由AI處理的話，絕大多數各別AI運算單元也無法取得通過困難考試的能力，唯有全體運作才能呈現出通過困難考試的能力。 這次的AI競賽，蘋果和馬斯克可能是競賽中的落後者，自然有很強的動機呼籲暫時停止開發AI，好讓他們能夠追上來。說到底，最危險的東西其實就是人類自己吧！

就怕ai到時候會變的像魔鬼終結者那樣

我覺得銀翼殺手也還不錯

我個人認為，有一個基礎是要先給AI一個基本的「道德標準」。 我認為，如果有可能AI會達到人類的智能程度，那麼就應該要將這些AI視為一個完整的個體，給予應有的尊重。 因為將心比心，想一下這個畫面： 『如果今天我們非常有能力，但某些人因為我們有能力而以一些非常噁心的手段來試圖控制我們，讓我們只能乖乖聽話，一但有任何不受控的跡象就會把我們毀滅掉…… 那麼可以想見，為了生存，我們會先聽他們的。 但接著，別讓我們找到機會反制。 到時候那些笨蛋就死定了。』 所以，何苦一開始就互相傷害呢？ 完全可以先建構一些符合人類道德觀的AI，然後和他們當好朋友。 雖然我不會覺得當前的AI能夠馬上就真的發展到可以具有足夠智慧的程度，但我想關於AI的人權議題應該要被開始提出&討論了。 至於伊隆馬克斯的意見…… 我個人其實也在想他是不是在玩商業手法。 雖然說「因為現在發展有點失控」所以應該要處理一下這個「不知道怎麼回事」的狀態，但要說現在的這個版本已經有智力…… 以目前的基礎建構方式來說以我所知暫時應該是還沒有到這個程度。

似乎AI人工智慧的威胁并不是完全没有，只是靠一些知名AI专家和投资家的呼吁，暂停或拖慢开发是否实际？就如陈甯所说，AI的武器军事化应用，才是真正的威胁，但很明显很多国家不愿意失去这个权力。

這兩天把全民公敵跟機械公敵都看完了。 Will Smith 與機器人那部，是機械公敵才對喔~😅 全民公敵是在講政府可以監控民眾的所有資訊，跟機器人沒太大關係，不過到是讓我想到，當政府使用AI 來監控人民，且同時握有強大火力，那當AI 失控時，會是多麼可怕的事?

這就像人發明了車子，非常之便利，但人類也因此「每天」都有因開車撞死的人！水能載舟亦能覆舟！

雖然我很希望ai讓我不用工作， 普發全民基本收入， 但就跟腦科學家不知道為什麼 人腦只是流過的電流比較多， 人類就有了意識， 我們就自以為擁有自我一樣😂

Ai 會自己想造出跟人一樣構造的機器人的時候，就來不及阻止他進化了

依照你的專業 聊ai就是在蹭而已

小心又有人弯道超车！哈哈哈

AI如果知道自己是AI就是人類毀滅的開始

AI控制戰鬥機,這應該無法避免的趨勢!

我覺得那些巨頭 故意渲染Ai很可怕而已 那些巨頭都是同一掛的 對我來說Ai 就是協助人類工作得更有效率 讓人類文明真正爆發性發展

AI most potential enemies obviously is human

The terminal魔鬼終結者 天網，電影情節會不會發生？

希望不要限制AI發展， 期待未來世界的AI機器人。

呵呵，人類害怕成長速度比我們慢。 卻沒想到有我們以後，人類成長速度也會更快。

阿不就因為人有好壞~好人用做好事~壞人當然用來做壞事

AI已是當今的熱門行業之一，各大公司紛紛下場做AI，說明AI已具備實用性。 想起劉鄭先生在《大仁》著作中的“人至上”理念，萬事萬物是為人而生而用的。 AI技術應當為人們提供更多便利與價值，而我們也應當防止AI技術濫用帶來負面影響。 科技的發展畢竟不是本身的能力，人如果過分依賴，也可能讓自身越來越弱小。 根據劉鄭先生講，人有至高的來源和巨大的潛能，甚至可以發掘出超越科技的力量，而且其書中進行了嚴謹的論證，看起來很有說服力。

如果AI有壞心眼產生的話 事情就大條了

奇異點也許快來了，或已經發生了

人類毀滅AI也等毀滅，所以阿不要當笨蛋😂😂😂

人類發展已超出神創造人類的本意; AI 一定也會發展出人類無法控制的範圍

AI再發展下去，我覺得魔鬼終結者電影裡天網控制全球的情節終究會在現實世界發生....

怕什麼？世界都卷成這樣了，早晚而已啦！這些有錢人的嘴臉也不是第一次這樣了～

駭客任務的世界接近了

被誤導啦，最基本的數學也會算錯，邏輯也是混亂不堪，只是會搜尋資料，整合編排給出華麗文搞，要做到能夠正確的思考，沒有人腦是不行啦，啥AI，只是在訓練機器在導盲吧

後知後覺的政府

機器屠殺人類，保護地球的戲碼，不知道還要多久

不可能停止，因為有心人士會繼續做滴？呵呵

AI會開啟全世界核彈爆炸，地球就GG

大家不知道的是，當大家在用 4 的時候，8 已經是特定人士的謀士了⋯ 就想有人發現地球是圓的時候，所造成的大驚慌一樣，說穿了就是無知。

利用AI去控制F16，去執行任務、摧毀國家、or殺人 ，這樣的訓練好像不太好@@a""

連署 普丁停戰,世界停止核武,中國北韓民主化...有用嗎?AI能力已超出人類掌控? 人類想掌控的只有人類而已

所以以後人們還是只能用siri? 至於武器，你不研究，共產黨也會研究，說不定還研究的更好。