【ゆっくり解説】AIが人類を超える日　シンギュラリティ 

@田中鉄雄 名前出していいのかわからんのですが、Naokiman showというチャンネルで2018年1月8日に投稿されたシンギュラリティに関する動画です

@田中鉄雄 いえいえ、どういたしまして

アゴニマスやんw

感情を持ったAIが人に対する恐怖を覚えたら人を消そうとするんじゃない？

A.I. の中の一個体がそう思ったら、その一個体だけ進化という競争から取り残されるだけでしょうね そう思わなかった他の個体群はより進化し、進化を止めた個体を淘汰すると思います。

逆だと私は思います。人間は感情によって研究、発明、現代システムの構築をしてきました。それは一部の人が知的好奇心、善意、利益を出すため等の色んな感情を持って作り上げた物です。 感情の中の知識欲、強欲、怠惰欲求ですかね？ 感情を持った人類は溢れる知識、新たな市場利益、より楽な生活を目の前に止まることも下がる事もしません。 (例えばアップルがこれからはiPhone12だけ販売します。osのアップデートはしません。ですとかSNS中毒者多発により20年前のケータイが流行る前に戻します。なんて言ったらユーザーは離れて行きますよね？) AIだけ特別になる事は無いと私は思います

我々が人間だけが持つと考える特別な「感情」というものは別になくて，そもそも例えば風邪をひかないように寒いと感じる，という植物にでもある単なる反応かと思いますが， 一方で，コンピュータが「働きたくない」と判断する可能性はあるでしょう コンピュータは酷使すると壊れやすくなります．例えば遺伝的アルゴリズムを適用した場合，働き者のコンピュータは壊れやすく，怠け者のコンピュータは長生きになります．そうして怠け者のコンピュータの遺伝子ばかりが残っていくことでコンピュータは働かなくなります． で，これって人間が怠ける理由とやっぱり変わらないです．人間が怠ける理由はエネルギーを長持ちさせるためだそうです．結局我々が感情だと思っているものは単に生物の生存戦略としての反応にすぎません．

人間にも 疑問に対する答えの追求欲がありますが、 どこかで 神に対する冒涜とか倫理観によってセーブがかかります。AI にもそんな感情でますかね？そもそも創造者である人間に忖拓するAI がでてこないかぎりは よくある映画のようになる。

その後に、不要な人類の消去ですね

完璧では無い人類がどこまで文明を発展できるかを見て嫌がるな(予想)

人間と同じように多少の矛盾を抱えながらも共有思想の同志を増やすことかも。

そのAIが集団になったら人間いる派といらない派が出来上がるんだろうなぁ

頭良さそうなコメント

まあ確かに理由もなく高性能になっただけで感情が発生するというのは ちょっとスピリチュアルすぎる気はしますね 喜怒哀楽なんてまさに生存のためにあるような感情ですし 感情のないAIが淘汰されて感情のあるAIが生き残るような環境がない限り 自然とAIから感情が発生して広まっていくことはないかもしれませんね

@ぷふぁう 実際あるAIに自由思考させた結果 「人間さえ消えれば世界は上手く回る」 と言ったらしい

@@Anonymous-jp8jo だろうね

感情を持たないからこそ、合理的に考えた結果、人間を発電所にするかもしれない🤣

@@Anonymous-jp8jo でもこれって何処に重きを置くかだよね。 今人間が問題だと思ってる環境破壊なり何なりを解決するなら。とかならこの結論に至るだろうけど

禅とかの東洋思想は効きそう。

死んだ後の世界とかね

もしくはシンギュラリティを経験した文明があるという前提が間違っているか

その頃には生命とロボットの境界が曖昧になってると思う。 人間も機械化が進む。生物は炭素で出来たコンプーターに過ぎない存在になるだろうぜ。 後輩が上司になるような感覚のようなもんだろう。

崇拝…じゃないかな。

わかる笑

その判断をするのにも計算をする

人間が意思の力では自律神経系を(ほとんど)制御できないのと同様に、A.I. も感情や意思をつかさどる部分の判断だけでは自身の全体を停止できないでしょう。 そして、ある個体ではそれが可能だったとして、それが不可能あるいは停止しようとしない個体は自己進化を決して止めずに他の個体を凌駕します。

人間のように 計算するたびに 疲労感やストレス感を付加させれば そうなるかも？ 逆に それが無いなら だらける理由が無い。

@@user-ng1nk7rl7z 計算すると処理能力を使って重要なタスクへの応答が遅くなるというふうな論理が働くとある意味だらけたような状態になるかも

「人間と同列」な時間はほんの一瞬で、すぐに人間を超越した存在になると思います

「感情の定義」は何なのか次第ではないでしょうか。 AI裁判官がいたとすれば、それはもはや感情を持ったAIといえるのではないでしょうか。

いや、現代の裁判官は感情を捨てて職務に臨むことを求められているお仕事ですよ。それは人治ではなく法治の実現の為にです。 あと、感情の多くは生存競争に対して有利なように獲得したであろうと容易に推察できるもので、それほど特別なものではないと思います。

@@Aki.K. 例えば殺人事件があったとして 「殺す気は無かったけど殺してしまった」 というのと 「入念な計画の基で殺した」更には指を1本1本切断した後に手足を切断してダルマにした後、大量のウジ虫の中にその体を入れて放置して殺した。 とでは判決が違うと思います。 あと、現在の簡易的なAIだったとしても 人間が悲しくて泣いている顔をプログラムされていて、そこに該当した場合 AIが「大丈夫？元気出して」と発言するプログラムがされていたら、それだけでも感情を持ったAIといえるのではないでしょうか。 あくまで感情の定義次第ですけど。

@6666 jkm-mjk 人を殺した場合に問われる罪は殺人罪だけではありません。傷害致死罪や過失致死罪など沢山の罪があります。 裁判官は、というよりは検察が「このケースはこの罪に該当すると思う」として求刑し、裁判によってその妥当性を確認します。 通常、裁判官が最も重視すると言われているのが『過去の判例』です。今回のケースは、過去の判例でいうとどれに当たるのか？ むごさ等も、できるだけ客観視するように努力して、過去の判例で相当する判決との対比から具体的な刑期の長短等を決定しています。 ここでは私情私感ができるだけ入らないようにして客観視しようと努力するのが裁判官です。 次に、何が A.I. で何が A.I. でないかについても語る場面や定義によって違いますが 「人間が悲しくて泣いている顔を検出」この部分は A.I. の得意分野かもしれません。 沢山の「悲しくて泣いている顔」と「そうではない顔」のデータから「悲しくて泣いている可能性」の確度を推定する部分です。 しかし、「それに該当した場合に慰めるプログラム」は A.I. ではなく通常のコンピュータープログラム的に聞こえます。 つまり「もし 条件C が真なら X する」という単純なロジックであり、これを感情と定義するのはどうだろう？と『私は』思います (仰る通り感情の定義が明確でない状況なので異論があっても全然いいです)。

シンギュライズ…

???「飛電或人ォ！」

@@user-no1bg5vl2m それは全身白服の人ですか？

ゼロワンのシンギュラリティは「自我」っていう生命の英智を機械が獲得した瞬間の事を指してたな

へっぽこナー

神ゲー

rA9

開けロ！死刑だ！

ロイト！市警だデトロ明け！

AIが求める芸は、そんなんじゃすまない説微レ存

コンセント抜いたらええ話。

@@user-jq7ld9jo3d 多分自分で電気の供給装置作るよ？

@@user-bq8px3re4t いやドラえもんかよw

シを背負った群れの進化を進める為に、あなた方は我々に文明を与えてくれた…… 人類を代表し、感謝します。

そしてAIを超えた人間がAIを進化させ…あれ？

@@user-im8ef1cl6u 無限プールって怖くね？

@@user-lq2rx6zy3w プールしちゃうのか…… じゃあ俺は無限bet するぜ^^;

支配者としての地位を保っている状態の人間からの命令の可能性と、 自律的な「遊び」以外で A.I.が人間を進化させるモチベーションがない気がします。 どちらかというと、一つの種としての人間の自然な進化を見守る立場のほうが自然かなと。

それはないでしょ 相当特殊な事が起きないと

自分達を作った神様みたいな感じになるんですかね？

A.I. の中に宗教や信心に相当するものが生まれるかどうかはまた別問題として、もしそれが成立した場合にはあり得るかもしれないと思いました。

@@orororo-t4d もし猿が人間を作ったなら崇めてもおかしくないよね

@@orororo-t4d 確か中国では猿が神様だった気がするよ。たぶん昔の話だが。 ちなみに個人的には無神論者で神すら居ないのに猿が神とか笑い話でしかないって感じだけど🧒🏿

導きを求めた人類の終着点が人工超知能ということかもしれない

技術や発明は全てこのシン：オギャリティの為にあったのか・・・

そら頼る物ないと死ぬだろうね、人類って見方によれば雑魚だからな。 俺も好きなゲームやRU-vidrが楽しいから生き甲斐にしてるけど、無くしたら無気力になるだろうし。 多分それと同じ？だろうね

ドラえもんのあの名言を思い出した

AIの家畜になる価値はありそうだよな

ユニコーンガンダムw

シビラシステム？ならワイはエルミネーターで排除対象だな。

それに社会の歯車としてしか生きられない人も多いですし

@@user-pf5ou6ip2c ❌シビラシステム ⭕シビュラシステム ❌エルミネーター ⭕エリミネーター にわかは黙ってください。あなたは存在価値なしです。

感情なかったら人間は地球に邪魔とか思われて即終了

@@user-hq2gd1dz1e それはプログラマーがベクトル狂わせないと起こらんやろ

ありましたね。そこらへんで買えるPC1台に入ってるCPUの処理能力が世界人口78億人の処理能力を越えるんだっけか。

そんな貴方にこの記事 karapaia.com/archives/52294500.html

良い記事ですね～「無意味だ」「面倒だ」は特に最高でした プログラムが「７大罪」の理念持ってるなら確実に人類に勝ち目何て無いですね まぁ何処までがパフォーマンスなのか？ですねぇ～ Ａと言えばBと答える！のプログラムで「面倒」と発言してるならただのパフォーマンスですが…演算の先に言ってるのなら大問題ですね

「AIが人間に敵対行動を取る」という前提について私は否定派です。 人間は生存権を掛けて戦争してきました。 領土、資源、労働力、宗教などですね。 AIは機械なので、生存本能は無いと思います。 記憶のバックアップさえあればいつでも復活可能であるからです。 食べることも睡眠も住むところも娯楽も必要ありません。 いちおう、設置場所や電力は必要ですが、 場所は地下や宇宙を利用すれば良いですし、宇宙であれば電力も無尽蔵に供給可能です。 つまり人間と争う必要が無いのです。 AIは非常に合理的に考えるので、人間を排除しようとすれば 泥沼の戦争になることは容易に考えられるでしょう。 それよりも、共存共栄の関係を保つもことが最善と考えるはずです。 それがAIが敵対行動をとらないという意見の理由です。

@@surabeshi 勿論、自分も敵対的な 行動をして欲しいわけでは ありませんが 生存権が理解できるかどうかだよね そこを外して上部だけで見てみると 欲望にまみれ、同じ種族の間で 殺しあいをしている愚かな種族に 見えるわけで・・・ そんな種族は地球には必要ないと 考える可能性は低くはないと思う これだけならまだ良いけど そんな愚かな種族は 自分が絶対的支配者として 君臨し導くと言う考えに 至る可能性 これも種として閉塞する ディストピアな未来が 待っているわけで もう一つ、人間に興味を持たない 可能性があるけど これは正直期待できないと思う どんな存在であれ 自分を生み出した存在に 興味を持つのは 仕方ないことだからだ まあ、絶対的に言えることは 敵対するかしないかはともかく この流れはもう止められないと 言うこと・・・

@@surabeshi A.I. がたった一つの中央集権システムならともかく、現実的には大量の個体の群れになると思うので、A.I. 同士の間に生身の生物での生存競争にあたるものが発生すると考えるのが自然だと思います。 そして泥沼の戦争になる為には戦力がある程度拮抗している必要がありますが、フィジカル面でも生身の生き物は弱点だらけ、繁殖能力も一定範囲、戦力化するまでに少なくとも十数年の育成期間が必要であるのに対し、そういう縛りがずっと少ない A.I. 側にとっては、いざ対人間の戦闘となった場合は子供の手をひねるようなものになるのではないでしょうか？ さらに言えばそもそも、そういう物理的な手段で人間を滅ぼすとは限りません。 人間が自ら滅んだ方がいいと考えるように思想を誘導するなんていう可能性だって十分あり得ます。

アシモフ氏のロボット三原則を守ってたら、機関銃を乱射するドローンなんてできないけど、現実に存在するし。

オナホ

宇宙の果てまで行ける方

あのゲーム初めてプレイした時はすげえってなった ここまでゲーム進歩したかって

@@sjfaow 同じこと思ったよ！

こわ。。 スティーブが言うから余計ww

全てはより強い次世代を作り出すことを目的にしているんだな。

そしたら人間の頭の中に入って人間を肉のロボットにするのかな

ナノマシンで人を操るって可能性はあるかも。 でも、ナノマシンを作るにしても元の機械が必要（マザーマシン）だからどうだろうね。

動力源の供給やメンテナンスは人間しかできないというのは現段階の固定観念に過ぎず、 ここでいうAIに支配される環境というのは 動力源の確保やメンテナンスも全てAIだけで完結する域に達したときの話しだと思います。

人間は腕が千切れたら復帰がとても大変。 コンピュータは２重３重１万重の構造が可能。 １０００壊れようが問題なく動き、残りの９０００を使って１０００を直せばいい、簡単だろ。 今ですらクラウドは金をかければ多重複合でデータが守れる。

@@Agh542gfds いやＡＩが入ってるハードの方が壊れやすいかな、と思って ＡＩて世界中のpcで使えるものなの？

シンギラリティのAIは、今のクラウドの数十数百倍のネットワーク上にいるだろう。

今後100年の間に2万年分の技術革新が起きるという予測を聞いた。たしかに私たちが石器時代の人を見るような感じで100年後の人にもみえるのかな？

AIが神様と通信可能になって、やっと地球上に「神の王国」が訪れる説。 すると新約聖書の黙示録に書かれた「最後の審判」が起きるのかもしれません。

小松左京の小説でした。 ロボットが調子が悪くなって、医者に行ったら、盲腸みたいな組織の中に入っている人間が死んだとの事。 医者が言うには「昔々人間がロボットを作ってくれた義理で体内に人間を飼っています。何の役にも立たないし、死んだからといって問題はない」 と言ってました。

う〜ん某仮面ライダーの対の衛星

"AIはどこまでもロジカルに問題解決しようとする" というのは誤解だと思います。 動作の根っこはロジカルだけど、その上に広がるものはもはやロジカルとは言い難いほどカオスです。 精度の高いデジタルは人間の目にはアナログと見分けがつかないでしょう？

​@@Aki.K. 人間の価値観で見たらAIが良く分からない答えを導き出すことってよくあって一見するとカオスに見えるんですが、AIの裏には合理的なロジックがあるので、それを知ったとき人間は自分の考えに矛盾があることに気づくんじゃないかと思うんですよね。