【ChatGPT-4o】歴史に関する存在しない書物を捏造する問題とその使い方 

「外国人（俳優とかから口コミまで）が感動した日本」系も大体これでソース不明なんだよね～。

コレを元にして拡散されてしまえばネット上で捏造し放題ってことになっちゃうのか。

一般認識と専門認識が異なるのは歴史の話だけじゃないってことは、 武士道さんには理解していて欲しかったですね。

この動画は生成AIの使い方の説明の動画ではなくて、情報を集めるときの取捨選択の方法、重要性の注意喚起をする動画だと思います。 インターネットの記事上で実例が出てる以上、生成AIはとても有用なものではあるが使い方を間違えるとやばいと動画上で言われてますし。

@@まちたこ-c4s まず「生成AIの使い方の説明の動画」かどうかの話はしていません。 貴方もわかってい無さそうですが、そもそも歴史の話のみではなく生成AIに知識を求める使い方をしようとする時点で、それは生成AIの使用目的から間違っているんです。 正確な例えになっていないかもしれませんが、武士道さんが言ってる事って 「飛行機で地球上のどこにでも行けると思ったら、近くのスーパーには行けなかった。（行きづらかった。）だから飛行機はあてにならない。」 みたいな内容だという事です。 飛行機についてこのレベルの話であれば一般認識と専門認識に乖離が無いのでこういう会話にはなりませんが、 生成AIについては一般認識と専門認識に乖離があって、そこを理解せずに生成AIは使えないやら、怖いやらなんて話をするのはナンセンスだという話です。 使用目的が違うものを使っておいて、「皆さんあてにならないので気を付けましょう」じゃないんですよ。 歴史の話で散々一般と専門で認識が異なる話をしているなら、それが別分野の専門分野にもあてはまることくらい気をつけろって話です。 アサクリの教訓が全く活きてない。

@@tailsub3068 あなたの言いたいことも分かりますが、おそらく武士道さんが言いたいことについて分かっていないと思います。 武士道さんが話題に上げているのは「生成AI」ではなくて「生成AIを使う人」です。飛行機に乗る人に専門知識や資格が必要ないのと同じで生成AIも誰でも使えます。しかしそれ故に誤った情報が発信される可能性があるので取捨選択できないと怖いということです。生成AIが直接的に怖いとは一言も言ってないと思います。

@@まちたこ-c4s 0:15「AIは怖い」 2:07「AIに警戒しろ」 言ってますよね？ 更に、 3:07「何をエビデンスにしてるんだ？」 生成AI自体にエビデンスの精度を求めてますけど、そういう使用目的が間違っているんです。 特に問題だと言っている5:04の辺りも、生成AIの回答を問題視してるけど、 生成AIに知識を求めてるいる時点で話がおかしいんですよ。 これもうまい例えじゃないかもですが「フォークでスープが飲みづらい。だからフォークは使えない。」って言っているようなものです。 現に他の人のコメントも見てくださいよ。 AIが嘘をつくやら改竄するやらバグがあるやら書いてますよね？ 上の例えの続きを書くなら「フォークはスープが飲みづらいこともあるので、フォークを使う時には気を付けましょう」って話をして、 それを聞いて「そうだよねーフォークって使いづらいもんね。」ってコメントが帰ってきているのが、この状況です。 この話を聞いて、フォークが何かがわかってないから、正しい解説になっていないって思えないんだったら、 もう話せることは無いです。 で、武士道さんが元々言いたい話はわかってますよ。 ただ前提から大きく間違って入っているから話として成立していなくて、コメント欄みたいな受け取り方が起きているんですよ。 「生成AI」を話題にしているのではなく「生成AIを使う人」を話題にあげる話にせよ、 「生成AIが何か」をわかっていないから、話がナンセンスになっているということです。