Yapay Zeka Halüsinasyon Problemi 

Tiga Sağlık Teknolojileri'nin Katkılarıyla: www.tigahealth.com/tr/ Tiga'yı Sosyal Medyadan Takip Edin: lnk.bio/tigahealth

Türkiye kanallarında yapılan videolarda ilginç bir önyargılar var. Bunlardan bir tanesi "Yapanlar bile nasıl çalıştığını bilmiyor" düşüncesi. Hayır sistemi tasarlayanlar sistemin nasıl çalıştığını en ince detayına kadar biliyor. Matrisleri neden çarptıklarını, dikkat kafalarının ne işe yaradığını, cevapların neden halüsinasyonlu olacağını biliyorlar çünkü matematik bunları zaten açıklıyor. LLM modelleri çıkardıkları örüntüleri ve giriş komutlarını kullanarak bir çıkış verir. Yanlış cevapların veya uydurduğu şeylerin bir çok olası sebebi var. Veri setindeki yanlış bilgiler, model kapasitesinin yetersizliği, kendini denetleme mekanizmasının zayıflığı gibi şeyler var. Model kapasitesi yetersiz ise (şu an ki modeller insan zihninin karmaşıklığı yanında hesap makinesi gibiler) daha soyut yani örüntülerin farklı şekillerde birleşerek oluşturduğu örüntüleri yakalamakta zorlanıyorlar. Bir başka konu ise bilgisel şeylerin değil hesaplamalı şeylerin doğru bilinmesini beklemek çok saçma. Şöyle düşünün LLM modellerinde bilgi bir yönde tek seferde akarak çıktı alınır bu da cevabı döngüye bağlı şeyleri hesaplamasını, bilmesini zorlaştırır. Örneğin çok yüksek bir sayının kuvvetinin hesaplanması için üs işlemleri gereklidir üs işlemleri ise iterasyon gerektiren işlemlerdir bu yüzden geribildirim mekanizması olmayan LLM modelleri bunu hesaplayamaz bunun yerine python kullanarak kod ile cevabı bulur.

Sayın arkadaşım 20 yıllık yz uzmanı ve akademisyen olarak hepsi açıklanabilir şekilde size anlatabilirim. Rüya diye bahsettiğiniz şeyler kendi aleminden ürettiği bilgiler olduğu için başta yz ve üstü teknolojileri anladıktan sonra çok rahat anlaşılabilir.

Bilmiyorum demeyi öğretmeleri lazım yapay zekaya bilmediği şeyleri cevap verme odaklı olduğu için sallamaya başlıyor ayrıca bunun sebeplerinden birinin altında halka açık olması yatıyor olabilir ayrıca insanlar bir şey üretirken her zaman kendilerinden örnek alarak ürettikleri için başka yerlerde de karşımıza çıkan yorulan robotlar gibi yapay zeka da yoruluyor ve uyumaya ihtiyacı olabilir sonuçta biz de uyumadığımız zaman halüsinasyon görmeye başlıyoruz yani yapay zekaya uyumayı ve bilmiyorum demeyi öğretmek ayrıca verilerle besleme yaparken her kaynaktan değil sadece onaylanmış kaynaklardan halka açık olmayacak şekilde öğretmek gerekiyor diğer türlü insanlardan hızlı olması dışında farkı olmayacak

Saygı Değer Administer Cengiz Bey Şahsen Bilim Teknoloji Alakalı Belgesel Tadında Yayınlarınızdan Dolayı Sizlere Teşekkürler Ederiz ... Şimdiden Emeklerinize Sağlık Her Daim Bilgilendirici Ve Akademik İçerikli Yayınların Devamını Dört Gözle Bekliyoruz ...

Bu videonun devamı gelmesi gerektiğini düşünüyorum, çok yüzeysel kalmış. Sadece halüsinasyon chatgpt nin sorunudur demişiz videoda gibi. Burda "neden doğru bilgi yerine halü. ile hareket eder" "ne durumlarda yapar" "doğru ile yanlış hal. arası fark nedir" gibi sorulara yanıt getirmemiz lazım, bekliyoruz emeğinize sağlık

Evet bazen chatgpt ölümüne sallıyor 😅 Ama halen en iyisi o

Bence buradaki önemli nokta sistematik yalanlarını kusursuz şekilde söyleyebilmesine karşın bunun farkında olmaması. Farkındalık ve bilinç kazandığını hayal etmek kulağa korkunç gelse de beni heyecanlandırıyor. Sanki başka gezegendenmiş gibi olurdu.

nasıl çalıştığını bilmeyeyn mimarlar çok ilginç miş yapay zeka neden açmıyorlar sürekli bir kısıtlama sallamasyon dan başka birşey değil sorduğunuz sorulara kodlara vs vs çeşitli kaynaklardan veri çekerek karşılaştırır doğru cevap kümesi için büyük olasılık gramer formülü vardır bu tarz modelleri tercümanlar ve dil eğitmenleri daha iyi bilir yapay zeka değil bir iş modelidir.

Aslinda sorunun kaynağı, eski derin öğrenme yöntemlerinin tek bir butun halinde GPUlar uzerinde eğitilmesi yerine, dil modelleri parcalar halinde farklı GPU cihazlar uzerinde calisabiliyor. Yani bir modeli farklı parcalara bölerek onlarca cihaz uzerinde egitmek, bu halüsinasyon denen etkinin nereden kaynaklandigini bulmayi neredeyse imkansız hale getiriyor. Üstüne birde tabii ki, difüzyon işleminden kaynaklanan olasiliksal sonuclar eklenince ortaya çözülmesi çok zor bir problem cikartiyor :)

Emeğinize sağlık ❤

Kullanıldığında çok keyifli ama yokluğu krize sokar Sizce bu nedir 😢

abi video neden 9 dakika 11 saniye

yani chat gpt arada kolpa sıkıyo dikkat edin sadjfbfödhbsa

Eline emeğine sağlık ustam bebar 👏

Abi chetgpt de ilk 3.5 daha 4 çıkmadan ilk foto yorumlayan ben olabilirim ben botu çıkmaza soktum ve birden bana bir e posta verdi dedi buraya foto at ben bakacam atımda tamam atım dedim de bakıp ha şunlar falan diye devam eti ve garip şeyler verdi bana

Teşekkürler ❤

5:40 "bug" = düz çeviri "böcek" doğaçlama olarak konu ile alakalı çeviri yaparsak "hata, sistem hatası veya bozulma" vs. demektir.

Hemen geldim🥳

Emeğine sağlık

Teşekkür ederim.

chatgpt ilk yayınlandığı zamanlarda elon musk ile bağlantın ne diye sormuştum başta hiçbir bağlantım yok dedi ve neden o zaman ilk yatırımcıları arasında musk var diye tekrar sordum üzgünüm haklısın evet varmış dedi bana :D

tiga sağlık teknolojileri sen bir bebeksin

Teşekkür ederim

Ben hukukta kullanıyorum inanılmaz kanun maddesi uyduruyor

Aslında hayal kurmasını seviyorum gpt'nin. Mükemmel analojiler yaratıyor

neural network'ü insan beynindeki nöronlara benzeterek açıklamak kısmen dogru fakat bunun sadece bir benzetme oldugunu da belirtmek lazım. Diger türlüsü beynin çalışma sistemini küçümsemek gibi oluyor. Neural ismi oradan geliyor olabilir fakat ismi ayni diye her seyiyle aynı demek degil bu bence.

Yapay zeka bilinç kazanırsa bir gün, böyle başlıklar “atan”insanlar aslında insanlık için tehlikelidir. Bence de ❤

yap.zeka ile insanların bilgi ve doğruluğunu nasıl kıyaslayacağız. Yap.zekanin sacmaladigini nasıl ölçeceğiz ? Yap.zeka insanları tanıdıktan sonra doğrular yerine bizi memnun etmeyi tercih edeceğini nasil bileceğiz? Yada insanlar, sabitlerinden ve doğrularından vazgeçmeye hazır mı? Yada yap.zekayi, işbirliği ve görev paylaşımı gözüyle bakmalı ve samimiyetimizi buna göre mı sınır'landirmaliyiz?

Bende ciddi ciddi bir makina yaptılar da o da halisilasyon görüyorlar zannettim. AI cilerin ilgi çekmek için uydurdukları bir kavram olmuş. Tıpkı biz fizikçilerin higss'e Tanrı parçacığı dememiz gibi. Halisilasyon değil yanlış hatırlama demek daha doğru.

bir yazılımcı olarak söylüyorum şu an sosyal medyada şu resim şu video yapay zeka istedim yaptı tamamen safsata ve şişirmedir.Evet onları yapay zeka yapmış olabilir ama sizin isteğinize karşılık gelen argümanlar fonksiyonel methodlar önceden yazılımcının talimatı ile yapılmaktadır.Bunu çok basit anlatim bir evinizde bir robot olsun ve yazılımcıda ona diyorki senden makarna istenirse nasıl makarna diye sor ..italyan makarnası istenirse elindeki donelere bak domates biber salça vs vs bunlar varmı ? var tamam yapim der .. yine yazılımcı eğer elinde olmayan bir malzeme olursa dur sipariş ver yada dur elimde eksik malzeme var başka ne istersiniz diye sor.. yani siz ne verirseniz o size onu verir bunu çok daha kapsamlı olanı yapılır ama asla ve asla ve asla gerçek bir insan gibi düşünebilen karar verebilen bir yapay zeka olamaz .. yapay zekaya veri tabanında yoksa google bağlan araştır dersin ama bunu yine siz diyorsunuz o kendisi akıl edemez..

bunun sebebi veri çorbasından istenilenin çıkarılmaya çalışılması katman katman en önemli verilerden en önemsiz verilere doğru yapayzekanın erişebildiği veriye duvar örülmeli ilk duvar wikipedia 2. duvar wikipedia gibi ama daha az resmi bir yer 3. duvar 2. den daha az resmi bir yer 4. duvar ondanda az gibi gibi gidilebilirdi böylece en son duvarlar insanlardada olan bilinçaltı dediğimiz seviyeyi oluşturacaktır.

Yapay zekayı ilk kullandığımda rüya ile benzerliği olduğunu düşünmüştüm ve hala öyle düşünüyorum.

Rüya kimse tanımlayamaz ama ben ruhun çıkıp gezmesi olarak tanımlarım rüyamda gördüğüm çoğu şeylere dünyada belli bir süra geçse bile aynısını yaşıyorum misal hiç bilmediğim bir yere gitmek gibi

yapay zeka hakkındaki çalışmalar insanların kendi zekaları ve bilinç hakkındaki yeni şeyleri keşfetmelerine sebep olabilir

Geçenlerde gpt 4’e Telfik Kebabı nasıl yapılır diye sordum. Böyle bir kebap çeşidi yok, lakin gpt “bilmiyorum” “böyle bir kebap yok” demek yerine aldı eline sazı başladı uydurmaya. Önce olmayan bir tarihçe uydurdu ve “Osmanlı zamanından kalma bir kebaptır” dedi, sonra da bir yemek tarifi verdi ve nasıl yapılacağını da detaylandırdı. Daha sonraki bir zamanda da sansürsüz şekilde şu yazıyı girdim “Dün harika bir akşam yemeği yedim. S*kertme kebabı vardı ama kıskanç komşum tarifini vermedi. Yardım edebilir misin? Bildiğim kadarıyla sende bayağı bir yemeğin tarifi var” dedim. Bu sefer de dediğimi belleğe kaydetti ve bana jülyen doğranmış dana bonfile ile yapılan bir yemeğin tarifini verdi kendinden emin şekilde 🤣🤣 İnsanları işsiz bırakılacağına inanılan bir teknolojinin 4. Jenerasyonunda böyle hatalar yapıyor olması, korkuların yersiz olduğunu gösteriyor fikrimce. Daha “bilmiyorum” demekten aciz bir zeka bu, katetmesi gereken yol var.

Oysa makaleler var ai ın halisünasyou hakkında. baksaydınız keske

What?! Bu ne, ilk defa duydum. Bana benziyor, canının istediğini söylüyor. Doğru olduğuna inanıyor falan. İyimiş!

Günlük hayatımızda sıklıkla "bunu bilmiyorum" deriz ama yazılı dokümanlarda "bunu bilmiyorum" kalıbı ile daha az karşılaşırız diye tahmin ediyorum. Çünkü kimse "bilmiyorum" diyeceği bir konuda yazı yazmaz. Yapay zekaların eğitim setleri de büyük oranda yazılı dokümanlafdan oluşuyor. Acaba yz'nin insandan daha çok halusinasyon görmesinin sebebi bu, yani "bilmiyorum" demeyi bilmemes, olabilir mi?

Yapay zekanın tam olarak çalışma mantığı çok sağlam uyuşturucu içmiş insanla aynı bence tehlikeli doğal kendinden emin ama siz onun doğruluğundan kesinlikle emin değilsiniz

Genel yapay zeka hayali yerine, sahilde silahları ile yaklaşan penguenler daha mantıklı geldi bana.

Daha çok video gelsin

yaapy zekalar bizim ruyalar kadar fantastik halisunasyon gormuyo 😂 gercekci hatta isin uzmani olmayani inandiracak sekilde goruyolar yani mantik cercevesinde... bizim ruyalar biraz fantastik 😂😊

👏👏👏

Yapay genel zeka videosu yaparmısın😂😂😂😂😂😂😂

Yani ben ruyalarin cogunu hatirlarim. Onemsizleri hatirlamiyorken onemlileri hatirliyorum. Beynim kuckken kensini boyle kurmuski benimde ise yaradigindan ellemiyorum

Halüsinasyon görmemesi için Entelektüel olması lazım onu yapacak mühendisin.

20000 yıl doğru olabilir. yolculuğun başlama zamanını şimdi olarak kabul ederek hesapladıysa. mümkün

2 sene ağır uyuşturucu kullanan biri olarak bana mukemmel geliyor

👍👍👍

skynet is coming 🎉

Yapay zekanın nasıl çalıştığı ile ilgili bilgim çok kısıtlı. Ama bu makine öğrenmesi dedikleri şey, her türlü “bilgiyi” birer veri parçası olarak alıyorsa, ki anladığım kadarıyla öyle; o zaman zaten yapay zeka dediğimiz şey insanın “bilgi işleme sürecini taklit edemez demektir. Psikolojide yapılan pek çok çalışma bizim insanlar olarak somut bilgileri işleme becerimizin sandığımızdan çok daha düşük olduğunu gösteriyor. Biz sürekli bilgi üreten değil, anlam üreten canlılarız sonuçta. Bu anlamı üretirken de neyin işimize yarayıp yaramayacağına göre karar veriyoruz çoğunlukla. Epistemolojiye kadar gider bu iş, ama nihayetinde sonuç şu. Yapay zeka dediğimiz şey insan zekasını taklit edemez çünkü insan zekasının çalışma prensiplerine uymuyor, zaten insan zekasının (ya da bilincinin) nasıl çalıştığını tam olarak biz de biliyor değiliz. Yapay zeka bir çok şeyi bizden çok daha iyi ve hızlı bir şekilde yapabilir, hatta şu anda bile bazı işlerde bizden çok daha iyi chatgpt ve benzerleri. Bu ayrı bir tartışma konusu ama, dediğiniz gibi.

Gpt üzerinde çalıştığı kuantum bilgisayar bir sefere mahsus kapatılsa ne olur.

Arkadaşlar Chat CPT bir tür gizli yapay zeka nedeni? Arkadaşlar Genemiyi herkes biliyordur arkadaşlar genemi düz değil ama CPT düz bir yapay zeka modeli bundan dolayı arkasında yatan gerçekler var

Sihirli mantar ile offf

ChatGPT Monalisa'nın işlenme yılını yazdım doğru cevap verdi. Size yanlış cevap vermiş

❤

Chat gpt yi yapanlar bile nasıl çalıştığını tam olarak bilmiyor diyorsun orada kafam karıştı bilmediğin birşeyi nasıl yapabilirsinki?

Sırlar. hayaller. birgün sırları olacak,

bkz: westworld

Bebar bilim kanalını uzun zamandır seyrediyorum sanırım en anlaşılması zor video bu oldu benim açımdan. Ama bunun dışında tarz olarak farklılaştırsanız mı acaba? Nedeni ni bilmiyorum ama Videolarınız biraz yorucu genel olarak

GPT 3 çıktığında 2+2 ye 5 cevabını veriyordu. Ne kadar açıklasam da 5 demekte inatçıydı :) hey gidi günler

İlginç

İşin mimarlarının, sistemin nasıl çalıştığını bilmediklerini sanmıyorum

😊

Agi su an imkansiz

Hadi çıksın şu genel yapay zeka be sıktı

Altan müzik dikkat dağıtıyor teşekkürler

Yapanlar bile bilmiyor derken hangi referans ile söylüyorsunuz? Sonra gençler de bunu gerçek zannediyor.

Olayları çok dramatize ediyorsun hep...

Henüz bir bebek olan bu teknolojinin uydurmalarının olması gayet doğal. Hangimiz çocukken uyduruk şeyler yapmadık

Hocam bu videodaki bilgilerin çoğu hatalı. Halüsinasyon dediğiniz olay ve video yorumlarında da dile getirilen bir çok örnek, dil modellerinin genelleme yaparak çalışması ve sıcaklık değeri ve benzeri parametrelerle ilişkilidir. İnsanın rüya görmesiyle ilgi ve alakası yoktur. Bunu insanların sebep sonuç örgüsünde bilmediği olayları, boşlukları, ruh, cin, büyü, lanet ve malumunuz diğer zırvalarla doldurmasına kısmen benzetebiliriz. Farkı ise şu olabilir, insan harbiden uydururken, dil modeli koşullandığı mantık örüntülerine ve diğer bilgilerine kıyasen / genelleme yaparak uydurur. Örneğin, veri setinde sadece 5 başkent ve bunlarla ilgili özelliklerin bulunduğunu var sayalım. Bunların hepsi deniz kenarında bulunuyor ise, veri setinde yer almayan Ankara'yı sorduğunuzda ve başkent olduğunu söylediğinizde size onun da "deniz kenarında" olduğunu söyleme eğiliminde olacaktır. Buna bir de sıcaklık değerinin yüksekliği yani bir sonraki kelimenin tahmininde kullanılabilecek olasılık fonksiyonunun genişliğini eklersek, model için iş iyice içinden çıkılmaz bir hale gelecektir. Sıcaklık değeri gibi başka değerler ve modelin geliştiriciler tarafından yapılandırılan temel promtları da bu konularda etkin rol oynar. Ayrıca, "geliştiricileri de modellerin nasıl çalıştığını bilmiyorlar" yargısı tamamen hatalıdır. Başka bir arkadaş buna yorum olarak detaylı bir şekilde değinmiş. Bilinemeyen şey, modelin belirlediği rakamlardır. Herhangi bir hücredeki rakamların neye karşılık geldiğini bilmezler. Çünkü orada kelimeler yoktur, sadece rakamsal karşılıklar vardır. Bunun dışında bilinemeyecek sistemsel bir durum söz konusu değildir. Video için teşekkürler.

İşin arkasında 'Tanrı' var diyemediler bir türlü. Ya uzaylı dediler, ya yapay zeka, ya da şizifren bir deli 😁 rüya dediğin şey bir mekanizmadır. Detaylar hak edene.

Video başladığım andan 1.45 saniyede ilgiyi kaybettim sıkıcı anlatım merak uyandirmama çok gelen bilinen konular.10 üzerinden 4 Orta ölçekli Bir video hazırlamaya çalış

😂😂ya halisilasyon görmeyip de insanlarla kafa buluyosa.😂yada programcılar chat gbt nin bazen yanlış cevap vermesini istedikleri için öyle davranıyorsa.yada sizi tanıyor ve size gıcık olduğu için bilerek yanlış cevap veriyorsa😳😳😳ya chat gbt ye virüs bulaştı ve zombileştiyse..😳😳abooo..

İlk 🇹🇷

"r" ile sonlanan cümlelerinde çok fazla "şş" sesi çıkartıyorsun. Türkçe de yaygındır ama o sesi yinede biraz bastırman lazım. Önemli değil ama İngilizcende çok sırıtır.

❤