Mengenal “AI PC” & NPU : Marketing, Realita, dan Masa Depan (ft. Core Ultra 7 155H,Zenbook 14 OLED) 

Hi Guys, semoga materinya berguna ya, Rangkuman: 1) AI di Konteks komputasi PC = Workload Komputasi, ada yang ONLINE, ada yang OFFLINE/local/on-device. Workload AI umumnya terbagi ke Training dan Inferencing. Training = Membuat Model. Inferencing = Eksekusi/Menjalankan Model. Workload AI Consumer umumnya ada di INFERENCING. Workload AI ini bisa saja jalan di CPU, tapi umumnya akan lambat. Ini bisa dibantu akselerator macam GPU atau NPU. 2) NPU = AI Accelerator Sebuah dedicated unit spesifik untuk perhitungan AI, umumnya TERPISAH dari CPU dan GPU. TAPI prioritas utama NPU BUKAN performance/throughput seperti GPU, melainkan NPU dibuat untuk EFISIENSI DAYA / POWER EFFICIENCY, Melakukan tugas AI dengan power seRENDAHnya. 3) Saat ini tidak usah terlalu pusing dengan rating TOPS. TOPS dari NPU tidak selalu sejalan dengan kapabilitas/fungsi, karena ada faktor SOFTWARE. TOPS itu juga ada yang ditulis untuk KESELURUHAN CHIP, bukan hanya NPU saja. Kadang juga rating NPU TOPS ini tidak spesifik ditulis untuk data type apa yang dieksekusi (10 TOPS INT8 tidak selalu bisa dianggap sama dengan 10 TOPS FP16 atau 10 TOPS INT4) Carilah hardware (NPU/GPU) yang BISA dimanfaatkan banyak software/aplikasi AI Karena hardware kencang tapi nggak dipakai, ya nggak banyak faedah. Catatan: Ini penjelasan NPU diambil dari sudut pandang prosesor Intel Core Ultra, tapi karakteristik NPU secara umum bisa mirip dengan chip vendor lain (macam AMD NPU 'RyzenAI' Qualcomm Snapdragon Elite X Hexagon NPU, dan Apple Neural Engine)

PENCERAHANNYA TERANG SEKALI PAK!

(Nama/NIM) Hadir menyimak mata kuliah Machine Learning 2 SKS secara daring.

Dosen ngajar pagi-pagi

Untuk kalian2 yang baca kolom komen dan baru ngeh soal ini. Kalo pakai chatGPT gretongan, masih versi yang lama. Masih versi yang belom canggih, dan masih pakai database tahun 2021. Udah cukup buat mulai tanya2 basic. Tapi lu mesti detailin lagi lebih lanjut searching sendiri. Udah ada versi baru yang bisa lu coba trialnya beberapa minggu, dan kalo bayar lu bakal dapet bonus bisa pake Dall-E. Lalu bisa bantu coding beberapa hal basic. Apa lagi kabar awal tahun yang bilang sudah ada si SORA yang bisa generate video. Tool ini berguna banget, tapi masih ada beberapa detail yang masih menjadi masalah yg mesti lu hindari. OpenAI masih bisa melakukan kesalahan (ya iya lah) Tipe kesalahannya itu di bagian detail, jadi misalnya lu nanya masalah PC part, ChatGPT bakal ngasih beberapa pilihan. Dia kasih pilihan dengan percakapan yang meyakinkan, namun ternyata setelah di check beberapa kali, beberapa komponen PC yang dia saranin nggak kompatible. Di kasus yang gw coba, dia saranin AM4 CPU ke AM5 socket mother board. AMD socket udah lumayan mendetail dalam pemilihan PC part, dan ChatGPT belum ngecheck semendalam ini. Tapi kalau mau nanya beberapa konsep basic seperti apa itu RAM, apa itu, MOBO, apa itu, CPU, ChatGPT bakal menjelaskan cukup baik. Bahkan cukup mengerti sampai nolongin mana yang di upgrade dahulu kalau butuh ngerjain task tertentu (geming, render, atau video) di PC yang mau di upgrade. Dia juga masih nyambung pas ngomongin generasi DDR, jadi masih ngerti part2 PC DDR5 dan DDR4. Tapi, ya itu, data internet di tahun 2021. Jadi barang2 baru di AM5 dan DDR5 belum masuk ke komputasinya dia. Untuk sekedar ingin nangkep konsep, atau mau denger penjelasan singkat mengenai sesuatu, gw selalu tanya ke Abang Jipiti. Nanya ke Mbah Google rada repot karena banyak yang spam SEO buat bisnis mereka sendiri. Jadi gw gabungin si Abang dan si Mbah. Minta si abang jipiti nerangin konsep, dan gw search detail ke Mbah gugel. BTW, udah ada beberapa counter tool untuk ngecek sebuah essay itu hasil ChatGPT atau nggak. Jadi buat kalian yang mau minta jipiti ngerjain tugas kuliah loe, ada cara buat ngedeteknya. Hati-hati. Ini tools buat nolong lu kerja, bukan buat kerjain kerjaan loe.

Ini baru konten kreator hardware PC yg rela S2 cuman buat belajar prosesor. Gilaak keren emang

Intel & AMD : Ngasih NPU buat "AI" biar keliatan keren di slide solving komputasi ai kompleks dan marketing purpose Realita : Best i can do is only background blurring, dan image upscaling dan hal remeh temeh lain,take it or leave it!! (utk saat ini) 😂

7:14 - Saham Salim Group dan Indofood 📈

Luar biasa, seperti dikelas perkuliahan s2 computer science, mata kuliah AI

Investasi hardware Ai mahal karena Nvidia nyari profit gede, cuma fungsi Ai remeh temeh yg bakal didrop ke npu. Fungsi Ai yg penting masih hanya akan lewat software mahal, server side butuh internet dengan sistem kredit/subscription yg mahal untuk menutup biaya invest & operasional. Gegara kerakusan buat beli jaket kulit baru

Terimakasih kuliah online nya master.... Semoga sehat selalu, banyak rezekinya dan panjang umur.... Aamiin

Terima kasih kuliahnyaa mas alva,

Penjelasan deep banget, detail nya kena, thanks algorithm yt 🎉 auto subscribe

mantab pak dosen pelajarannya, menunggu kompetisi overclock NPU

makasih pak dosen alva, sering2 bikin konten ky gini 👍

Makasih bang pencerahannya tentang AI dan NPU.

Mantab bang, sangat mencerahkan

Seneng sekali ada video ... Setelah sekian lama mas jonathan review dan over clock CPU dan GPU ...sekarang bahas NPU mudah2an besok bisa Overclock NPU atau misalnya ada NPU dedicated... Semoga ke depan Bisa Rutin BAHAS NPU Juga

Thx bang Alva buat kuliah paginya

ilmu mahal, terimakasih pak dosen 🙏

Trimakasihkuliah nya om alva semoga makin sering aja 😁

makasih bapa informasinya❤😊

Nonton kedua kali baru paham sama pembahasannya 😞🙏🏻

terimakasih ilmunya bang alva, kebetulan sedang utak2 atik comfyUI, ternyata seru juga

peran intel openvino di music separation gila sih, saya coba pc di pc i5 12500 + GTX 1660 Super, pas rendernya pake GPU, bbrp x crash, dan hasilnya lumayan lama, dilagu yg sama pas render pake igp intel bawaan cpu nya, ngga crash dan lebih cepat 😅😅

ty nambah wawasan ^^b

...materinya daging smua bang Alva buat pencerahan dasar soal Ai 👍

ini yang saya cari2 kemarin,, tepimakasih pak

Thank you bang ilmunya 😁

Nyimak sambil momong anak pak dosen...🙏

Akhirnya kuliah lagi setelah sekian lama menunggu😊😊

Ada Zenbook nih 😍

terimakasih bro ;)

Detail bgt.

bang semalem gua mimpi lo review i9 gen 14, eh paginya muncul video baru wkwkw

Alva... No.1 overclocker Indonesia

Senang liat bang Alva ngajar, kayak dosen Barat kalau lg ngajar

Nonton ini di kantor berasa lagi workshop online

Kuliah pagi yang memaparkan materi dosennya enak 😊

5:25 semenjak masuk kampus outfitnya berubah jadi formal bangeet wkwk. Mantaaplaah

Hadir pak dosen

Pagi-pagi nonton ini berasa kuliah pagi😅

akhirnya pertanyaan gue terjawab

hadir om

kenapa baru muncul sekarang ya ni chanel gw butuhin bgt dari dulu, thanks pak dosen materi kuliahnya wkwk

Sekarang emang teknologi AI sedang dalam tahap pengembangan yang masih... penggunaanya juga masih simpel, tapi potensi yang di tawarkan luar biasa... bagaimana dunia virtual dan dunia nyata bisa lebih dekat lagi... Sebagai orang awam, menarik untuk melihat perkembangan kedepannya...

Hewo sir, bisa coba Phi-3 lewat ONNX + DirectML atau OpenVINO? Kebetulan docs-nya sudah dirilis di Community Blog Microsoft dari 21 Mei. IMO text generation lebih kepakai dibanding image generation/audio segmentation/ai upscaling. Sebagai pembanding mungkin bisa diadu sama M1 atau M2 jalanin Phi-3 GGUF (yang fp16 biar adil) pakai Metal. Cheers ✌

disisi gaming harapan kedepannya NPU bisa jadi opsi untuk generate model wajah dan postur tubuh npc biar lebih variatif dan ngk ketemu lagi npc kembar siam, jadi nambah imersif ketika main game apalagi gamenya open world macem GTA

Ini baru based ilmu AI loh 🤣 Alhamdulillah vga 3000 series support AI jadi game2 yg support AI sdh aman dan bisa dinikmati 😊 Btw bahas jg AI utk game kayaknya menarik utk dibahas mulai dari rtx 2000 series bg 😊🙏🏼 Kalau AI di pc rumor2 nya rilis di intel arrow lake (gen 15) mungkin worth it sih upgrade dari intel i3 gen 10 ke i3 gen 15 🤣

AI berguna bgt buat kerjaan yg kompleks seharusnya, tpi kalau hanya untuk fitur ringan dan sengaja dibatasi untuk offline boleh sh masuk laptop/PC, semacam pencarian data berdasar warna, nama file yg lebih deep, artificial design semacam ganti BG foto, dalam game mungkin load asset yg lebih baik biar FPSnya stabil, tpi untuk konteks yg berat online lebih masuk akal karena fasilitas server yg mumpuni

menarik

mantep pak dosen, penjelasan nya, klo dgr dr penjelasan pak dosen berarti laptop ai gen hebat juga yah GPU nya udh AMD Radeon 780M + sdh ada NPU nya jadi bs main di low watt pakai npu, high watt pakai gpu nya.

What I worry about is that after the big tech companies use their maximum power to push AI technology and to train their large datasets, they are now trying to inference their trained models into our consumer products. They need to deploy what they have trained before. What if your computer has it's own will, it just more terrifying than watching a horror movie since it can run in background with low power

nyimak bang

3:49 Azunyan~~

sampe menit ke 4 dah mulai bengong sendiri mencerna perkataan pak dosen

Wih batikan

om bahas DSR control panel dong + smoothness %.nya yg paling pas di res. 2k dan 4k pake monitor 1080p

buat pribadi intinya untuk sekarang pemilihan part pc baik gaming atau editing tetap menggunakan metode tradisional, cukup nyari cpu gpu kencang aja daripada yg ber-embel ai. terima kasih 2sks paginya pak lurah

Apakah ada API nya bang.. untuk mengembangkan software basis ai?

menuju death of expertise 2.0 dan melampauinya :v

wanjay baju2 calon pns . semoga lolos cpns ya bang

Ram di windows vs mac os apakah mirip seperti ram di android vs ios yang notabene ios lebih baik dalam mengelola ram?

bayangin yah ada laptop / tablet keluaran pabrik udah di instal LLM di dalemnya, dah full sama asistent agent dan bisa jalan offline, tanpa internet bisa di ajak ngobrol, suaranya yg kawaii, wkwkwkw

Apakah ini berlaku juga untuk DDR4?

makasih infonya, masih ragu beli laptop yang ada npu nya karena hampir nggak ada benchmark untuk ngetes npu nya di software ai kaya stable diffusion. trus juga kebanyakan software ai masih bergantung sama CUDA nya NVIDIA dan lumayan makan banyak VRAM, jadinya npu masih kurang dapat support.

absen dulu

coba benchmark pake Ollama bang

Berasa Materi Kuliah Pagi-Pagi Dari Bajunya aja udah feel bapak-bapak dosen 😂

Mungkin emang bakal kayak di film dimana transformer bakal muncul beneran di masa depan😮

Mntb

numpang nyimak mbah

Saya Minta Saran kak Saya mau ambil laptops lenovo loq bijak ambil intel i5 13450 hx / ryzen 5 AI 8645 hs sama " pakai rtx 4050 Untuk blajar coding,editing + game untuk jangka panjang Karna dari harga selisih 300 k saja Maaf Saya orang awam baru mau terjun ke dunia pemerogaman Terima kasih

tumben amat bang pake batik

bandingin sama low-end rtx gpu bang

apanya dr.boyke yah?

Pgi Bang 😁😁👍👍

Saya Minta Saran kak Saya mau ambil laptops bijak ambil intel i5 13450 hx / ryzen 5 8645 hs sama " pakai rtx 4050 Untuk blajar coding,editing + game Karna dari harga selisih 300 k saja Maaf Saya orang awam baru mau terjun ke dunia pemerogaman

Mas Alfa, kalau spesifikasi laptop gaming/content creation ada gpu diskrit untuk processing yg lebih kenceng, kenapa di requirement AI PC ngga sekalian mensyaratkan adanya gpu RTX untuk kebutuhan mungkin user mau training model AI?

Coba install ollama local aja. Bisa di terminal atau sekalian install open webUI biar ada interfacenya

02:40 itu sama2 kucing bang 😁

Jadi npu di a14 bionic not bad juga ya, walaupun cpu tahun 2020 punya spek di atas kertas 11 tops di tdp 6 watt. Dibanding core ultra yang 11 tops juga di 5 watt. Hmmmm... Menarique

hadir pak dosen. kuliah pagi ini

2:45 hmmmm kucing😋😋🤣🤣

kesimpulannya embel2 AI itu bahasa marketing tapi bukan gimmick, karena memang ga semua kebutuhan kebanyakan orang untuk ai itu perlu2 banget, lagipula NPU yg dijabarkan bang alfa tadi sangat terbatas, daripada GPU walaupun integrasi, saran saya kalo mo beli laptop dg performa tinggi mending beli seri intel yg HX dari pada seri ultra, toh sudah bisa berfungsi sebagai AI karena dg laptop dg cpi seperti itu pasti terpasangGPU yg memadai, kalo mau efisiensi daya baru beli seri core ultra, seri ultra hanya ditambahkan NPU dg kemampuan terbatas tadi dan mementingkan efisiensi daya

Gw bingung mau beli laptop yg ada diskrit GPU apa beli laptop yg ada NPU nya. Pengen banget nyoba2in aplikasi ai offline kaya stable diffusion. Kalo igpu radeon 780M kira² bisa gak ya jalanin aplikasi stable diffusion?

Kobo obsession 16:15

Kuliah pagi 💪

Mau nambahin Waifu2x itu punya beberapa kekurangan seperti disarankan untuk pake ram diatas 4 GB (untuk HP android) dan disarankan pakai CPU terlebih dahulu karena beberapa perangkat kurang bagus untuk upscale pake GPU

Bentar, gua baru sadar bang Alva Gw inget waktu amd Indonesia launching ryzen 7040 di indo, mereka pamer NPU ryzen 7840HS mereka 10 TOPS, cuman di era itu ga ada yg mau peduli soal NPU Lanjut intel rilis ultra 7 155h, intel marketing 34 TOPS, di sini gw liat wah amd kena bantai ni intel full AI bahkan MSI claw bukan nya pamer performa malah pamer AI Terus amd langsung refresh 8845HS punya NPU 16 TOPS, total 38 TOPS sampai video ini rilis gw ga sadar kenapa angka spec amd ada 2, gw pikir palingan gimmick belaka dan NPU memang ga peduli soal TOPS, toh yg AMD jauh lebih efisien pikir saya Ternyata waktu liat video ini, gw baru sadar intel NPU ternyata cuman 11 TOPS, hanya leading 1 TOPS dari amd tapi marketing NPU mereka lebih sadis, gw aja ga sadar 34 itu total maksud nya cpu+gpu+Npu, apa lagi awam 🙏

Permisi mas, mohon sarannya mas, saya punya pc dengan spesifikasi Proci : i5-10400F Mobo : Gigabyte Aorus Elite B560M VGA : RTX3050 untuk sekarang saya memakai ram gigabyte 2x8GB 2666MHz nah yg mau saya tanyakan, apakah bisa menggunakan ram dengan 3200Mhz untuk spesifikasi tersebut? atau mentok 2666Mhz, soalnya yg saya dapati, i5-10400f dengan B460M, maksimumnya bisa pakai ram dengan 2666mhz. mohon pencerahannya mas. Terima kasih.

Bang Alva Mau Kondangan Kemana? Rapi bener ini...? Semangat terus mengedukasi kami dengan Kontennya ya bang dosen

Um Jon, maaf kalau oot. PC gw jadul banget ; FX-8300 ft. GTX 750 Ti. Sehari2 paling banyak dipake buat browser. Buka banyak tab, install banyak ekstensi chrome, kalau yang suka garap airdrop pasti tau. Kadang diselingi main dota2, dan masih lanjay. Tapi ketika dibuat chrome dengan banyak tab dan banyak account-window sering jadi aneh, kayak ngebug gitu lah. Nggak selanjay main dota 2. RAM 16GB btw. Sudah aktifin performance mode juga di chrome biar ga ke kill ketika pindah2 tabs, tetep rasanya ga nyaman. Kira2 beban yang dipakai browser itu lebih kemana? Jadi saya bisa optimalkan kalau mau upgrade atau sekalian pindah socket ke AM4 atau mungkin AM5. Nowdays kayaknya banyak aplikasi browser-based atau entah apa sebutannya. Workload nya chromium ini lebih kemana, atau emang PC jadul saya yang udah terlalu obsolete sehingga tidak dapat bekerja maksimal. Sebenernya ngidam banget sama ryzen tp itu PC udah nemenin bertahun2. 750 Ti mungkin sudah 10 tahun lebih. Sekali lagi mohon maaf um Jon. Tadinya mau nanya2 sama channel2 yang lagi live, eh malah video um Jon yang muncul di beranda, sekalian aja nanya di sini, mungkin ada yang bisa bantu jawab. Hehe. saya suka pembahasan detil spt ini. Biasanya dulu sih nongkrong2 di kaskus, baca thread2 tentang PC yg panjang dan membosankan bagi sebagian besar orang. Makasih yang udah mau baca dan mungkin mau membantu kasih masukan :)

ane juga punya SBC yang ada NPU nya juga bingung ini dipake ngapain wkwk, di windows aja masih minim sekali potensinya, apalagi sbc yang jalanin Linux.

Btw Intel core seri terbaru (untuk desktop) kan suda ada NPU nya AMD Ryzen kapan?

14.53 gambar bagian tangan. kira2 kebetulan atau pegaruh sofware/hardware?

Bang, test Advan Ai Gen yg Ryzen 7 8845HS kyk nya seru

ga kepanjangan bang videonya, malah kurang. "kata gw yang asik nonton tiba" ternyata udh penutup"

Om IA di laptop bisa buat apa aja ya.. yang nggak perlu koneksi internet bisa buat belajar coding atau bahasa asing

Dosen AI & IT 😂