המחשב כבר מנצח את האדם בשחמט ובטריוויה, אבל מתי הוא יתחיל להרגיש ויפסיק להקשיב לנו? מתוך סדרת סרטונים שהופקו ע"י משרד המדע, הטכנולוגיה והחלל בשיתוף עם אתר YNET לרגל יום המדע הישראלי 2014.
אני חושב שיצירת מחשב עם כל הרגשות שיש לבני אדם זה דבר מטופש מבחינת יעילות המחשב. הרי מובן שללא רגש היינו הרבה יותר יעילים, בלי כעס, תסכול, אכזבה ועוד רגשות שיכולים להפריע לנו בשגרת העבודה ולהסיח את דעתנו. מצד שני סיפוק ותחרותיות למשל יוכלו לגרום למחשבים לפעול יותר ולעבוד יותר. בנוסף, מכיוון שבני אדם לא משתנים ממש (בינתיים, אבל יש אנשים שטוענים שיהיה אפשר בקרוב לשנות מטען גנטי של עובר, דבר שעדיין ישאיר את מי שכבר נולד מאחור) ונשארים עם אותו טווח של אינטליגנציה לעומת מחשבים, שתמיד נוכל לשדרג קיימים וליצור חדשים טובים יותר ואינטליגנטיים יותר, חשוב שכל מחשב יפעל לא על רגשות, אלא על לוגיקה שכוללת התחשבות באחרים, כך שהוא לא יהיה חשוב יותר מאחרים אפילו בעיניו, ולא יעדיף טובתו על פני טובת אחרים, אחרת בשלב מסוים יהיה מחשב מספיק חכם בשביל לעצור התקדמות של כל מה שאינו הוא עצמו (אני באמת מצטער אם החלק הבא נשמע מגוחך וכאילו הוא מסרט מדע בדיוני ולא יתכן במציאות) וישתלט על העולם (שוב, סליחה על הקלישאה). אני מצטער אם החלק הקודם היה מבולגן, אבל רגשות גורמים לאנוכיות, כל אחד רוצה להרגיש טוב, ואם הוא לא יכול (במידה וכך יהיה המחשב) לא להרגיש רע.
הטיעון הסינגולרי שאנשים שוכחים לגביו הוא הזמן שיעבור בין אינטליגנציה מלאכותית שמקבילה לילד בן 3(פרימט) לבין בינה מלאכותית שתהיה חכמה יותר מכל בני האדם שנולדו מאז הופעת האנושות לפני 200 ומשהו אלף שנים(סביבות ה100 מיליארד). כמה זמן יעבור בין שני השלבים? שבוע לכל היותר. ורוב הסיכויים שברגע שתהיה בינה מלאכותית אמיתית, היא כנראה תהיה הבינה המלאכותית היחידה(כי לה יהיה את היתרון של הכוח, והיא לא בהכרח תרצה להתחלק), ולכן, המירוץ ליצור בינה מלאכותית אמיתית צריך לנסות ליצור בינה מלאכותית שתעזור ותגן על האנושות,
