מי אמר AI - בינה מלאכותית ואנחנו

זה עוד יהרוג אותנו | פרק 63 המדריך לסוף העולם
בשבועיים האחרונים קרה משהו מוזר בעולם הבינה המלאכותית: האנשים שבונים את המודלים הכי חזקים התחילו לדבר בקול על האפשרות שהדבר הזה עוד עלול להיגמר ממש רע. חוקר שעבד ב־OpenAI וב־Anthropic מתפטר וטוען שהחברות מהמרות על החיים שלנו. ראש תחום ה־Alignment ב־Anthropic אומר שלדעתו יש יותר מ־10% סיכוי שה־AI יחסל את האנושות בעשור הקרוב. המדען הראשי של OpenAI קורא ל"זהירות קיצונית", סוכני AI מתחילים למצוא דרכים שלא בדיוק התכוונו שימצאו, ופתאום מנכ"לי חברות ה־AI הגדולות כבר מתווכחים ביניהם אם הגיע הזמן להוריד קצת את הרגל מהגז. אז מאיפה הגיעו ה־10% האלה? מה זה בכלל Alignment? למה אנשים כמו אליעזר יודקובסקי טוענים שאם מישהו יבנה סופר־אינטליגנציה - כולם ימותו? האם כל הסיפור הזה הוא אזהרה אמיתית, שיווק של פחד, או קצת משניהם? בפרק הזה אני מנסה לעשות סדר בכל מה שקרה בשבועות האחרונים, בלי סקיינט ובלי עיניים אדומות - להבין מה באמת נאמר, מה כבר קרה בפועל, ומה עדיין נמצא באזור שבין תחזית, פחד וספקולציה. להרצאות ועוד: ערן גולדשטיין eran@binali.co.il הקורס שלנו קורס AI EXPERT
Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.
