Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Startup for Startup

Startup for Startup artwork

367: כלכלת טוקנים - על אופטימיזציה של השימוש שלנו ב-AI

Sep 15, 202645 minAudio
ShareXLinkedInFacebookWhatsAppEmail

בשנתיים האחרונות, טוקנים הפכו להיות אחת מההוצאות המשמעותיות בארגונים טכנולוגיים, אלא שכרגע עוד לא ממש ברור איך לנהל אותן. כיום חברות מעודדות עובדים לשלב AI בכל תהליך, אבל מתקשות לקבל את התמורה הטובה ביותר עבור ההשקעה שלהן. אז איך מאפטמים את ההוצאה על AI ברמה הארגונית? איך אפשר לעזור לעובדים שלנו להשתמש בטוקנים בצורה חכמה? ואיך משיגים את התוצאות הרצויות בפחות טוקנים? בפרק השבוע דריה ורטהיים מדברת עם ירון סברדלוב (CDIO) וקרן קושמן (Head of Applied AI) על כלכלת הטוקנים במאנדיי דרך שלוש שכבות של אופטימיזציה - החל ממשא ומתן מול ספקיות ה-LLM, דרך שימוש חכם בטוקנים, ועד לוגיקה שצרובה ממש בהארנס עצמו. הם משתפים במאמצים כמו פיתוח סקילים כגון "Caveman", שמנקה אוטומטית טקסט מיותר מהפרומפט וחוסך כ-60% מעלות האינפוט, ודיוק וצמצום הקונטקסט לרמה אופטימלית כדי לשפר את איכות התשובה. הם מסבירים גם על מנגנוני הראוטינג שבוחרים מאחורי הקלעים את המודל המשתלם ביותר לכל משימה, ואיך פיתחו את מדד ה-monday bench שמאפשר מעקב והשוואה שעוזרים לחתוך את העלויות בעשרות אחוזים עבור אותו תוצר. לצד הפתרונות הטכנולוגיים, הם מראים שחינוך המשתמשים הוא מפתח קריטי להצלחה, ומדגימים כיצד חשיפת נתוני ההוצאות האישיות לכל עובד רתמו את האנשים לקחת אחריות והובילו לירידה דרסטית בצריכה הכוללת בארגון.

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. הפלייבוק החדש: כמה קל להחליף את הסטארטאפ שלי מחר בבוקר?

    Nov 17, 202644 minAudio

    איך בונים חברה שלא תהפוך מחר בבוקר לעוד פיצ'ר בקלוד? בעולם שבו טוקנים קונים מוצר ואפשר להקים מתחרה תוך שבועות, קוד כבר לא מספיק כיתרון תחרותי. הפרק הזה פותח את "הפלייבוק החדש", הסדרה החדשה שלנו על בניית חברות בעידן...

    Credit the people on this episode

  2. 5 טעויות בין ניהול מוצר לפיתוח בעידן האגנ׳טי

    Nov 10, 202618 minAudio

    הירשמו כאן לאירוע Startup for Startup Caffe שיתקיים מחר - 11.11 בבית הקפה בוטי בשרונה תל אביב בחודשים האחרונים הגבולות בין מנהלי מוצר לצוותי פיתוח מיטשטשים. מפתחים כותבים יותר קוד מאי פעם, ומנהלי מוצר בונים פרוטוטייפים...

    Credit the people on this episode

  3. 3 שלבים להטמעת AI: מאדופשן ראשוני לבניית תהליכים מחדש

    Nov 3, 202634 minAudio

    רוב הארגונים שמטמיעים היום AI עושים את אותו הדבר: בונים אייג׳נטים, מייעלים תהליכים קיימים וסופרים כמה שעות עבודה נחסכו. אבל מה קורה כשמגלים שהשעות שנחסכות לא מובילות לשום מקום? ואיך עושים את זה במחלקה עם עשרות צוותים עם...

    Credit the people on this episode

  4. 371: לפרסם בצ'אט GPT - איך בונים ערוץ מרקטינג שאין לו עדיין פלייבוק?

    Oct 20, 202637 minAudio

    בחודשים האחרונים נוצר ערוץ מרקטינג חדש שעדיין אין לו פלייבוק מוגדר: פרסום בצ'אט GPT. יואב רובין ותמר אזולאי, Growth Marketing Managers במאנדיי, התחילו לנהל קמפיינים בפלטפורמה ממש מהיום הראשון שבו נפתחה האפשרות בחודש...

    Credit the people on this episode

  5. 370: איך קיצרנו בניית אייג׳נטים מחודש ליום אחד

    Oct 13, 202625 minAudio

    בפרק השבוע רז דיסקין (GTM Engineer) ומשה קריספין (Senior Software Engineer) מצוות ה-RevAI במאנדיי מדברים עם יעל עבאדי על AgentOS - הפלטפורמה הפנימית שבנו ליצירת אייג׳נטים עבור מערך המכירות של החברה. רז ומשה משתפים בצורך...

    Credit the people on this episode