- Tweets 5,813
- Following 157
- Followers 5,004
- Likes 10,850
מישהו מוכן להסביר לי למה אנשים כל כך מתלהבים מפיצה נאפוליטנית?
זה 50% שוליים של בצק רך, 50% מרק פיצה שלא כיף לאכול
חומרי גלם בצד, לא ברור על מה הנאפוליטנים קיבלו כל כך הרבה קרדיט פה. אמריקאים מכינים פיצה טובה יותר בפער.
3
10
1,456
אחד הספרים הטובים שקראתי בשנים האחרונות הוא Dopamine Nation של אנה למבקה. בספר היא מתארת שני מנגנונים שהופכים דברים לממכרים עבור בני אדם:
1. תגמול משתנה - פעולה או שימוש במשהו שהמוח לא יודע לחזות בדיוק כמה מתגמלת היא תהיה. במילים אחרות - ספייק דופמין משתנה.
2. משהו חדש/בלתי מוכר - כל פעם שאנחנו משתמשים, התוצאה/חוויה תהיה חדשה, אפילו אם זה רק קצת.
השילוב של שניהם יוצר מנגנון מאוד עוצמתי, שגורם לנו לחזור לרצות עוד ממשהו, גם אם הוא כבר מאוד מספק. זה נגרם בגלל שכל פעם שאנחנו משתמשים בדבר, הבייסליין של הריגוש עולה, וככה אנחנו כל פעם צריכים שימוש עוצמתי יותר כדי להרגיש סיפוק.
הhigh של שימוש בLLMs וכלי AI משלב את שני המנגנונים האלה לתחושה שאף מוצר אחר לא נתן עד היום - דופמין מפרודוקטיביות מזוייפת.
מאוד קל להעביר שעות על גבי שעות מול קלוד בתחושה שאנחנו בונים משהו חשוב. הזמן עובר בטיל והמוח בטירוף של context switching של כמה טאבים פתוחים במקביל. מידי פעם רפרוש קטן של X לראות מה חדש בזמן שקלוד חושב (שימור דופמין) - ״השיקו מוצר חדש שאני חייב לבדוק! חוזר לside thread, עוד רעיון חדש, גיוס חדש לסטארטאפ, מניות רצות״ ותחושה שכולם מספיקים לעשות יותר ממך. אחרי 4-5 שעות אתה פתאום מרגיש שטיגנו לך את המוח בשמן עמוק בלי שיצרת משהו שימושי. וחוזר חלילה ביום שלמחרת.
עיקר הבעיה פה היא context switching - המוח אוטומטית מקבל תחושה של ״AI מאפשר לי לעשות כמה דברים במקביל, לכן אני פרודוקטיבי״. זה בדיוק הלופ שהLLMs מעודדים כי זה מעלה את צריכת טוקנים, וקורה לדעתי בעיקר בגלל הזמן המת בו המודל ״חושב״ ומייצר טוקנים לפני תשובה.
מעולם לא היה קל יותר ליצור דברים חדשים מאפס.
מעולם גם לא היה קל יותר לבזבז המון זמן בבניית דברים חסרי תועלת בתחפושת של פרודוקטיביות כי זה AI.
הBurnout החדש, וקצת מחשבות על פיתוח עם AI
*
כל מי שבתחום מרגיש את זה. ״אני לא עובד, הAI עושה הכל״ ואיכשהו אני 12 שעות מול המחשב.
מפתחים עם AI? בואו לקרוא, אולי אצליח לשים את הרגשות שלכם בקצת מילים >>
3
5
96
5,736
ביום שני הקרוב, בכפוף לאישור הרגולטורי הסופי, CME צפויה להשיק לראשונה חוזים עתידיים על מחיר כוח מחשוב.
בפועל, יושקו שני חוזים: GPU1 ו-GPU2, שעוקבים אחרי מדדי מחירי השכרת GPUs של @Silicon_Data.
איך זה יעבוד:
סיליקון דאטה אוספת מחירי השכרה של GPUs מעשרות פלטפורמות Neocloud, מנרמלת אותם למחיר של דולר ל-GPU לשעה, ומפרסמת בכל יום עסקים מחיר reference עבור שני סוגי מעבדים של Nvidia:
חוזה GPU1 עוקב אחרי מחיר השכירות של H100.
חוזה GPU2 עוקב אחרי מחיר השכירות של B200.
כל חוזה מייצג 730 שעות GPU, כלומר בערך חודש מלא של שימוש ב-GPU אחד.
אם לדוגמה GPU1 נסחר ב-$5 לשעה, שווי החשיפה של חוזה אחד הוא:
$5 × 730 = $3,650.
מהיום הראשון CME צפויה להציע 36 חודשי פקיעה שונים, כלומר חוזים חודשיים עד שלוש שנים קדימה.
סיליקון דאטה לא קובעת את המחיר של כל אחד מ-36 החודשים האלה. היא רק מפרסמת את מדד המחיר היומי של השוק הנוכחי.
המחיר של ינואר 2027, יוני 2028 וכן הלאה ייקבע במסחר בין קונים ומוכרים ב-CME.
בפועל, זה יוצר לראשונה עקומת מחירים סחירה של כוח מחשוב כמה שנים קדימה.
כל חוזה יתכנס בסופו של דבר למחיר המבוסס על ממוצע מדד סיליקון דאטה במהלך חודש הפקיעה. משמע אין מסירה פיזית של GPUs. ההתחשבנות היא כספית בלבד.
זה יהיה מיילסטון חשוב מאוד להמשך התפתחות תשתיות הAI מכמה סיבות עיקריות:
1. כלי גידור עבור מי שמוכר וקונה מחשוב.
עד היום גם קונים וגם מוכרים של כוח מחשוב היו חשופים מאוד לתנודות במחיר.
חברות שצריכות כוח מחשוב, כמו Anthropic או OpenAI, יכולות מעכשיו לקנות futures כדי לגדר עלייה עתידית במחירי המחשוב.
נניח שחברה יודעת שהיא תצטרך 100 אלף H100 בינואר 2027, וחוזה ינואר נסחר היום ב-$2.50 לשעה.
היא יכולה לקנות חוזים ב-$2.50.
אם בינואר המחיר הממוצע יעלה ל-$3.50, היא אמנם תשלם יותר בפועל על המחשוב, אבל זה יתקזז לה עם הרווח על החוזים.
אם המחיר ירד ל-$2, היא תשלם פחות על המחשוב אבל תפסיד על החוזים.
המטרה של הצד הקונה היא לא להרוויח, אלא לנעול את רכיב המחיר.
בצד השני, ספקיות מחשוב כמו CoreWeave, Nebius ושאר ה-Neoclouds יכולות לעשות את ההפך.
אם הן חוששות שמחירי ההשכרה יירדו, הן יכולות למכור חוזים דרך פוזיציית שורט.
אם הן מוכרות חוזה ב-$2.50 והמחיר יורד ל-$1.50, ההכנסה שלהן משכירות GPU אמנם נפגעת, אבל השורט מרוויח בערך $1 לשעה ומקזז את הירידה.
זה יכול להפוך חלק מההכנסות העתידיות שלהן ליותר צפויות, ובהמשך אולי גם להקל על גיוסי חוב ומימון תשתיות.
חשוב לציין שחוזים מגדרים רק מחיר, לא utilization!
אם Neocloud מחזיק 10,000 GPUs ואף אחד לא שוכר אותם, החוזה לא פותר לו את הבעיה.
הוא גם לא מבטיח שהמחיר שה-Neocloud עצמו יקבל יהיה זהה למדד. הוא רק יהיה בסיס בין מחיר השוק לבין המחיר שכל ספק מצליח לגבות.
2. שינוי באופי עסקאות מחשוב.
עד היום, חברה שרצתה לרכוש כוח מחשוב הייתה עומדת בפני 3 אפשרויות:
לקנות Spot או On-demand לפי המחיר משתנה, או להתחייב מראש לCapacity דרך חוזי Take-or-pay ארוכי טווח (כמו החוזים שראינו של SpaceX עם אנתרופיק לדוגמא).
חוזה Take-or-pay נותן שני דברים חשובים:
מחיר ידוע מראש, והבטחה לcapacity.
החוזים של CME משנים את התמונה כי הם מאפשרים להפריד בין השניים.
מעכשיו, חברה יכולה להמשיך לקנות On-demand, לשמור על גמישות בין ספקים ובין דורות GPU, ובמקביל לקנות חוזים כדי לגדר את סיכון המחיר.
החוזה יספק חלק מהוודאות של Take-or-pay, בלי לקחת על עצמו את אותה רמת התחייבות פיזית ארוכת טווח.
אבל - בגלל שחוזים לא מבטיחים GPU בפועל, מחסור קיצוני בשוק יכול להוביל למצב בו חברה מגדרת שינוי במחיר בהצלחה ועדיין לגלות שאין לה capacity כדי לאמן מודלים חדשים.
מסיבה זו, כנראה שעסקאות Take-or-pay לא בכרח יעלמו, אלא בעיקר ישתנו.
הערך שלהם יהיה פחות סביב "נעילת מחיר", ויותר סביב הערך האמיתי סביב השירות עצמו:
הבטחת capacity, SLA, networking, מיקום, cluster quality ושירות.
וזה כנראה יוביל להשפעה נוספת ומאוד מעניינת:
3. שקיפות גבוהה יותר בין Neoclouds.
ברגע שיש reference price אחד לשוק, יהיה הרבה יותר קל להבין מה ה-premium או discount שכל ספק מצליח לגבות מעל מחיר הבסיס.
נניח שחוזה H100 לינואר 2028 נסחר ב-$5 לשעה.
חברה כמו CoreWeave יכולה להציע capacity ב-$5.50 ולהגיד:
אצלנו אתם משלמים 50 סנט יותר בגלל cluster גדול יותר, networking טוב יותר, SLA חזק יותר, תמיכה טובה יותר או גיאוגרפיה מסוימת.
ספק אחר אולי ייסחר ב-$4.80 בגלל שירות חלש יותר או אזור פחות אטרקטיבי.
פתאום אפשר להפריד בצורה הרבה יותר ברורה בין:
מחיר ה-GPU בתוך commodity והערך המוסף של הספק של הGPU. זה יכול לפרק את שוק ה-Neoclouds לשכבות איכות ברורות יותר.
4. השינוי הכי חשוב - price discovery.
מי שניסה לעקוב אחרי מחירי GPUs בשוק עד היום ראה עשרות ספקים שונים עם מחירים שונים לגמרי עבור אותו המודל, עבור ההווה בלבד.
לראשונה, יהיה לנו מחיר שוק סטנדרטי שאומר כמה השוק מוכן לשלם היום עבור חשיפה למחיר H100 או B200 בעוד שנה, שנתיים או שלוש.
אם השוק הזה יהפוך לנזיל, הוא לא יהיה רק כלי לגידור, הוא יהפוך ל-forward curve של תעשיית ה-AI infrastructure כולה.
וגם יספר לנו בזמן אמת הרבה על הציפיות של השוק לגבי מחסור ב-GPUs, התרחבות capacity, ירידת מחירים, מעבר בין דורות שבבים והביקוש העתידי לכוח מחשוב.
אמשיך לעקוב
2
1
17
2,076
ג׳ואי גבייה הוא נכס לאומי לארה״ב
Chief Design Officer @jgebbia officially unveils America.gov, the new online home for the United States of America
3
641
טרנד שהופך להיות די עקבי בשבועות האחרונים הוא שטוקנים זולים יותר = עלייה במחירי GPU\שעה
האינסטינקט הראשוני היה לחשוב שהמודלים הסינים הולכים לשבור את השוק בגלל שהם מפילים את מחירי הטוקנים של המודלים האמריקאיים. אופוס 5.5 חתך עלות ביצוע משימה (לפי בנצ׳מרק) ב77% בהשוואה לאופוס 5 שהושק לפני חודשיים בלבד.
זה יוצר תגובה בדיוק הפוכה בביקוש לטוקנים...
מודד מחירים בפועל של עסקאות מחשוב, מראה עלייה של 81% ב3 חודשים האחרונים עבור מחירי עסקאות השכרה של B200.
טוקנים זולים יותר מעלים את הביקוש לטוקנים, בגלל שזה מאפשר לעשות דברים שהיו יקרים מידי קודם.
זה יוצר לופ רפלקסיבי שמרחיב את גודל השוק ע״י הורדת מחירים (או בשמו המקורי Jevons Paradox):
טוקנים זולים יותר = יותר משימות אפשריות עם LLMs = יותר ביקוש לייצור טוקנים = מחירי GPUs גבוהים = TAM גדול יותר ליצרני GPUs.
זה בדיוק האפקט שאנבידיה רוצה להמשיך לקדם, בין היתר עם תמיכה במודלי Open Wieghts והרכישה של Hugging Face.
ב5 באוקטובר CME משיקים את הSilicon Data Compute Futures. חוזי מחשוב סחירים העוקבים אחרי שני אינדקסים, GPU1 עבור מחירי H100 וGPU2 עוקב B200.
1
5
1,023
דלפ - בתור אחד שמשתמש באייג׳נטים, לא ברור לי איפה דברים כמו Muse וInstinct אמורים לתפוס מקום בחיים של אנשים מחוץ לעבודה.
נראה כמו צעצוע נחמד לאנשים שעובדים בהייטק, לא מעבר.
32
90
18,726
מזכיר שאנתרופיק הרבה יותר חשופה לטרנד הזה כיוון שמעל 80% מהכנסה שלה מגיעה מAPI, מול כ20% בלבד אצל OAI וSpaceXAI שם רוב ההכנסה היא ממינויים.
זה מסביר הכי טוב למה דריו היה ראשון לקרוא לעצור את הפיתוח של המודלים האלה…
עבור סם ואילון, זה פחות קריטי כי העסקים שלהם פחות תלויים בהכנסה מ API, וגם באופן מסויים בגלל זה הם פחות תלויים בביצועי קצה של המודלים שלהם…
Looks like today may be a record day for token volume % of open models on Vercel AI Gateway:
🟦 Open 78.4% 🟨 Closed 21.6%
While spend 💲 usually tells a different story, #3 and #4 today are Moonshot AI & DeepSeek. Adding Z.ai, their combined spend surpasses OpenAI (#2).
(Do note that's the spend for inference of the model across providers (mostly in the US), not revenue going directly to the open weight labs.)
1
13
5,331
הכתובת היתה על הקיר כבר לפני 5 חודשים
נקודה למחשבה בקשר לאנתרופיק
שעברה רשמית את OpenAI בקצב הכנסה (שעומד כרגע על $30B בשנה).
היא ממשיכה להכפיל את קצב ההכנסה השנתית כל חודשיים
וכנראה שתגיע ל$40B בסוף החודש *אם שום דבר לא ישתבש*
ופה אולי נמצאת הנקודה הכי מעניינת במירוץ הזה ובהשוואה בין השתיים. OAI מייצרת הכנסות בעיקר ממינויים, אנתרופיק בעיקר משימוש בAPI. מודל עסקי שונה לחלוטין, ולמרות זאת משווים אותן תפוחים לתפוחים.
אם מחר בבוקר קם מודל חדש (בעיקר אם OSS) שיכול להחליף את קלוד בעלות נמוכה יותר, יש סיכוי טוב שאנתרופיק לא תמשיך להגדיל הכנסה בקצב הזה. אותו איום כנראה לא תקף עבור OAI, שם המודל העסקי מבוסס בעיקר על משתמשי consumer
שלא מבינים במודלים, ולא יעניין אותם אם מחר בבוקר יהיה מודל סיני משופר בחינם.
למטה השוואה מעולה שממחישה את ההבדל
(קרדיט ל all in podcast)
1
564
שמעתי לא מזמן הסבר מעניין ללמה אנשים בניו יורק מרגישים בנוח לשלם $60 על כיכר לחם שיפון (שעולה גג $10 באירופה). הסיבה לטרנד הזה של מוצרים בסיסיים במחירי יוקרה היא שGen Z לא יכולים להרשות לעצמם לקנות בית או סמלי סטטוס מסורתיים אחרים. התחליף שנולד הוא קטגוריה חדשה של מוצרים שמוכרים עושר מזויף - חוויה או מוצר בסיסי שהופך לסמל סטטוס כי צריך לסבול קצת בשביל להשיג אותו. לעמוד שעה בתור, לקנות ממישהו מקום למסעדה, לשלם מחיר מופקע, אבל להכנס לקבל את החוויה של הfake rich. המקום הזה לא מוכר לחם, הוא מוכר תחושה של עושר בר השגה
18
3
211
62,880
ההודעה של דאריו ממש לא קשורה לדאטה סנטרים. הם ימשיכו לעבוד חזק. המודלים ימשיכו להתפתח, פשוט בדלת סגורה תחת מוצרים שמיועדים לפלח משתמשים ספציפי דרך שותפויות. ההודעה האמיתית פה היא שכנראה שכולם החליטו שהם יורדים מtreadmill של מירוץ המודל הכי טוב לציבור הרחב.
זה טוב להתפתחות המודל העסקי ושומר על יתרון מול המודלים הסיניים שלא יוכלו להשתמש בהם לדיסטילציה יותר.
זו כנראה הפעם האחרונה שהמודלים הכי חזקים בעולם יהיו זמינים לכל משתמש דרך מנוי או API עם תשלום בצורת טוקנים.
ברוכים הבאים לשלב הבא במירוץ הפרונטיר.
4
1,060
מה הTAM של רכבים לאנשים ללא רישיון נהיגה @grok
Larry, a 98-year-old, just bought a new @Tesla Model Y, and he uses FSD (Supervised) to drive him everywhere. His first car was a 1931 Ford Model A haha. He uses Grok to navigate.
"It has no problems. In fact, the other day FSD stopped when a chipmunk was crossing the road."
Definitely a video worth checking out: youtube.com/watch?v=aqVrSErW…
1
476
פוסט מעולה שעשה לי סדר בראש לגבי ביקוש לטוקנים (אותם הוא מכנה ״יחידות זמן״), ומה שימוש במודל מייצג כיום מבחינת ערך.
ביקוש היום לטוקנים מתחלק לשתי קטגוריות:
1. משימות מוגבלות בערך (למלא דו״ח, להעתיק פרטים מPDF, לכתוב מייל): שם שימוש בטוקנים מיועד בעיקר להתייעלות והורדת עלויות, שם הפוטנציאל מוגבל כיוון שמדובר בחיסכון זמן וכסף (שם, הערך של מודלי frontier נשחק עם הזמן).
2. משימות ללא מגבלת ערך - בהן השימוש במודלים הכי טובים תמיד יניב יותר בגלל שהוא דוחף את גבולות המדע וחדשנות, ומוביל לפריצות דרך בבניית מוצרים שלא היו קיימים עד היום דרך R&D. התוצאות הן הגדלת הכנסה בטווח הארוך. הקטגוריה הזאת דומיננטית כיום בקרב חברות טכנולוגיה, מדע ומסחר בשווקים פיננסיים - שם אפשר לייצר הכי הרבה ערך מהטוקנים האלה.
ג׳יובני טוען שהביקוש ביניהם היום מתחלק בערך בשווה, ומשימות ללא מגבלת ערך במספר מצומצם של חברות מספקות את מרבית השימוש בטוקנים היום (והכנסה של חברות כמו אנתרופיק וOAI).
ביקוש לטוקנים האלה יותר רפלקסיביות מעגלית באופן הבא:
שימוש בטוקנים -> פריצת דרך והגדלת הכנסה -> גיוס כסף -> יותר טוקנים וחוזר חלילה...
בשוק בו הכל עולה, הרפלקסיביות הזאת חיובית ויוצרת מומנטום חזק, ובסביבה כלכלית חלשה זה יכול להתהפך מהר.
היום, השוק עדיין אוהב לראות תזרים מזומנים צפוי וחברות עדיין נסחרות לפי מודל פיננסי מסורתי של DCF, מכפילי רווח וכו׳. בעתיד הקרוב, בגלל ששימוש בטוקנים עבור משימות ללא מגבלת ערך יניב יותר ערך מטוקנים עבור משימות רגילות, יכול להיות שזה יתהפך - ושהשוק דווקא יתגמל את החברות שיודעות לעשות אלוקציה חכמה לטוקנים מהסוג הזה למשימות ארוכות טווח מבוססות R&D (היום נראה שSpaceX היא אולי החברה הראשונה מסוג זה).
בטווח הארוך, אני חושב שזה יהפוך לקיצוני יותר - מעבדות frontier יגיעו בסוף למצב בו יהיה יותר שווה להן לשמור את המודלים האלה לעצמם מאשר למכור טוקנים ללקוחות, בגלל הערך העצום שהם יכולים לייצר (שמתורגם לmarket cap גבוה יותר משווי ההכנסה שהן יכולות לייצר ע״י מכירת טוקנים). במצב כזה, השוק יתחלק לhaves and have nots - למי שיש גישה למודלים הכי חזקים לR&D, יתוגמל ע״י השוק ולמי אין, ישאר מאחור.
4
805
