Hidden layers
Hidden Layers - האנשים שמאחורי הדאטה. פודקאסט מבית MDLI שבו אורי אליאבייב מראיין אנשים מעניינים מעולמות הדאטה, ה-AI ועוד.
Episodes
איך בונים את ה-AI Hacker האולטימטיבי? ראיון עופרי זיו מחברת Tenzai
הפרק היה לי הכבוד לראין את עופרי זיו, מייסד שותף וה-VP Research בחברת Tenzai ולדבר איתו על איך בונים האקר מבוסס מודלי AI.
בפרק צללנו לדרך שבה מודלי AI הופכים להיות טובים במציאת חולשות ואיך ניתן להפוך אותם להאקרים שעוזרים למצוא נקודות תורפה במערכות.
חברת Tenzai היא אחת מהשותפות שלנו בכנס CyberML בו הם משתפים לעומק על התהליך הטכני של בניית האקר AI.
לינק לכנס: https://machinelearning.co.il/lp-events
איך משתמשים ב-AI כדי להגן על המתקנים הרגישים ביותר בעולם? ראיון עם בן משיח מחברת Claroty
בפרק הזה היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים.
כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו.
אם
מחקר AI מתקדם בחברת סייבר - ראיון עם שירן בראלי מחברת Cyera
הפרק הזה היה לי העונג לארח את שירן, VP Research בחברת Cyera.
למי שלא מכיר, מדובר על אחת מחברות הסייבר הישראליות הצומחות ביותר.
בפרק דברנו על הדרך שבה עושים מחקר דאטה ו-AI מעמיק ועל האופן שבו מודלי שפה עוזרים להגן על דליפות מידע. הפרק עסק גם בצורך לאמן מודלים באופן עצמאי (במיוחד בסקייל שלהם) וגם על העתיד של תחום הסייבר וה-AI.
מוזמנים לשמוע עוד על מה ש-Cyera עושה בתחום בכנס CyberML שלנו:
https://mac
איך לאבטח את השימוש בכלי AI בארגון? ראיון עם טום ברנע מחברת Tenable
הפרק הזה היה לי העונג לארח את טום ברנע מחברת Tenable - אחת מחברות הסייבר המשמעותיות בעולם. בפרק דברנו על איך תחום הסייבר משתנה בעקבות מודלי GenAI ואיך הם כחברת אבטחה צריכים להתמודד עם כל השינויים האלה.
מה שמיוחד בפרק הזה הוא שטום שיתף לא מעט ממה שקורה בשטח ובאתגרים שחברות מתמודדות עמן ביום יום. העובדה שב-Tenable פועלים עם כל כך הרבה חברות מביאה להם ראיה מאוד רחבה על השוק ועל הדרך שבה ארגונים מנסים
איך בונים סוכני AI מאובטחים לארגונים - ראיון עם גבריאל כהן, המייסד של NanoClaw
בפרק הזה היה לי העונג לראיין את גבריאל כהן, המייסד שותף של NanoClaw.
לגבריאל יש סיפור חיים מרתק שהוביל אותו להקים גרסה מאובטחת של OpenClaw שיודעת לספק את כל הפונקציונליות העיקרית אבל באופן הרבה יותר בטוח.
הפרויקט תפס תאוצה בחודשים האחרונים והפך להיות סנסציה גדול בקרב קהילת ה-AI הבינלאומית - כולל אנדריי קרפתי שהתלהב מהפרויקט מאוד.
בפרק עצמו דברנו על מה המהות של סוכנים, איך בונים אותה בצורה מאובט
אבטחה של מקורות הדאטה בעידן ה-AI: ראיון עם גילי כנפו מחברת Vega
הפרק היה לי העונג לדבר עם גילי כנפו, AI Lead בחברת Vega - בין הסטארטאפים הכי מעניינים בתחום ה-AI והסייבר.
דברנו על איך מאבטחים דאטה בעידן ה-AI, איך חוקרים פרצות אבטחה בעזרת סוכנים ובכלל לאן כל התחום הולך בשנים הקרובות.
גילי ידבר על כל זה ועוד בכנס CyberML שלנו:
https://machinelearning.co.il/lp-events/cyberml/
עושים סדר בחומרה ל-AI: ראיון עם ד"ר עדי מחברת SpeeData
עדי הוא מי שאני הולך אליו ללמוד על כל דבר שקשור לחומרה בתחום ה-AI. בפרק הזה דברנו על שבבים לאימון, להרצה ובכלל על העתיד של כל התחום הזה.
דברנו כמובן גם עם אנבידיה ועל התחרות שיש להם ואיך אפשר באמת לאתגר את הדומיננטיות שלה בעולם השבבים.
פרק חובה לכל מי שרוצה להבין לעומק את צד החומרה במהפכת ה-AI.
Google's bet on TPU: Interview with Leo Leung, Director of AI & Computing Infrastructure at GCP
In this episode I had the honor to interview Leo Leung, Director of Product Management - AI & Computing Infrastructure. Leo Leung took me deep into the 8th Gen TPUs.
We explored how Google connects 134,000 chips into a single system and why they are specifically increasing memory and SRAM to support the high-speed requirements of autonomous agents.
This interview was part of my coverage of the
From DeepMind's research to production: Interview with Bill Jia, VP Engineering at Google Cloud
In this episode I had the opportunity to interview Bill Jia, VP Engineering at Google Cloud.
Bill Jia shared how his team bridges the gap between DeepMind’s research and massive production runs on 100k+ TPUs, focusing on "Good-put", the art of ensuring productive compute time during weeks of training.
I learned so much about the actual transformation from research to production in this conversatio
The future of Agents: Interview with John Abel, Managing Director, Office of the CTO at Google Cloud
In this episode I had the honor to speak with John Abel, Managing Director, Office of the CTO at Google Cloud.
I had an amazing conversation with him and he gave me such interesting perspectives about the future of agents.
We also discussed why domain experts are the real winners of the AI revolution and how "Agentic AI" will finally eliminate daily friction to make room for creative work.
This in
עובדים דיגיטליים בתחום הסייבר - ראיון עם נדב ארז מ- Twine
בפרק הזה, חלק מסדרת CyberML שלקראת הכנס שלנו, אירחתי את נדב ארז מ-Twine לשיחה מרתקת על הצומת בין AI לסייבר. נדב הוא ה-CTO של Twine ואחד המייסדים, ובחברה הם בונים את "אלכס" - עובד דיגיטלי שמקבל KPI ופועל מולו 24/7 בעולמות ה-Identity Management.
דברנו על איך בונים עובדים דיגיטליים שאפשר לסמוך עליהם, על מתקפות סייבר עתידיות, על מודלי AI שמתמחים בסייבר ועוד מלא דברים מעניינים.
נדב ידבר על כל זה, ועל ע
איך מאבטחים את המודלים של המעבדות הגדולות בעולם? ראיון עם עומר מ- Irregular על הגנה על מודלי ה-AI.
בפרק הזה היה לי העונג לארח את עומר נבו, CTO ומייסד שותף בחברת Irregular. דיברנו על שני נושאים שמרתקים אותי במיוחד: הערכת היכולות המסוכנות של מודלי AI מתקדמים והמרוץ לבניית הגנות סייבר בעולם של סוכנים אוטונומיים.
הזכרנו את שיתופי הפעולה הייחודיים של Irregular עם השחקניות הגדולות בעולם כמו OpenAI, אנטרופיק וגוגל, ועל האופן שבו הם בונים סביבות סימולציה מורכבות כדי להבין איפה המודלים נשברים.
דנו באיו
מודלי AI שמבינים את העולם - ראיון עם רוני גולדשמיט מחברת Nexar
בפרק הזה היה לי העונג לארח את רוני גולדשמיט מחברת Nexar ודברנו על שני נושאים שמאוד מסקרנים אותי: מודלי AI שאפשר להריץ מקומית וגם על World models - מודלי AI שבוראים ויוצרים עולמות שלמים עם חוקי פיזיקה מלאים.
בפרק דברנו גם על פריצת הדרך החדשה שהשיגה Nexar בתחום ועל משפחת המודלים החדשים שהיא הכריזה עליהם שמבינים את הפיזקליות של העולם בצורה ממש טובה. דברנו על איך מאמנים מודל שכזה, מה היישומים של הטכנ
איך בודקים קוד שנכתב על ידי בינה מלאכותית? ראיון עם איתמר פרידמן, מייסד Qodo
לכתוב קוד באמצעות AI זה קל, לבדוק שהוא באמת טוב זה כבר חתיכת אתגר. בדיוק על זה דברתי עם איתמר פרידמן, המייסד של Qodo - סטארטאפ ישראלי מבטיח שמוודא שהקוד שנכתב על ידי מודלי AI באמת באיכות טובה. בפרק דברנו על מה זה אומר בכלל קוד טוב, למה זה כזה קשה לבדוק איכות של קוד כזה וגם: איך איתמר הגיב ברגע שאנטרופיק השיקה מוצר מתחרה לשלו.
ראיון עם אנדריי אוסטרובסקי מ-Intuit: איך משתמשם ב-AI לכתיבת קוד בסקייל בארגונים
בפרק הזה אירחתי את אנדריי אוסטרובסקי (Andrey Ostrovsky), Staff Machine Learning Engineer ב-Intuit, לשיחה עמוקה על האתגרים בשילוב AI בכתיבת קוד בתאגידים גדולים. הפרק בחסות Intuit.
מה שמיוחד בשיחה שהייתה לנו היה שלא דברנו רק על איך המפתח הבודד יכול להשתמש ב-AI, אלא ממש על איך ארגון יכול לכתוב קוד בסקייל באמצעות AI. כלומר, איך בונים מכונה שמייצרת קוד אבל באופן שמשתפר באופן קבוע (אבולוציוני) ומה התהלי
ראיון עם צופית וריטה מ-Intuit - איך מגנים על מודלי AI מתקיפות סייבר?
בפרק הזה דברתי עם צופית וריטה, שתיהן חוקרות מ-Intuit, ודברנו על השילוב של תחום ה-AI והסייבר. הראיון הזה היה המשך להרצאה המעולה שהן העבירו בכנס GenML שבו הן דיברו על איך מודלי AI יכולים להיות מושפעים משינוי קטן בקלט.
בפרק הזה הן דיברו איך אפשר לעשות שינוי קטן בתמונה, או במסמך, ולגרום למודלי AI הכי מתקדמים לבצע פעולות אחרות לגמרי. הן גם סיפרו על המחקר שהן עושות ואיך זה בא לידי ביטוי בסוף במוצר הסופי
ראיון עם יובל בלפר מחברת AI21 - מודלי שפה כחול לבן
הפרק היה לי העונג לארח את יובל בלפר, Senior Developer Advocate בחברת AI21 Labs.
למי שלא מכיר, חברת AI21 Labs היא החלוצה הישראלית בתחום מודלי השפה ובין החברות היחידות הישראליות שמפתחות מודל בסיס מאפס. הקלטנו את הפרק בנובמבר, קצת לפני הכנס של הקהילה (GenML25) והוא היה הכנה לקראת ההרצאה שלהם בכנס.
בשיחה דברנו על המוצרים השונים של החברה, המודלים לאורך השנים, השינויים שקרו בשנים האחרונות, הפלטפורמה החד
ראיון עם עידן בסוק מחברת Aidoc - מודלי AI בתחום המדיקל
בפרק הזה אירחתי את עידן בסוק, Chief R&D and AI Officer, בחברת Aidoc העוסקת בתחום פיתוח מודלי AI לעולם המדיקל. דברנו על השלבים הראשונים של החברה, המעבר ממספר מודלים למודל אחד גדול, על מה זה אומר לפתח מודל בסיס בתחום המדיקל ועל ההזדמנויות האדירות שיש בשילוב AI בתחום הרפואה.
מודלי AI בתחום הוידאו - ראיון עם נעמי קן כורם מחברת לייטריקס
בפרק הזה היה לי העונג לארח את נעמי קן כורם, Senior Researcher, בחברת לייטריקס לשיחה מרתקת על מודלי AI בתחום הוידאו.
בפרק דברנו על הדרך שלייטריקס עברה בשנים האחרונות ואיך לצד האפליקציות שהם משחררים לצרכנים, הם התחילו גם לשחרר מודלי AI בקוד פתוח ולהנגיש את הטכנלוגיה שלהם. דברנו על איך זה לאמן מודלי בסיס בתחום הוידאו, על היתרונות שלהם לעומת המתחרים וגם על העתיד של התחום.
כל מי שרוצה ללמוד עוד על הנוש
הכשרות בתחום הבינה המלאכותית: ראיון עם כרמל ונועה מ-Nebius Academy
אני שמח לשתף פעולה בפעם השישית עם Nebius Academy (לשעבר YDATA) ולספר לכם על תוכנית ההכשרה שלהם לתחומים ה-AI. בפרק הזה ראיינתי את כרמל, מנהל התוכנית, ואת נועה, חוקרת בתחום ומרצה בתוכנית.
בפרק הזה דברנו על הכשרות בתחום ה-AI ועל הקורס של Nebius Academy. שוחחנו על איך הסילבוס התעדכן עם כל ההתפתחויות בתחום, על ההכנה של הבוגרים לשוק העבודה, הפרויקט גמר ועוד הרבה נושאים נוספים.
המחזור הבא מתחיל ממש בקרוב
ראיון עם מיכה ואוהד מאורקל - שימוש בבינה מלאכותית בשדה הקרב
בפרק הזה דברתי עם מיכה ואוהד מאורקל ובו דברנו על הפעילות שלהם בתחום הדיפנס.
השיחה הייתה מרתקת במיוחד כי דברנו על איך גורמים ליכולות AI לרוץ באופן חלק בשדה הקרב. החל מ-GPU טקטי ועד לדאטה סנטרים ניידים שיכולים להיפרש בשטח.
בפרק דברנו על שלל הפתרונות שיש להם בעולם התוכן הזה וגם על העמידה האיתנה של אורקל העולמית ומהקומית לצד ישראל.
לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25
AI on the Edge - Interview with Krishna Rangasayee, Founder and CEO of SiMa.ai
I had a great time with Krishna Rangasayee, Founder & CEO of SiMa.ai, diving into AI at the edge, defense-grade requirements, and building products people actually use.
We unpacked why “efficiency per watt” matters more than headline benchmarks, and how to make multimodal workloads (vision, language, sensor fusion) run in real time on low power. Krishna shared a builder’s view of the stack -
ראיון עם טל פיאלקוב - VP AI Cyber בחברת Dream
בפרק הזה היה לי העונג לארח את טל פיאלקוב שהוא VP AI Cyber בחברת Dream.
את טל אני מכיר שנים רבות והוא עסק לא מעט בשילוב של עולמות הסייבר וה-AI.
בפרק הזה דברנו על איך בונים באמצעות AI מוצרי סייבר מדור חדש ואיך אפשר לרתום מודלים מתקדמים כדי להגן על מדינות ממתקפות סייבר.
טל הולך לדבר באירוע DefenseML שלנו בדיוק על הנושאים האלה. לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25/
תחרות אחזור מידע סמנטי בשפה העברית - ראיון עם טל ואמיר ממפא"ת
פרק חדש בפודקאסט והפעם פרק מיוחד על אחזור מידע סמנטי בעברית ועל התחרות של מפא"ת בתחום.
בפרק ראיינתי את טל ואמיר ממפא"ת ודיברנו על תחרות הדאטה החדשה שנפתחה ממש בימים האחרונים. התחרות עוסקת באתגר מאוד מיוחד: היכולת לאחזר מידע רלוונטי מטקסטים בעברית. בפרק דברנו על התחום עצמו, על למה זו עדיין בעיה לא פתורה בעברית (וגם באנגלית), על מודלים נפוצים בתחום ועל מי יכול לקחת חלק בתחרות.
לינק לתחרות: https://w
ראיון עם חגי לופסקו - SVP AI Inference בחברת Cerebras Systems
חגי חוזר אלינו בפעם השנייה והפעם בתפקיד חדש כ-SVP AI Inference בחברת Cerebras Systems. למי שלא מכיר, חברת Cerebras היא בין המתחרות הכי גדולות של Nvidia והיא מפתחת שבבים שמתאימים גם לאימון מודלים וגם להרצה שלהם. הם בנו כמה מחשבי על ברחבי העולם וגם Perplexity ומיסטרל בחרו בחומרה שלהם כדי להריץ את המודלים שלהם.
בשיחה דברנו על ההבדלים בינם לבין המתחרות, איך חומרה יכולה להשפיע קצב ג'ינרוט הטוקנים, על
Interview with Harald (Harry) Kroeger, Head of Sales and President Automotive at SiMa.AI
הפרק הזה הוא בשיתוף Sima.ai והיה לי העונג לראיין את הארי קרוגר, Head of Sales and President Automotive בחברה.
לחברת Sima.ai יש באמת סיפור מרתק: הם קמו לפני למעלה מ-5 שנים וגייסו כ270 מיליון דולר כדי לפתח שבבים שמאפשרים למודלי AI לרוץ ביעלות על חומרת קצה.
בשיחה המרתקת עם הארי דברנו על תהליך יצור השבבים (הם הצליחו להפתיע אפילו את TSMC), על מה זה בכלל אומר להריץ מודלים על הקצה ולמה זה כל כך חשוב
ראיון עם רן טסלר, Director of Solutions Architecture בחברת AWS
ראיון שקיימתי עם רן טסלר, Director of Solutions Architecture בחברת AWS על כל הפעילות שלהם בתחום ה-AI באופן כללי וספציפית על המאמצים שלהם בעולמות ה-GenAI. דברנו על הדרך שAWS עברה בשנים האחרונות ובאילו מוצרים הם הכניסו את יכולות ה-AI השונות שפותחו באמזון. דברנו גם על פלטפורמת בדרוק שלהם ובכלל על כל הכלים שיש לחברות וארגונים כדי לבנות שירותי GenAI שונים.
ראיון עם דני ווינר מחברת אורקל
קשה להתעלם מהשנה האחרונה של אורקל.
החל מכך שחברת OpenAI בחרה בחומרה שלהם להריץ את המודלים שלה ועד לתהליך בניית מחשב העל הגדול ביותר בעולם.
בפרק המיוחד הזה עם דני ווינר, Director Cloud Solutions בחברת אורקל, ניסתי להבין לעומק איך אורקל פועלת בתחום ה-AI ומה האסטרטגיה שלה בתחום.
דברנו על מה הבידול שלהם בעולם שכולם "מוכרים GPU", על המוצרים שלהם לאנשי דאטה וגם על מה התוכניות שלהם לעתיד.
והכי חשוב: הבנת
פרק עם גיא פיגנבלט, מנהל בכיר בקבוצת המחקר של איביי
ניהלתי שיחה מרתקת עם גיא פייגנבלט מאיביי על העולם המורכב והמפתיע של בינה מלאכותית במסחר אלקטרוני. צללנו לאופן שבו איביי מנצלת בינה מלאכותית גנרטיבית ומודלי שפה גדולים לכל דבר - החל מאוטומציה של תיאורי מוצרים (תארו לעצמכם העלאת תמונה וקבלת מודעה מוכנה!) ועד לבניית עוזר קניות.
חקרנו גם את האתגרים הייחודיים ביישום טכנולוגיות אלה בשוק עם מיליארדי פריטים ומיליוני מוכרים, במיוחד בכל הנוגע למגוון האתגרים
ראיון עם פרופסור גל צ'צי'ק - Sr. Director of AI Research בחברת Nvidia
השבוע היה לי הכבוד לארח את גל צ'צ'יק, Sr. Director of AI Research at NVIDIA ופרופסור באוניברסיטת בר-אילן. ניהלנו שיחה מעולה ודיברנו על **NVIDIA כחברת מחקר**.
תופתעו לגלות על כל המחקר המרתק שנעשה ב-NVIDIA ואיך הם אפילו משתמשים בלמידת חיזוק (RL) כדי לשפר את ביצועי מרכזי הנתונים שלהם. זהו פרק מצוין לכל מי שרוצה לקבל נקודת מבט ייחודית זו על NVIDIA.
ראיון עם עידו פרחי, Senior Data Scientist בחברת Intuit
הפרק הזה הוא עם עידו פרחי, Senior Data Scientist בחברת אינטואיט.
הפרק עם עידו היה מרתק במיוחד כי הוא היה גם קצת שונה. דברנו לא רק על איך בונים מוצרי GenAI בסקייל עצום, אלא גם איך מאבטחים אותם.
דברנו על המחקר שהם עושים בתחום הסייבר של מודלי GenAI ואיך חברות יכולות לבנות אפליקציות בתחום, אבל כאלה שיהיו בטוחות יותר.
פרק חובה לכל מי שמתכנן להעלות לפרודקשיין פיתוח בעולמות ה-GenAI. על כל זה ועוד ידבר ע
ראיון עם מושיקו אברהם, Customer Engineer בGoogle Cloud
הרשמו לכנס שלנו: https://machinelearning.co.il/lp-events/genml-2024/
הפרק הוא עם מושיקו אברהם, Customer Engineer בגוגל קלאוד - פודקאסט Hidden Layers.
דברנו על מודלי השפה שלהם (ג'ימיני) ועל הייחודיות שלהם לעומת המתחרים, דברנו על ה-TPUים של גוגל (ה-GPU שגוגל פיתחה מאפס) ועל חברות שבנו מודלים מעניינים על הענן שלהם (פרגנו ל AI21 ולייטריקס).
בינתיים מוזמנים לשמוע את הפרקים הקודמים:
ספוטיפי: https://t
ראיון עם רונן דר, מייסד ו-CTO של חברת RunAI
הפרק הוא עם רונן דר, המייסד וה-CTO של חברת RunAI שעוזרת לחברות להשתמש בצורה טובה יותר במשאבי ה-GPU שיש להם.
בפרק הזה דברנו על הדרך שבה המוצר שלהם עובד, על איך מהפכת ה-GenAI השפיעה עליהם, מה קורה מאחורי הקלעים במשבר השבבים וגם שאלת ה-700 מיליון הדולר: האם חברת Nvidia אכן רוכשת אותם?
מי שרוצה לשמוע עוד את רונן, מוזמן להירשם לכנס שלנו, GenML שיתקיים ב10.12.2024 בבית ציוני אמריקה.
לינק: https://mac
Interview with George Mathew - Managing Director at Insight Partners
You can watch the full interview here: https://machinelearning.co.il/23291/george-mathew-insight-partners
In this insightful episode of Hidden Layers, we sit down with George Mathew, Managing Director at Insight Partners, to dive into the evolving world of AI investment.
George shares his unique insights on generative AI, the impact of AI technologies on various industries, and what the future h
ראיון עם חגי לופסקו - VP Engineering בחברת MosaicML
זה פרק ראשון ביוזמה חדשה בשם Hidden layers שאני מתחיל עכשיו כפילוט.
ביוזמה הזו אני אראיין אנשי מתחום הדאטה וה-AI.
בפרק הראשון אירחתי את חגי לופסקו - VP Engineering בחברת MosaicML.
חברת MosaicML היא בין החלוצות בתחום ונמכרה ללפני מספר חודשים לחברת Databricks בסכום מטורף של 1.3 מליארד דולר. דברנו על זה, על התחום כולו ואפילו מה התחזיות שלו לעתיד.
