אודות

AI Infrastructure Engineer | Inference Optimization Specialist

שלום, אני אפרת בדיל 👋

אני עוסקת בתשתיות AI, עם מיקוד עמוק בשלב ה-Inference: הרגע שבו מודל שכבר אומן צריך לעבוד בפרודקשן, לעמוד בעומסים אמיתיים, ולהגיב בזמן צפוי ויציב.

העבודה שלי נמצאת בצומת שבין תוכנה, מודלים ותשתית. אני מפתחת ומבצעת אופטימיזציה ל-AI inference pipelines על גבי פלטפורמת NR1, השבב הייעודי של החברה.

זה כולל עבודה עם מודלים מבוססי PyTorch — גם בעולמות של Vision (כמו YOLO) וגם NLP ו-LLMs (כמו BERT) — ושילוב שלהם בתוך Pipelines מלאים, משלב הקלט ועד התוצאה.

מה אני עושה ביום-יום?

🔍 ניתוח ביצועים (Performance Analysis)

חלק מרכזי בעבודה הוא להבין למה מערכת איטית — לא רק איפה. אני עוסקת בפרופיילינג, שהוא דיבוג וניתוח של ביצועים: Latency, Throughput ו-Bottlenecks. משווה בין ריצות על חומרות שונות, ומנסה להבין מה משתנה כשעוברים מחומרה כללית לחומרה ייעודית.

🛠️ פיתוח תשתיות (Infrastructure Development)

ביום־יום אני עובדת הרבה עם Python ו-Linux, כותבת סקריפטים ב-Bash, בונה Docker images ומריצה containers, ומתחזקת סביבות Benchmarking מורכבות.

⚙️ אוטומציה ו-CI/CD

יש גם לא מעט אוטומציה: כלים פנימיים, תהליכי CI/CD עם Jenkins, עבודה מול Artifactory, ותשתיות שמוודאות שכל שינוי נמדד, נבדק ומנותח.

🤝 עבודה צוותית

העבודה אינה מבודדת. אני משתפת פעולה באופן שוטף עם צוותי חומרה, קומפיילר ו-Backend, כדי להפוך מודלים לקוד שרץ באמת בפרודקשן. זה כולל הבנה של מערכות משולבות חומרה-תוכנה, ואבחון תקלות שיכולות להגיע מדרייבר, קונפיגורציה או ממשק תקשורת.

טכנולוגיות ומיומנויות

🧠 AI & ML

PyTorch ONNX Triton Inference Server LLMs Computer Vision

💻 Programming & Tools

Python Bash Linux Docker Git

🚀 DevOps & CI/CD

Jenkins Artifactory CI/CD Pipelines Automation

📊 Performance & Optimization

Profiling Benchmarking GenAI-Perf Hardware Acceleration

על הבלוג הזה

הבלוג נוצר כדי לתעד את מה שאני לומדת ולשתף ידע על:

  • AI Inference — איך להריץ מודלים בפרודקשן ביעילות
  • Performance Optimization — טכניקות לשיפור מהירות וזמן תגובה
  • Infrastructure & DevOps — Docker, CI/CD, אוטומציה
  • Hardware Acceleration — GPUs, מאיצים ייעודיים, ו-NR1
  • Profiling & Debugging — כלים ושיטות לניתוח ביצועים

הרבה מהלמידה מתרחשת תוך כדי עשייה: להבין איך החלטות קטנות משפיעות על ביצועים, ואיך מערכת שלמה מתנהגת כשהיא פוגשת עומסים אמיתיים.

צור קשר

מוזמנים לקרוא, לשתף, ולהגיב על הפוסטים. תגובות וקהילה עוזרות ללמוד יותר!

לכל הפוסטים קטגוריות