ML ו-AI כמוצר מדף של יצרניות הסיליקון הגדולות

ML ו-AI כמוצר מדף של יצרניות הסיליקון הגדולות
מאת: מערכת Telecom News, 26.5.18, 19:07

אינטל מתכננת קו מוצרים שלם המתחלק ל-2 קווי מחשבה נפרדים אך דומים: מאיצי עיבוד - שבבי FPGA ומאיצי רשת - שבבי FPGA.
ידוע, ש-AWS, Alibaba ו-Azure משתמשים גם ב-FPGA וגם ב-GPU כדי להציע ביצועים יותר טובים בענן. לאחרונה גם מתחילות חברות אלו ואחרות להציע מנועים שכאלה ככוח עיבוד, שמשתמש יכול לשכור ולתכנת בעזרתו.
הקרב על הבינה המלאכותית וניתוח Big data הגיע למיינסטרים. מה עושות יצרניות הסיליקון הגדולות?

הענן ,ובעקבותיו בקרוב גם תשתיות תקשורת אחרות, כגון ספקיות התקשורת המובילות, דורש ביצועים ופתירת בעיות, שלא תמיד ניתן לפתור ביעילות בעזרת המעבד הראשי (CPU).

העולם שלנו מוסיף כל דקה עוד כמויות עצומות של מידע, שמנותח ע"י כלים חכמים שונים וכל רגע עוד רעיון משנה את חיינו, עם ניתוח חכם של נתונים. החדשנות מדבקת אבל גם מחייבת את כולם להפנים ולחדש, אפילו את מובילי השוק.

לאחרונה, הקרב על בינה מלאכותית וניתוחBig Data  הגיע למיינסטרים ואיתו שלל תיאוריים צבעוניים ומילות באזז מפוצצות של מחלקות השיווק השונות כגון מאיצי ביצועים, SMART NIC, כרטיסי ביצועים בסביבות עתירות מידע ועוד.

מה מסתתר מאחורי השמות האלה? מה עושות יצרניות הסיליקון הגדולות? והכי חשוב, איך זה משפיע עלינו?

נתחיל בשמות, שכמעט כולם מכירים, ולשמחתנו יש פה לא מעט גאווה לאומית:Intel, Marvell, Mellanox, Xilinx, Nvidia  כולן מתחרות על העתיד של שבבי הסיליקון, שנראה במחשוב הענן, המנהל וינהל את חיינו .כמה מהן ביצעו רכישות בשנים האחרונות למצב את עצמן טוב יותר לעתיד הטכנולוגי.
 
לאחר כמה ניסיונות לא מוצלחים לייצר קו של מוצרים דמויי GPU ולהתחרות ב-NVIDIA, החליטהIntel  לשנות גישה ורכשה את Altera , יצרנית ה-FPGA.

המטרה שלה היא להעשיר את היכולות של אינטל בהתמודדות עם עומסי עבודה לא סטנדרטיים, הנוצרים עקב מגבלות של מעבדי ה-X86 שלה. בנוסף, FPGA נותן יכולות תכנות מכוונות משימה ועומסים עקב היותוProgrammable  וזהו עוד נדבך, שהיה חסר ל-Intel.

המתחרה העיקרית של Altera  היא חברת Xilinx, שגם היא מפתחת פתרונות FPGA ועכשיו היא הופכת להיות, בדומה ל-Mellanox, מתחרה ישירה של Intel, שחייבת לשמור על יתרון טכנולוגי כדי להצדיק את קיומה.

אינטל מתכננת קו מוצרים שלם המתחלק ל-2 קווי מחשבה נפרדים אך דומים

מאיצי עיבוד - שבבי FPGA, שישולבו קרוב לליבת העיבוד (ואולי בעתיד יהוו חלק ממנה) ויאיצו עומסים ומשימות של עיבוד נתונים כמוBig Data  וקבצים בעייתיים.

מאיצי רשת - שבבי FPGA, שישולבו על כרטיסי רשת, עם או בלי שבביEthernet  של Intel. פתרונות אלה יאיצו עומסי רשת כמו כיווץ והצפנה במהירויות גבוהות וניתוב חכם של תעבורה בקצבי 100 גיגה ומעלה.

עבור 2 המקרים,Intel  משקיעה בתכנות ליבות המתאימות למקרים מסויימים (או ישירות או עם שותפים), כמו הצפנת נתונים במהירות 100 גיגה עבור הענן אוAI  ו- ML (ר"ת: Machine Learing) עבור ניתוח Big Data.

ידוע, ש-AWS, Alibaba ו-Azure משתמשים גם ב-FPGA וגם ב-GPU - כדי להציע ביצועים יותר טובים בענן.

לאחרונה גם מתחילות חברות אלו ואחרות להציע מנועים שכאלה ככוח עיבוד, שמשתמש יכול לשכור ולתכנת בעזרתו. המטרה היא להציע את הכלים הטובים ביותר והמתאימים ביותר לפתרון הבעיה הספציפית.

לדוגמא, אם דרוש ניתוח תמונה תלת-מימדית או ניתוח גנום אנושי, שאפשר להאיץ בעזרת הליבות האלו. הדרך של היזם או המתכנת לקבל תוצאות טובות קצרה בהרבה.

עוד דוגמא היא חברה כמו Uber (שלצערנו, לא ניתן עדיין להנות משלל שירותיה בארץ), שנזקקת לניתוח מידע בזמן אמת ממאות אלפי מקורות מידע ובעזרת בינה מלאכותית לקבל החלטות. יש להניח, שהמכוניות החכמות, שנראה בשוק בשנים הקרובים, תנצלנה היטב את יכולות המחשוב האלו של הענן אליו תחוברנה.

ולכן, חברות הסיליקון רואות בפתרונות אלה חלק מהותי במוצרים, שהן מציעות לענן ול-Data Center.
 
לא הכל ורוד בצעידה לקראת העתיד הטכנולוגי ולחברות יש עוד עבודה רבה, שכן שבבי FPGA אינם קלים לתכנות ודורשים מומחיות בתחום. בנוסף, תשתית תוכנה לא מותאמת בד"כ לשימוש המאיצים כאלה.

ישנם כמה דרכים לפתור את הבעיה. בטווח הארוך, כנראה, תתבצע הרבה עבודת תוכנה, שתתאים את המנועים האלה למתכנת הפשוט ותסתיר את מורכבותם מאחורי שכבות ביניים.

בנתיים, גםIntel  וגםMellanox/Xilinx  מציעות פתרון יחסית פשוט, כרטיס, שיש בו גם FPGA וגם רכיב סטנדרטי יותר, כמו שבב רשת, שכולל תמיכה בתשתית תוכנה פשוטה ומוכרת.

השבב הוא זה המתחבר ישירות לתשתית ובעצם מסתיר את הסיבוכיות של ה-FPGA אך באותו הזמן ניתן לטעון ליבות שונות על ה-FPGA כדי להאיץ ביצועיי רשת על התעבורה, לפני שהיא מגיעה לתשתית התוכנתית. למשל, הצפנה או ניתוח נתונים המתבצעים בזמן אמת וחוסכים עבודת מעבד.
 
ניתן לשער, שהעתיד טומן בחובו אתגרים טכנולוגיים חדשים ורבים. למשל, מכוניות וכלי תחבורה המנוהלים ע"י מחשוב ענן ידרשו כמויות מידע עצום וגם יצרו רשתות בינם לבין עצמם, או מחקר רפואי, שייקח מיליוני נתונים ויפיק תוצאות, שלקח להפיקן בעבר שנים, בשעות ספורות.

אתגרים אלה ואחרים יצרו כמה סוגי טכנולוגיות של ליבות ומאיצים ויש סיכוי, שנראה יותר ויותר מעבדים היברידיים, המסוגלים לעבד סוגי מידע שונים ביעילות גבוהה, ע"י טעינת מבנה שונה של ליבה לכל משימה ואז לפנות את המעבד למשימה אחרת, או לחלוק אותו עם משימה אחרת.

יש לשער, שגם במקרה זה הסיבוכיות תוסתר משכבת התוכנה, כדי לאפשר עבודה עם תשתית קיימת או ישנה.