Jalapeño: OpenAI's new custom inference chip boosts AI efficiency

OpenAI has released Jalapeño, a custom inference chip that delivers faster and more power-efficient AI inference. This leads to higher throughput and lower latency for modern models.

מקור: OpenAI News — לכתבה המלאה

Comments

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

עוזר האתר מודל מקומי · gemma2
שלום! 👋 אני העוזר החכם של האתר, רץ על מודל מקומי בשרת. איך אפשר לעזור?