OpenAI et Broadcom annoncent une puce con\u00e7ue pour l’inf\u00e9rence de LLM \u00e0 grande \u00e9chelle<\/p>\n
OpenAI a annonc\u00e9 aujourd’hui qu’elle a travaill\u00e9 avec Broadcom pour concevoir son premier circuit int\u00e9gr\u00e9 pour applications sp\u00e9cifiques, ou ASIC, une puce con\u00e7ue pour traiter les requ\u00eates d’inf\u00e9rence pour ses mod\u00e8les de langage de grande taille, ou LLM.<\/p>\n
La puce a \u00e9t\u00e9 con\u00e7ue en interne par OpenAI et sera fabriqu\u00e9e par Taiwan Semiconductor Manufacturing Co., ou TSMC. Broadcom a fourni le soutien \u00e0 la conception de puces ainsi que l’expertise en mati\u00e8re de r\u00e9seautage et de packaging de puces n\u00e9cessaires pour que les puces puissent bien fonctionner ensemble, selon Bloomberg.<\/p>\n
Bien qu’elle ne produise pas de puce d’entra\u00eenement, OpenAI a d\u00e9clar\u00e9 qu’elle d\u00e9veloppait son deuxi\u00e8me ASIC. L’entreprise a ajout\u00e9 qu’elle fera toujours partie de son infrastructure informatique d’utiliser des unit\u00e9s de traitement graphique, ou GPU, de Nvidia pour l’entra\u00eenement de mod\u00e8les et l’inf\u00e9rence. Elle utilisera \u00e9galement des puces d’Advanced Micro Devices Inc.<\/p>\n
OpenAI a d\u00e9clar\u00e9 qu’elle commencerait les d\u00e9ploiements de puces de serveur cette ann\u00e9e et qu’elle s’attendait \u00e0 ce que sa propre puce am\u00e9liore les performances tout en r\u00e9duisant le co\u00fbt de fonctionnement de ses mod\u00e8les d’IA. La conception de puces en interne pour l’inf\u00e9rence est devenue une tendance parmi les grandes entreprises technologiques, notamment Amazon, Google, Meta et Microsoft.<\/p>\n
La plupart des grandes entreprises technologiques qui ont con\u00e7u leurs propres puces d’IA les ont fait pour l’inf\u00e9rence, qui n\u00e9cessite moins de puissance de calcul que l’entra\u00eenement de mod\u00e8les d’IA, ce qui la rend plus r\u00e9alisable pour les puces fabriqu\u00e9es en interne avec des \u00e9quipes ayant moins d’exp\u00e9rience en mati\u00e8re de conception de puces. Parmi les grandes entreprises technologiques qui ont d\u00e9j\u00e0 annonc\u00e9 avoir con\u00e7u leurs propres puces d’IA pour l’inf\u00e9rence, on trouve Amazon avec sa puce Inferentia, Google avec sa puce Tensor Processing Unit et Microsoft avec sa puce Maia.<\/p>\n
La nouvelle intervient alors qu’OpenAI continuerait \u00e0 discuter avec SoftBank Group Corp. et TSMC pour construire des usines de fabrication de puces dans le cadre d’un projet visant \u00e0 stimuler l’infrastructure mondiale de puces d’IA. La construction d’usines co\u00fbterait des centaines de milliards de dollars et OpenAI aurait jusqu’\u00e0 pr\u00e9sent eu du mal \u00e0 obtenir un soutien suffisant pour le projet.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI et Broadcom annoncent une puce con\u00e7ue pour l’inf\u00e9rence de LLM \u00e0 grande \u00e9chelle OpenAI a annonc\u00e9 aujourd’hui qu’elle a travaill\u00e9 avec Broadcom pour concevoir son premier circuit int\u00e9gr\u00e9 pour applications sp\u00e9cifiques, ou ASIC, une puce con\u00e7ue pour traiter les requ\u00eates d’inf\u00e9rence pour ses mod\u00e8les de langage de grande taille, ou LLM. La puce a<\/p>\n","protected":false},"author":0,"featured_media":2271,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-2270","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/2270","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=2270"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/2270\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/2271"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=2270"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=2270"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=2270"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}