L’ex\u00e9cution de mod\u00e8les locaux sur Mac devient plus rapide avec le support MLX d’Ollama<\/p>\n
Ollama a annonc\u00e9 le support pour MLX, un framework d’apprentissage automatique d\u00e9velopp\u00e9 par Apple. Cela signifie que les utilisateurs de Mac peuvent d\u00e9sormais ex\u00e9cuter des mod\u00e8les d’IA localement avec des performances am\u00e9lior\u00e9es.<\/p>\n
MLX a \u00e9t\u00e9 con\u00e7u sp\u00e9cifiquement pour les puces Apple Silicon, ce qui le rend particuli\u00e8rement efficace pour les Mac \u00e9quip\u00e9s de processeurs M1, M2 ou M3. Le framework optimise l’utilisation des capacit\u00e9s de traitement neural uniques de ces puces.<\/p>\n
Avec cette int\u00e9gration, Ollama peut tirer parti des acc\u00e9l\u00e9rateurs mat\u00e9riels des Mac modernes pour offrir des temps d’inf\u00e9rence plus rapides lors de l’ex\u00e9cution de grands mod\u00e8les de langage. Les utilisateurs devraient constater des am\u00e9liorations notables de vitesse par rapport aux impl\u00e9mentations pr\u00e9c\u00e9dentes.<\/p>\n
Pour utiliser MLX avec Ollama, les utilisateurs doivent simplement mettre \u00e0 jour vers la derni\u00e8re version. Le syst\u00e8me d\u00e9tectera automatiquement les capacit\u00e9s mat\u00e9rielles et utilisera MLX lorsque cela est appropri\u00e9. Aucune configuration suppl\u00e9mentaire n’est requise.<\/p>\n
Cette mise \u00e0 jour renforce la position d’Ollama en tant qu’outil populaire pour ex\u00e9cuter des mod\u00e8les d’IA en local. Elle d\u00e9montre \u00e9galement l’engagement continu d’Apple \u00e0 am\u00e9liorer les capacit\u00e9s d’apprentissage automatique de ses plateformes mat\u00e9rielles.<\/p>\n
Les d\u00e9veloppeurs et les passionn\u00e9s qui ex\u00e9cutent des mod\u00e8les sur Mac devraient envisager de mettre \u00e0 jour vers la derni\u00e8re version d’Ollama pour b\u00e9n\u00e9ficier de ces am\u00e9liorations de performance. Le support MLX repr\u00e9sente une avanc\u00e9e significative pour l’inf\u00e9rence locale sur les appareils Apple.<\/p>\n","protected":false},"excerpt":{"rendered":"
L’ex\u00e9cution de mod\u00e8les locaux sur Mac devient plus rapide avec le support MLX d’Ollama Ollama a annonc\u00e9 le support pour MLX, un framework d’apprentissage automatique d\u00e9velopp\u00e9 par Apple. Cela signifie que les utilisateurs de Mac peuvent d\u00e9sormais ex\u00e9cuter des mod\u00e8les d’IA localement avec des performances am\u00e9lior\u00e9es. MLX a \u00e9t\u00e9 con\u00e7u sp\u00e9cifiquement pour les puces Apple<\/p>\n","protected":false},"author":0,"featured_media":1285,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[],"class_list":["post-1284","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1284","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=1284"}],"version-history":[{"count":0,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/1284\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/1285"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=1284"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=1284"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=1284"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}