PC
Un test pratique montre que Linux tourne sur les portables Nvidia RTX Spark, mais le GPU tombe à environ 780 MHz, réduisant la vitesse d'inférence de l'IA à près de 35%.
Chargement…
Recherche
Aucun téléphone et 8 articles pour « inférence IA »
PC
Un test pratique montre que Linux tourne sur les portables Nvidia RTX Spark, mais le GPU tombe à environ 780 MHz, réduisant la vitesse d'inférence de l'IA à près de 35%.
IA
La société Fal, basée à San Francisco, a levé 1,3 milliard de dollars menés par Bessemer sur une valorisation de 16 milliards de dollars, le double de sa valeur en avril, portée par la demande d'inférence IA.
IA
Nvidia a rejoint un tour de table de série B de 14 M$ mené au profit de Simplismart, société basée à Bengaluru qui optimise l'inférence IA pour mieux exploiter les GPU existants.
IA
Cerebras a détaillé comment elle répartit des modèles à 3000 milliards de paramètres comme Kimi K3 sur 59 wafers WSE-3T, en gardant les poids sur puce et en transmettant les activations entre elles.
IA
DeepSeek a publié DeepInfer sur GitHub, un cadre d'inférence open source conçu pour faire tourner ses grands modèles linguistiques à grande échelle. La pile de serving passe aux mains des développeurs.
IA
La nouvelle série GPU D-Series d'Intel embarque jusqu'à 480GB de mémoire LPDDR5X et vise l'inférence IA, avec un système de huit cartes capable de traiter des modèles à 1 billion de paramètres.