Tether Data dévoile QVAC Fabric, un cadre d’inférence et d’ajustement LLM pour les modèles d’IA modernes

En bref

Tether Data a lancé le framework QVAC Fabric LLM, permettant l’inférence et l’ajustement fin de LLM sur des appareils grand public et du matériel multi-fournisseurs, soutenant le développement de l’IA décentralisée, axée sur la confidentialité et évolutive.

La société Tether du Department of Financial Services, axée sur la promotion de la liberté, de la transparence et de l’innovation par la technologie, a annoncé le lancement de QVAC Fabric LLM, un framework complet d’exécution et d’ajustement fin de grands modèles de langage (LLM). Ce nouveau système permet aux utilisateurs d’exécuter, d’entraîner et de personnaliser de grands modèles de langage directement sur du matériel standard, y compris des GPU grand public, des ordinateurs portables, et même des smartphones, éliminant ainsi la dépendance antérieure aux serveurs cloud haut de gamme ou aux configurations NVIDIA spécialisées.

QVAC Fabric LLM redéfinit l’inférence et l’ajustement fin des LLM haute performance, auparavant réservés aux organisations disposant d’une infrastructure coûteuse. Il s’agit du premier système unifié, portable et hautement évolutif, capable d’exécuter entièrement l’inférence de LLM, l’adaptation LoRA et l’ajustement par instruction sur les systèmes d’exploitation mobiles (iOS et Android), ainsi que sur tous les environnements courants d’ordinateurs portables, de bureau et de serveurs (Windows, macOS, Linux). Cela permet aux développeurs et aux organisations de créer, déployer, exécuter et personnaliser l’IA de manière indépendante, sans dépendance au cloud, sans verrouillage fournisseur, ni risque que des données sensibles quittent l’appareil.

Une innovation notable dans cette version est la capacité d’ajuster finement des modèles sur des GPU mobiles, tels que Qualcomm Adreno et ARM Mali, marquant le premier framework prêt pour la production permettant l’entraînement de LLM modernes sur du matériel de type smartphone. Cette avancée facilite une IA personnalisée qui peut apprendre directement des utilisateurs sur leurs appareils, tout en préservant la confidentialité, en fonctionnant hors ligne, et en soutenant une nouvelle génération d’applications IA résilientes et embarquées.

QVAC Fabric LLM étend également l’écosystème llama.cpp en ajoutant le support de l’ajustement fin pour des modèles contemporains tels que LLama3, Qwen3 et Gemma3, auparavant non pris en charge. Ces modèles peuvent désormais être ajustés finement via un flux de travail cohérent et simple sur toutes les plateformes matérielles.

En permettant l’entraînement sur un large éventail de GPU, y compris AMD, Intel, NVIDIA, Apple Silicon et les puces mobiles, QVAC Fabric LLM remet en question l’idée selon laquelle le développement avancé de l’IA nécessite du matériel spécialisé, monopolisé par un seul fournisseur. Les GPU grand public deviennent désormais viables pour des tâches IA significatives, et les appareils mobiles se transforment en plateformes d’entraînement légitimes, élargissant ainsi le paysage du développement IA.

Pour les entreprises, le framework offre des avantages stratégiques. Les organisations peuvent ajuster finement leurs modèles IA en interne sur du matériel sécurisé, éliminant le besoin d’exposer des données sensibles à des fournisseurs cloud externes. Cette approche favorise la confidentialité, la conformité réglementaire et l’efficacité des coûts tout en permettant le déploiement de modèles IA personnalisés selon les exigences internes. QVAC Fabric LLM déplace l’ajustement fin des clusters GPU centralisés vers l’écosystème plus large des appareils déjà gérés par les entreprises, rendant l’IA avancée plus accessible et sécurisée.

Tether Data publie QVAC Fabric LLM en open-source, permettant la personnalisation décentralisée de l’IA

Tether Data a mis QVAC Fabric LLM à disposition en open-source sous licence Apache 2.0, accompagné de binaires multiplateformes et d’adaptateurs prêts à l’emploi sur Hugging Face. Le framework permet aux développeurs de commencer l’ajustement fin de modèles en quelques commandes, réduisant ainsi les barrières à la personnalisation de l’IA qui étaient auparavant difficiles à surmonter.

QVAC Fabric LLM marque une avancée concrète vers une IA décentralisée et gérée par les utilisateurs. Alors qu’une grande partie du secteur continue de privilégier les solutions cloud, Tether Data se concentre sur l’activation d’une personnalisation avancée directement sur du matériel local en périphérie. Cette approche soutient la continuité opérationnelle dans les régions avec des réseaux à forte latence, comme les marchés émergents, tout en offrant une plateforme IA résiliente, évolutive et axée sur la confidentialité, capable de fonctionner indépendamment de toute infrastructure centralisée.