Faire fonctionner une intelligence artificielle directement sur son ordinateur, sans dépendre systématiquement de services en ligne, devient une possibilité de plus en plus accessible. Mais entre les contraintes matérielles, les réglages techniques et les performances variables, cette expérience peut rapidement devenir complexe.

C’est ce que souhaite explorer un journaliste de The Verge en testant différents modèles de langage installés localement, notamment sur des ordinateurs Mac et Windows. Son objectif est de déterminer si ces outils peuvent réellement faciliter certaines tâches quotidiennes, sans devoir transmettre ses données personnelles à des entreprises comme OpenAI, Google, Microsoft ou Anthropic.

L’intérêt principal de cette approche concerne la confidentialité. Lorsqu’un modèle fonctionne entièrement sur la machine, les requêtes et les documents peuvent rester sur l’ordinateur, sans être systématiquement envoyés vers des serveurs distants. Cela dépend toutefois de la configuration utilisée et des éventuelles fonctions connectées activées.

Cette autonomie a un prix. Les modèles les plus exigeants nécessitent beaucoup de mémoire vive, parfois bien davantage que les ordinateurs classiques n’en proposent. Apple met notamment en avant les capacités de ses Mac Studio pour l’intelligence artificielle locale, tandis que de nouvelles machines Windows équipées de composants Nvidia visent également ce marché.

La mémoire disponible influence directement les modèles que l’on peut charger et leur fonctionnement. Un modèle trop volumineux pour la configuration choisie peut devenir lent, voire impossible à exécuter correctement. Il faut également apprendre à installer les logiciels, sélectionner les bons modèles et comprendre leurs limites.

L’arrivée des agents IA ajoute une autre dimension : ces systèmes peuvent être conçus pour enchaîner plusieurs opérations plutôt que de simplement répondre à une question. Ils pourraient ainsi assister l’utilisateur dans certaines tâches répétitives, tout en restant exécutés sur sa propre machine lorsque les outils employés le permettent.

L’expérimentation montre néanmoins que posséder un ordinateur puissant ne suffit pas. Il faut encore trouver les bons usages et accepter une phase d’apprentissage parfois frustrante. L’enjeu est désormais de savoir si les avantages en matière de confidentialité et d’autonomie justifient le coût du matériel et les efforts nécessaires.