Poser ses questions à une IA sans qu'aucun document ne quitte votre ordinateur

Vous avez un contrat, un compte-rendu médical, un dossier client, et vous aimeriez qu'un assistant vous le résume. Mais l'envoyer à un service en ligne veut dire le confier à quelqu'un d'autre, sur un serveur que vous ne contrôlez pas, pour une durée que vous ne connaissez pas.

Il existe une autre voie : faire tourner le modèle sur votre propre ordinateur. Le document reste sur votre disque, la question aussi, et la réponse est calculée par votre machine. Vous pouvez même débrancher Internet pendant ce temps.

Ce guide ne vend rien. Il commence par ce que vous allez y perdre, parce que la perte est réelle et qu'il vaut mieux le savoir avant d'installer quoi que ce soit.

Si votre problème est seulement de ne pas divulguer certaines informations à un service en ligne, la fiche Utiliser une IA sans y mettre ses données personnelles suffit probablement, et elle ne demande aucune installation.

Ce que vous gagnez, ce que vous perdez

Une IA (intelligence artificielle) locale n'est pas la même chose en plus privé. C'est un autre compromis.

Dit franchement : un modèle que vous faites tourner chez vous répond moins bien qu'un service en ligne du même moment, et il ignore tout de ce qui s'est passé depuis sa fabrication. Si vous cherchez la meilleure réponse possible et que vos textes n'ont rien de sensible, ce guide ne vous sera pas utile. Si vous cherchez une réponse correcte sur un texte que vous ne voulez confier à personne, il l'est.

Le trajet de votre document, dans les deux cas

flowchart LR
    subgraph LOCAL[Modele sur votre ordinateur]
        direction TB
        A1[Votre document] --> A2[Logiciel local]
        A2 --> A3[Modele telecharge\nsur le disque]
        A3 --> A4[Reponse]
        A4 --> A5[Rien n a quitte\nla machine]
    end
    subgraph ENLIGNE[Service en ligne]
        direction TB
        B1[Votre document] --> B2[Navigateur]
        B2 --> B3[Internet]
        B3 --> B4[Serveur de l editeur]
        B4 --> B5[Conservation, journaux,\nparfois entrainement]
        B4 --> B6[Reponse]
    end

La seule étape qui change tout est la troisième colonne de droite : Internet. Tout le reste en découle.

Avant d'installer : est-ce que votre machine peut le faire ?

Deux chiffres décident, et vous pouvez les lire en une minute.

1. La quantité de mémoire vive, la RAM (mémoire de travail de l'ordinateur, à ne pas confondre avec l'espace disque). C'est le facteur limitant principal : un modèle doit tenir entièrement en mémoire pour répondre à une vitesse supportable.

2. La présence ou non d'une carte graphique dédiée, le GPU (processeur graphique). Ce n'est pas obligatoire, mais c'est ce qui fait la différence entre une réponse qui s'écrit plus vite que vous ne lisez et une réponse qui s'écrit plus lentement.

Où lire ces deux chiffres

Sur une carte graphique dédiée, le chiffre qui compte est sa mémoire propre, la VRAM (mémoire embarquée sur la carte). Elle est distincte de la mémoire vive de l'ordinateur.

Ce que votre machine peut faire tourner

Les modèles se mesurent en milliards de paramètres. Retenez juste que c'est une mesure de taille : plus il y en a, plus le modèle est capable, plus il est lourd et lent.

La règle de pouce qui évite les mauvaises surprises : le fichier du modèle occupe à peu près autant de mémoire que d'espace disque. Un fichier de 5 Go réclame environ 5 Go de mémoire libre, plus 2 Go pour respirer. Un logiciel qui vous annonce un modèle de 20 Go sur une machine qui en a 16 vous promet une séance de gel.

Prévoyez aussi 10 à 30 Go d'espace disque libre : les modèles s'y accumulent vite, et ils ne se suppriment pas tout seuls.

Choisissez un seul chemin

Deux logiciels, deux publics. Les deux sections qui suivent sont indépendantes : faites l'une, ignorez l'autre.

• Chemin A, une application avec des fenêtres. Vous n'ouvrez jamais de terminal, vous cliquez, vous discutez. C'est le choix par défaut.
• Chemin B, Ollama en CLI (interface en ligne de commande). Vous tapez des commandes. Plus léger, plus rapide à mettre en place si le terminal ne vous fait pas peur, et c'est ce qui permet ensuite de brancher d'autres outils dessus.

flowchart TD
    Q{Le terminal vous\nmet mal a l aise ?}
    Q -- Oui --> A[Chemin A\nApplication avec fenetres]
    Q -- Non --> B[Chemin B\nOllama en ligne de commande]
    A --> P[Meme etape finale :\ncouper Internet et verifier]
    B --> P

Chemin A : une application avec fenêtres

L'exemple le plus répandu est LM Studio, gratuit pour un usage personnel, disponible sur Windows, macOS et Linux. Les libellés exacts de ses écrans changent d'une version à l'autre : ce qui suit décrit donc l'intention de chaque étape, pas le texte d'un bouton.

1. Téléchargez le logiciel depuis son site officiel et installez-le comme n'importe quelle application. Vérifiez que vous êtes bien sur le domaine de l'éditeur : des copies malveillantes de logiciels populaires circulent, et un installeur d'IA est un prétexte de choix.
2. Cherchez un modèle à télécharger. L'application propose un écran de recherche ou de découverte, alimenté depuis un catalogue public. Un modèle utile y apparaît sous plusieurs variantes, dont la taille de fichier diffère : c'est cette taille en gigaoctets qui vous intéresse, à comparer au tableau plus haut.
3. Prenez la variante compressée, pas la plus grosse. Ces versions allégées, dites quantifiées, réduisent fortement le poids du fichier pour une perte de qualité généralement modeste. Elles portent souvent une mention du type Q4 ou 4-bit dans leur nom. La plupart des applications signalent d'elles-mêmes les variantes compatibles avec votre matériel : suivez cette indication, elle connaît votre machine mieux que vous.
4. Lancez le téléchargement, puis patientez. Plusieurs gigaoctets sur une connexion domestique, comptez de quelques minutes à une demi-heure.
5. Ouvrez l'écran de discussion, chargez le modèle téléchargé, et posez votre première question. Le premier chargement est toujours le plus lent : le fichier monte du disque vers la mémoire.

Si la machine se fige ou si le logiciel signale qu'il manque de mémoire, vous avez pris trop gros. Déchargez le modèle, reprenez la variante d'en dessous.

Chemin B : Ollama en ligne de commande

Ollama est gratuit, ouvert, et se conduit en quelques commandes.

Installation

Sur Windows et macOS, téléchargez l'installeur depuis le site officiel du projet et lancez-le. Sur Linux, le projet publie un script d'installation dont la commande exacte figure sur sa page de téléchargement : reprenez-la depuis le site plutôt que de la recopier d'ailleurs, c'est une commande qui s'exécute avec des privilèges.

Vérifiez ensuite que l'outil répond, dans un terminal (PowerShell sur Windows, Terminal sur macOS ou Linux) :

ollama --version

Télécharger et lancer un modèle

Une seule commande télécharge le modèle s'il est absent, puis ouvre la discussion :

ollama run <nom-du-modele>

Le nom du modèle se trouve dans la bibliothèque publique du projet, sur son site. Les familles ouvertes que l'on y croise portent des noms comme Llama, Mistral, Gemma, Qwen ou Phi, chacune déclinée en plusieurs tailles. Ne cherchez pas ici un classement : il serait faux dans six mois. La section suivante donne le critère.

Un suffixe précise la taille : un nom terminé par :3b désigne la variante à 3 milliards de paramètres, :7b celle à 7 milliards. Sans suffixe, vous obtenez la taille par défaut choisie par le projet, qui n'est pas forcément adaptée à votre machine. Précisez donc la taille, en vous appuyant sur le tableau plus haut.

Une fois la discussion ouverte, vous tapez votre question et vous obtenez la réponse. Pour sortir :

/bye

Les quelques commandes qui servent vraiment

ollama pull <nom-du-modele>   # telecharger sans lancer la discussion
ollama list                   # les modeles presents sur la machine, et leur poids
ollama ps                     # les modeles actuellement charges en memoire
ollama rm <nom-du-modele>     # supprimer un modele et liberer l espace disque

ollama list et ollama rm sont les deux plus utiles à moyen terme : c'est ainsi que l'on récupère les dizaines de gigaoctets accumulés à force d'essayer des modèles.

Ollama installe par ailleurs un petit service qui écoute uniquement sur votre machine, à l'adresse localhost, port 11434. C'est ce qui permet à d'autres logiciels locaux de s'y brancher. Il n'est pas exposé à Internet par défaut, et il n'y a aucune raison de le rendre accessible depuis l'extérieur sur un poste personnel.

La preuve : coupez Internet, puis posez la question

C'est l'étape qui transforme une promesse en fait constaté. Elle prend trente secondes et vous ne la referez jamais.

1. Assurez-vous que le modèle est déjà téléchargé. Le téléchargement, lui, a besoin du réseau : c'est la seule étape qui en a besoin.
2. Coupez la connexion : mode Avion sur un portable, Wi-Fi désactivé, et câble réseau débranché s'il y en a un. Vérifiez que le navigateur ne charge plus aucune page.
3. Posez une vraie question au modèle, avec un vrai bout de texte. Par exemple : demandez-lui de résumer en trois points un courrier que vous venez de recevoir.
4. La réponse arrive quand même. Vous venez de vérifier, et pas seulement de lire, que votre texte n'a nulle part où aller.
5. Rebranchez. Le modèle continue de fonctionner exactement pareil, sans réseau et avec.

Ce test dit aussi l'inverse, et c'est utile : si un logiciel d'IA que vous croyiez local cesse de répondre dès que le réseau est coupé, c'est qu'il ne l'était pas.

Ce qu'un modèle local fait bien, et ce qu'il fait mal

C'est là que se joue votre satisfaction. Un premier essai sur la mauvaise tâche, et vous conclurez à tort que ça ne vaut rien.

Bon, et souvent très bon :

• Reformuler. Rendre un courrier plus poli, plus court, plus ferme.
• Résumer un document confidentiel. L'usage qui justifie à lui seul l'installation.
• Trier et extraire. Sortir les dates, les montants ou les noms d'un texte, ranger une liste en catégories.
• Traduire un texte courant, sans l'envoyer à un traducteur en ligne.
• Expliquer un passage obscur, un jargon, une clause.
• Faire un brouillon que vous reprendrez ensuite.

Décevant, voire faux :

• Les faits récents. Le modèle est figé à sa date de fabrication et ne va rien chercher sur Internet. Il inventera plutôt que de dire qu'il ignore.
• Les faits précis en général. Dates, chiffres, références légales, citations : à vérifier systématiquement. Les petits modèles inventent davantage que les gros.
• Le calcul. Une calculatrice fait mieux, toujours.
• Le code complexe. Sur quelques lignes il dépanne, sur une vraie tâche il fatigue vite.
• Les longs documents. La quantité de texte qu'un modèle peut tenir en tête est limitée, et d'autant plus sur une petite machine. Découpez.

Une façon simple de trancher : un modèle local est bon pour travailler sur un texte que vous lui fournissez, mauvais pour vous apprendre quelque chose qu'il serait seul à savoir.

Choisir un modèle sans se fier à un palmarès

Les classements de modèles changent chaque trimestre. Ce qui ne change pas, c'est la méthode.

1. La taille avant le nom. Commencez par ce que votre machine supporte, ensuite seulement regardez qui la propose. Un excellent modèle trop gros vaut moins qu'un modèle moyen qui tourne.
2. Toujours la variante compressée. À mémoire égale, un gros modèle compressé bat presque toujours un petit modèle non compressé.
3. Vérifiez la licence si l'usage est professionnel. Modèle ouvert ne veut pas dire usage commercial libre. C'est écrit sur la fiche du modèle.
4. Jugez sur vos propres tâches, pas sur les scores. Préparez trois questions représentatives de ce que vous ferez vraiment, avec un bout de texte à vous. Faites passer le même test à chaque modèle essayé, et comparez les réponses côte à côte. C'est le seul classement qui vous concerne, et il ne se périme pas.
5. Gardez-en deux, pas dix. Un petit et rapide pour le quotidien, un plus gros pour quand la qualité prime. Supprimez le reste, il mange votre disque.

Erreurs fréquentes

• Prendre le plus gros modèle disponible. La machine rame ou se fige, l'utilisateur conclut que l'IA locale ne marche pas. Elle marchait, une taille en dessous.
• Confondre mémoire vive et espace disque. Il y a la place sur le disque, donc ça devrait passer : non, le modèle doit ensuite tenir en mémoire.
• Juger la qualité sur une question d'actualité. Demander qui a gagné le dernier match, obtenir une réponse inventée, et jeter l'outil. C'est le seul domaine où il est structurellement incapable.
• Croire que c'est privé sans l'avoir vérifié. Certains logiciels mélangent modèle local et appels en ligne. Le test de la connexion coupée tranche.
• Oublier les téléchargements. Trois modèles essayés et abandonnés, c'est parfois 40 Go immobilisés. ollama list ou l'écran des modèles de l'application les révèle.

À retenir

• Un modèle local est plus lent, moins bon, et ignorant de l'actualité. En échange, rien ne sort de la machine. Si ce compromis ne vous va pas, ne l'installez pas.
• La mémoire vive décide de ce que vous pouvez faire tourner, la carte graphique décide de la vitesse. Lisez les deux chiffres avant de télécharger quoi que ce soit.
• Choisissez un seul chemin : une application avec fenêtres, ou Ollama en ligne de commande. Les deux mènent au même résultat.
• Coupez Internet et posez une question : c'est la seule preuve qui vaille quelque chose.
• Les noms de modèles se périment, la méthode de choix non : la taille avant le nom, la variante compressée, et vos propres questions comme juge.

Pour aller plus loin

• Utiliser une IA sans y mettre ses données personnelles : la version sans installation, quand vous restez sur un service en ligne.
• Choisir un assistant IA sans se laisser impressionner : les critères côté services en ligne.
• Choisir un modèle IA et maîtriser son coût : le raisonnement complet, quand l'enjeu devient budgétaire.
• IA responsable en entreprise : ce qui change dès que les documents ne sont plus les vôtres.
• L'intelligence artificielle expliquée simplement : les bases, si les termes de ce guide vous ont paru rapides.