Utiliser Aider et Openrouter pour développer avec un LLM

Pourquoi ?

L'envie d'essayer les LLM pour coder m'est venue de la lecture du blog de Simon Willison. Simon est l'auteur de nombreux outils, en particulier datasette, un formidable couteau suisse pour l'exploration de données. Il s'intéresse à l'usage des LLM pour l'écriture de code depuis quelques années déjà, et publie régulièrement des articles sur le sujet (un exemple ici).

Quand on commence à se frotter à l'écriture de code accompagné d'un LLM, on s'aperçoit vite que les interfaces utilisateur génériques des grands modèles (ChatGPT, Claude...) se prêtent bien à l'écriture de codes courts from scratch mais sont mal adaptées à un projet existant dans lequel il faut fournir et "garder en tête" un contexte --par exemple les dépendances du projet, son architecture générale etc.-- et s'y référer par la suite (mais les choses changent vite ! C'était en tout cas la situation dans laquelle j'ai commencé).

Alors, comment faire ?

Aider

Aider is AI pair programming in your terminal

-- https://aider.chat

Aider est un outil libre pour programmer à l'aide de LLM. Outre l'accès aux modèles (locaux ou distants), il propose un environnement qui permet de les utiliser efficacement pour programmer:

Il génère une "carte abrégée" du projet (repo map) lui permettant de situer les fonctionnalités du projet tout en restant économe en tokens
Il traduit les demandes/questions du programmeur en demandes d'édition au modèle, en lui donnant un format pour les changements, en les appliquant, et en vérifiant leur bon respect (avec plusieurs essais si besoin)
Il propose une boucle interactive pour tester ses propres changements (par exemple exécuter une commande de compilation ou de test après un changement, et réagir aux résultats par d'autres changements si besoin)
Il offre différents modes: par défaut il cherche à modifier le projet en cours pour répondre à la demande de l'utilisateur mais il existe une commande /ask qui se contentera de répondre à une question sans déclencher d'édition
Pour les modèles qui supportent la multi-modalité, il propose une commande paste permettant par exemple de glisser une capture d'écran d'une interface utilisateur que l'on souhaite modifier
Si on lui propose une URL pour aller consulter de la documentation, il peut faire un peu de scraping pour la récupérer et l'intégrer au prompt courant
Il gère l'utilisation simultanée d'un modèle complexe (lire: coûteux) pour des tâches de programmation et d'un modèle plus simple pour des tâches annexes (générer des messages de commit, résumer la fonction d'un fichier...)
etc.

Astuces

Limiter les fichiers ajoutés au contexte: la commande /add est à utiliser avec parcimonie, uniquement pour ajouter les fichiers dont on pense qu'ils doivent être modifiés (sinon, utiliser /readonly, de façon parcimonieuse aussi)
Ne pas hésiter à jeter du code: par défaut Aider commite automatiquement ses changements, personnellement je préfère le faire moi-même : j'ai donc ajouté auto-commits: false au fichier .aider.conf.yml; parfois le modèle (et le programmeur...) s'enferrent dans une voie sans issue, et au début, il ne faut surtout pas hésiter à jeter le code produit, surtout si après quelques itérations infructueuses sur un même sous-problème, le modèle propose des solutions complexes; c'est souvent signe qu'il est temps d'essayer une autre approche.
Quand Aider propose d'exécuter une commande (build, test, installation etc.), le résultat peut être inclus au dialogue, mais par défaut Aider ne l'interprète pas. Si il n'est pas satisfaisant (erreur de compilation, de test, ...), il suffit de lui donner une brève consigne ensuite ("Fix this"...)
Quel modèle choisir ? Aider propose un leaderboard ; j'utilise principalement claude 3.5-sonnet mais ces dernières semaines ont été riches en mouvements, par exemple o1 qui prend un ascendant assez net sur ce benchmark, ou encore deepseek qui propose avec deepseek-chat v3 un modèle dont les performances semblent comparables à claude 3.5-sonnet pour un coût très inférieur (dans ma liste au père noël, une alternative européenne respectueuse de la confidentialité serait une très bonne nouvelle !)
On peut utiliser un fichier pour donner des consignes génériques (toujours utiliser des noms anglais dans le code généré, même si les instructions reçues sont en français, ou spécifier que les nouvelles dépendances doivent être ajoutées dans le fichier dune-project et pas dans un fichier .opam d'un projet ocaml...); si on appelle ce fichier CONVENTIONS.md, il suffit de donner la directive read: CONVENTIONS.md dans le fichier .aider.conf.yml pour qu'il soit lu au démarrage.

Openrouter

Pour utiliser différents LLM sans créer un compte par fournisseur (au rythme de sortie des nouveautés, c'est très appréciable), on peut utiliser Openrouter, qui donne accès à de nombreux modèles moyennant des frais de paiement et une commission à l'usage.

Pour l'utiliser avec Aider, il suffit d'exporter la clé d'API OPENROUTER_API_KEY et d'utiliser un préfixe pour le nom des modèles.

Par exemple, pour utiliser claude 3.5-sonnet avec aider, dans .aider.conf.yml on pourra déclarer model: openrouter/anthropic/claude-3.5-sonnet ; et pour passer sur deepseek chat, on pourra utiliser la même clé d'API et changer simplement la configuration pour model: openrouter/deepseek/deepseek-chat (note: Aider peut changer de modèle à la volée, c'est parfois pratique pour faire franchir une étape dans l'écriture d'une fonction si un modèle particulier s'enferre...)

Conclusion

Les LLM ont une interface a priori très simple (compléter un texte), mais cette simplicité rend en fait leur utilisation difficile. Des outils spécialisés permettent de guider ce processus dans le cadre de l'écriture de code. L'important, cela dit, est d'expérimenter et de trouver un environnement qui nous convienne -- pourquoi pas aider ?