Limites & éthique
Ce que l'IA ne peut pas (et ne doit pas) faire.
8.1Les limites techniques
Pas de mémoire longue
L'IA ne se souvient pas de tes conversations précédentes (sauf systèmes de mémoire persistante). Chaque conversation repart de zéro.
→ Ton fichier d'instructions projet est essentiel pour la continuité.
Fenêtre de contexte limitée
128K tokens max = environ 80-100K mots. Pour un gros projet, c'est insuffisant pour tout inclure.
→ Tu dois sélectionner les fichiers pertinents, pas tout envoyer.
Pas de vérité absolue
L'IA ne distingue pas le vrai du faux. Elle est entraînée sur des patterns statistiques, pas sur la vérité.
→ Vérifie toujours les affirmations factuelles (noms de packages, APIs, dates).
Date de coupure des données
L'IA a été entraînée sur des données jusqu'à une certaine date. Les nouveautés post-entraînement sont inconnues.
→ Pour les APIs très récentes, consulte la documentation officielle.
Pas de compréhension réelle
L'IA ne "comprend" pas ton code comme toi. Elle manipule des patterns textuels. Elle peut manquer le sens métier.
→ La validation humaine reste indispensable pour la logique métier.
8.2Les zones dangereuses
Ne fais JAMAIS confiance à l'IA dans ces domaines
Sécurité & cryptographie
L'IA peut générer du code qui a l'air sécurisé mais qui est vulnérable. Toujours faire auditer par un expert.
Données personnelles & RGPD
L'IA ne connaît pas tes obligations légales spécifiques. Ne lui envoie jamais de données personnelles réelles.
Logique financière
Calculs de prix, taxes, arrondis, une erreur subtile peut coûter très cher. Teste manuellement chaque cas.
Contrats & légal
L'IA peut générer des CGV ou mentions légales qui sont incomplètes ou incorrectes. Fais valider par un juriste.
Décisions irréversibles
Migrations de base de données, suppressions de données - toujours vérifier et backup avant d'exécuter.
8.3Propriété intellectuelle et droits d'auteur
Les questions à se poser
- • Le code généré m'appartient-il ? En général oui, mais ça dépend des conditions d'utilisation du service.
- • L'IA a-t-elle copié du code sous licence ? Possible. Vérifie les similarités avec du code open source.
- • Puis-je utiliser ce code commercialement ? Vérifie les ToS de l'outil utilisé.
Bonnes pratiques
- • Transforme le code plutôt que le copier tel quel
- • Comprends chaque ligne, si tu la réécris, elle t'appartient
- • Cite l'IA dans tes commits si pertinent
- • Choisis des outils avec des protections IP (GitHub Copilot Business inclut une "IP indemnity")
8.4L'éthique du développeur augmenté
Le code de conduite du dev IA
Transparence
Si quelqu'un te demande, sois honnête sur ton utilisation de l'IA. Ce n'est pas de la triche, c'est un outil.
Responsabilité
Le code est livré sous TON nom. Tu es responsable de sa qualité, qu'il soit écrit par toi ou par l'IA.
Apprentissage continu
L'IA n'est pas un substitut à l'apprentissage. Continue à comprendre les fondamentaux. L'IA accélère, elle ne remplace pas.
Confidentialité
Ne colle jamais de données sensibles dans un prompt : clés API, mots de passe, données clients, code propriétaire confidentiel.
Esprit critique
Ne publie jamais de code que tu ne comprends pas, même si "l'IA a dit que c'est bon".
8.5L'avenir : à quoi s'attendre
Ce qui va s'améliorer
- • Mémoire longue : les modèles se souviendront de tout ton projet
- • Agents autonomes : l'IA qui exécute des tâches complètes (browse, code, test, deploy)
- • Multi-fichiers : modification cohérente de 20 fichiers en une seule passe
- • Raisonnement : meilleure résolution de problèmes complexes
Ce qui restera humain
- • La vision produit : comprendre les besoins utilisateurs
- • Les décisions d'architecture : trade-offs et compromis
- • La créativité UX : innover dans les interfaces
- • Le leadership : coordonner une équipe avec l'IA comme outil