"Incroyable fail de l'IA française Lucie : confusion entre "Pollux" et le président de la République"

Un robot conversationnel français, nommé Lucie, a été débranché seulement trois jours après son lancement en raison de réponses absurdes fournies aux utilisateurs. L'IA a été confrontée à des questions pièges, et a même affirmé que "Pollux du manège enchanté" était le président de la République française. Suite aux moqueries sur les réseaux sociaux, les concepteurs ont décidé de retirer temporairement Lucie de l'accès public. Ils reconnaissent avoir commis des erreurs en ne précisant pas que Lucie était un projet de recherche expérimental et en ne mettant pas en place de garde-fous contre les réponses inappropriées. Malgré ce faux départ, l'équipe de développement travaille à améliorer Lucie pour proposer un modèle de langage d'intérêt général, avec la transparence sur les données utilisées pour son entraînement. Contrairement aux grandes entreprises du secteur, Lucie ne vise pas à des profits économiques et est conçue pour offrir une alternative plus fiable et transparente. Les concepteurs espèrent relancer Lucie pour des applications éducatives, bien que cela nécessite encore des développements supplémentaires en collaboration avec l'Éducation Nationale. En dépit de ces difficultés, le projet reste lauréat du programme France 2030 et est développé en partenariat avec le CNRS pour garantir une approche scientifique et vérifiée des réponses fournies par l'IA.