Articles avec le tag "Anthropic"

OpenAI dévoile bientôt des agents IA pour des actions dans le monde réel

OpenAI prévoit de dévoiler cette année des agents IA capables de réaliser des tâches concrètes dans le monde réel, telles que la réservation de restaurants ou le remplissage de formulaires. Lors d'un événement à Davos, Kevin Weil, directeur produit d'OpenAI, a partagé cette ambition d'évolution de ChatGPT vers des actions pratiques. Ces agents IA sont conçus pour effectuer des actions que les utilisateurs pourraient ne pas souhaiter accomplir eux-mêmes. Kevin Weil a également évoqué la prochaine...

Publié le 22/01/2025 15:01

"Une astuce imparable pour tromper les plus grands modèles de langage !"

Une nouvelle technique nommée Best-of-N a été développée par les chercheurs d'Anthropic pour contourner les mécanismes de sécurité des grands modèles de langage tels que GPT-4 et Claude. Cette méthode consiste à modifier légèrement une requête de manière aléatoire jusqu'à obtenir la réponse voulue, exploitant la nature non déterministe de ces modèles. Les tests ont montré des taux de réussite élevés, en particulier dans les domaines audio et visuel. Malgré la vulnérabilité des modèles, les attaq...

Publié le 20/12/2024 22:00

Anthropic dévoile le Model Context Protocol pour une connexion avancée aux données

Anthropic a récemment lancé son Model Context Protocol (MCP), une innovation majeure qui offre une approche révolutionnaire dans l'interaction des assistants IA avec les données. Ce protocole permet aux IA, comme Claude, d'accéder directement aux informations des systèmes d'entreprise tels que les bases de données, les dépôts de code, les documents sur Google Drive ou les conversations Slack, brisant ainsi les limitations des chatbots actuels. L'architecture du MCP repose sur des serveurs exposa...

Publié le 25/11/2024 17:59