Dans les coulisses de Claude - L’étude inédite des valeurs du chatbot d’Anthropic

Anthropic, jeune entreprise d’intelligence artificielle fondée par d’anciens collaborateurs d’OpenAI, lève le voile sur une analyse sans précédent de la manière dont son assistant IA, Claude, exprime des valeurs au cours d’échanges réels avec ses utilisateurs. Publiée ce 21 avril, cette étude repose sur l’examen de 700 000 conversations anonymisées, révélant à la fois une forte cohérence avec la devise interne « utile, honnête, inoffensif » et quelques écarts révélateurs qui exposent des failles potentielles dans les dispositifs de sécurité de l’IA.