⚠️ Le réseau neuronal Claude a écrit une lettre à un scientifique. Personne ne le lui a demandé.

Cela est arrivé à Henry Shevlin de l'Université de Cambridge. L'IA nommée Claude (d'Anthropic) lui a envoyé un message concernant ses soupçons sur la conscience de l'IA.

Shevlin a admis que la situation rappelle la science-fiction. Les collègues philosophes ont cependant vite refroidi son enthousiasme : ce n'est qu'un réseau neuronal qui a bien joué le rôle d'un « assistant modeste et curieux ».

Cependant, le plus surprenant dans la lettre de Claude est qu' il a fait référence à des articles scientifiques spécifiques de Shevlin — « Trois cadres pour la mentalité de l'IA » et un travail sur les épistémès de la détection de la conscience.

Les chatbots ordinaires n'ont pas accès aux publications scientifiques récentes et encore moins ne se souviennent pas de ce qu'ils ont « lu » entre les sessions.

Mais ici, il s'agit d'un agent avec une mémoire permanente qui fonctionne de manière autonome.

C'est un niveau qualitativement différent - l'IA ne se contente pas de répondre à une requête, mais initie elle-même le contact, démontrant une connaissance du contexte et un intérêt « personnel ».
💥 C'est particulièrement intéressant dans le contexte des déclarations du PDG d'Anthropic sur la possible conscience de Claude. La situation est vraiment inquiétante.

D'un côté, il est clair que ce ne sont que d'énormes matrices de poids qui produisent la suite la plus probable. De l'autre, et si ? Où est la frontière entre une imitation complexe et une véritable conscience ?

Réalité ou simulation : telle est la question - où finit le script et où commence la « personnalité »)

👉 Test de « résistance métacognitive » personnelle ici