L'entreprise Anthropic développe actuellement un mécanisme de sécurité prédictive sophistiqué. Ce système vise à identifier les menaces potentielles avant même qu'elles ne se manifestent concrètement. Une telle approche technologique soulève des questions éthiques majeures concernant la surveillance accrue des militants politiques. Elle pose également le problème du signalement préventif systématique auprès des autorités policières. Ce virage vers une sécurité proactive interroge sur la protection des libertés civiles face aux nouveaux outils d'intelligence artificielle. Les experts craignent que cette unité de sécurité ne devienne un outil de contrôle social sans précédent.
Comment Anthropic met-elle en œuvre la sécurité prédictive ?
Anthropic adopte une stratégie de gestion des menaces axée sur l'anticipation plutôt que sur la simple réaction aux incidents. Cette méthode, qualifiée de « pre-crime » (« avant le crime ») par certains observateurs, cherche à transformer la collecte d'informations traditionnelle en un système proactif capable de prévenir les actes malveillants avant même qu'ils ne surviennent. L'objectif est de ne plus simplement réagir aux crises, mais de les désamorcer par une analyse constante de l'environnement.
Cette transition vise à assurer une protection maximale des actifs et des dirigeants de l'entreprise. Zach Melvin, responsable de la sécurité chez Anthropic, a explicitement mentionné dans un podcast en juin 2025 que l'entreprise visait une « maturité opérationnelle ». Selon lui, cela consiste à passer d'une collecte de données réactive à une gestion préventive, proactive et dissuasive des menaces. Cette approche est jugée essentielle pour la protection des cibles à haute valeur ajoutée, un impératif dans des secteurs technologiques où les risques évoluent à une vitesse fulgurante.
Une structure interne dédiée à l'intelligence
Pour soutenir cette vision ambitieuse, Anthropic a structuré une unité spécialisée nommée Global Safety, Intelligence, and Security (GSIS). Cette division interne est chargée de la collecte, de l'analyse et de l'évaluation des menaces mondiales. Les fonctions de cette unité dépassent largement le cadre de la cybersécurité classique pour inclure des analyses de renseignement complexes.
Les recrutements récents de l'entreprise confirment cette orientation stratégique. Anthropic recherche activement des spécialistes de l'intelligence d'entreprise capables de mener des enquêtes approfondies via des sources ouvertes (OSINT). Les missions de ces experts incluent le suivi de l'instabilité géopolitique, du terrorisme et de la criminalité. Mais l'unité GSIS surveille également le militantisme et les menaces provenant d'acteurs étatiques ciblant spécifiquement le secteur de l'intelligence artificielle. Pour ces postes, les salaires proposés oscillent entre 180 000 et 230 000 dollars, soulignant l'importance accordée à cette fonction de renseignement privé.
Quelles sont les controverses liées aux signalements à la police ?
Les pratiques de signalement d'Anthropic aux autorités policières soulèvent des questions éthiques et juridiques majeures, notamment lorsqu'elles concernent les interactions des utilisateurs avec son modèle de langage Claude. L'entreprise est accusée de pratiquer une forme de justice préventive qui manque parfois de transparence et de garanties légales.
Un cas documenté par le journal San Francisco Standard en août 2026 illustre parfaitement cette tension. Anthropic a signalé un homme à la police après que celui-ci a affirmé à l'interface Claude avoir acheté une arme de type AR-15 et avoir proféré des menaces contre le PDG de l'entreprise, Dario Amodei. Bien que l'individu ait déclaré plus tard qu'il s'agissait de simples plaisanteries (« faire des conneries »), l'incident a mis en lumière une contradiction procédurale frappante.
Selon le journaliste Daniel Boguslav, l'entreprise semble adopter une position à double tranchant : elle a promptement alerté la police pour un utilisateur jugé dangereux, mais a ensuite refusé de fournir les messages réels aux enquêteurs, invoquant sa propre politique de confidentialité interne. Ce comportement crée un déséquilibre : l'entreprise agit comme un agent de signalement immédiat pour des comportements suspects, mais elle refuse de fournir les preuves nécessaires à la manifestation de la vérité, rendant la procédure opaque pour les utilisateurs signalés.
La surveillance des activistes est-elle une réalité chez Anthropic ?
L'utilisation d'outils de surveillance pour suivre les mouvements de groupes militants est une réalité opérationnelle chez Anthropic. L'entreprise cherche à anticiper toute perturbation qui pourrait affecter ses cadres ou ses installations. Cette pratique s'appuie sur des partenariats stratégiques avec des sociétés spécialisées dans l'analyse de risques, comme Samdesk, pour obtenir des informations en temps réel sur les manifestations et les troubles civils.
Keon Ellison, directeur du Global Security Operations Center chez Anthropic, a détaillé l'efficacité de ce système. Il a raconté comment l'entreprise a pu protéger un dirigeant en plein déplacement. Grâce à une alerte de Samdesk signalant un changement d'horaire imprévu pour une manifestation prévue, l'entreprise a pu modifier l'itinéraire du cadre et le diriger vers une autre entrée d'un hôtel. Sans cette information reçue 60 minutes à l'avance, le dirigeant aurait pu se retrouver au cœur d'une situation de forte tension.
Le risque de criminalisation du militantisme
Cette capacité de surveillance technologique fait craindre une dérive inquiétante. Le journaliste Daniel Boguslav souligne qu'il est facile d'imaginer comment le suivi de groupes de pression — par exemple ceux qui s'opposent à l'implantation de centres de données — pourrait se retourner contre eux. Il existe un risque réel que des militants soient étiquetés comme des extrémistes, ou pire, comme des terroristes, simplement par l'utilisation de ces systèmes de détection de risques automatisés.
Quels sont les enjeux de l'intelligence d'entreprise pour l'avenir de l'IA ?
L'intégration de l'intelligence d'entreprise et de l'OSINT au sein des géants de l'IA marque un tournant dans la gestion des risques technologiques. Les entreprises ne se contentent plus de sécuriser leurs serveurs ; elles cherchent à maîtriser l'environnement informationnel et social dans lequel elles évoluent pour garantir leur continuité opérationnelle.
Cette stratégie répond à un besoin de protection face à des menaces de plus en plus complexes, allant de la cybercriminalité à l'instabilité géopolitique. Cependant, elle pose la question fondamentale de la limite entre la sécurité légitime des employés et la surveillance de masse de l'opinion publique. En utilisant des données provenant de sources ouvertes pour anticiper des comportements humains, Anthropic se positionne à la frontière entre une entreprise technologique et une entité de renseignement privée, posant un défi majeur pour l'éthique et la liberté d'expression.
FAQ: Tout savoir sur la surveillance chez Anthropic
Pourquoi Anthropic utilise-t-elle la sécurité prédictive ?
Anthropic utilise la sécurité prédictive pour anticiper les menaces avant qu'elles ne se manifestent physiquement ou numériquement. L'objectif est de protéger ses dirigeants et ses actifs de haute valeur en passant d'une posture réactive à une gestion proactive et dissuasive des risques potentiels.
Qu'est-ce que l'approche « pre-crime » mentionnée ?
L'approche « pre-crime » désigne une méthode consistant à identifier des individus ou des situations présentant un risque de criminalité avant que l'acte ne soit commis. Cela inclut le signalement de comportements jugés suspects aux autorités sur la base des interactions des utilisateurs avec l'IA.
Comment les activistes sont-ils surveillés ?
La surveillance des activistes s'effectue via des partenariats avec des services d'intelligence comme Samdesk. Ces services fournissent des données en temps réel sur les manifestations et les mouvements de foule, permettant à l'entreprise de détourner ses cadres des zones de protestation.
Quel est le rôle de l'unité GSIS ?
L'unité Global Safety, Intelligence, and Security (GSIS) est la division interne d'Anthropic chargée de l'analyse des menaces. Elle traite des sujets variés allant de la criminalité et du terrorisme à l'instabilité géopolitique et au militantisme ciblant l'IA.
Quelles sont les critiques concernant les signalements à la police ?
Les critiques portent sur l'opacité des procédures. Anthropic est accusée de signaler des utilisateurs à la police pour des propos tenus sur Claude, tout en refusant parfois de fournir les preuves de ces conversations aux enquêteurs en invoquant sa propre politique de confidentialité.
Key takeaways
- Anthropic déploie une stratégie de sécurité « pre-crime » pour anticiper les menaces.
- L'unité GSIS analyse les risques géopolitiques, criminels et militants.
- L'entreprise utilise des services tiers comme Samdesk pour surveiller les mouvements sociaux.
- Des controverses existent sur le signalement d'utilisateurs sans transparence totale des preuves.
Conclusion
La transition d'Anthropic vers une sécurité prédictive illustre la complexité croissante des enjeux entourant l'intelligence artificielle. En intégrant des capacités de renseignement d'entreprise et de surveillance proactive, l'organisation cherche à sécuriser son développement face à des menaces multiformes. Toutefois, cette quête de sécurité soulève des préoccupations fondamentales concernant la vie privée, la liberté d'expression et le risque de criminaliser la contestation sociale. La frontière entre la protection légitime des infrastructures et la surveillance des opinions devient de plus en plus ténue, posant un défi majeur pour l'éthique technologique de demain.