In Mali Claude usato per costruire una piattaforma di sorveglianza su 25 milioni di SIM

L’intelligenza artificiale entra nel terreno più delicato della sorveglianza di Stato. In Mali un singolo consulente, ritenuto da Anthropic vicino ai servizi di sicurezza nazionali, avrebbe utilizzato Claude come principale strumento di supporto ingegneristico per sviluppare una piattaforma capace di operare sull’intera rete mobile del Paese. Il sistema, denominato Lakana 360, sarebbe stato progettato per monitorare circa 25 milioni di SIM appartenenti agli utenti dei tre operatori mobili nazionali. Il caso emerge da un rapporto pubblicato dalla società statunitense che sviluppa Claude e mostra come i modelli di IA possano ridurre drasticamente le competenze e le risorse umane necessarie per realizzare infrastrutture di sorveglianza estremamente sofisticate.

Secondo la ricostruzione di Anthropic, il responsabile del progetto sarebbe stato un consulente indipendente probabilmente basato a Bamako e impegnato per l’Agence Nationale de la Sécurité d’État, l’ANSE, il servizio di intelligence maliano. Claude non sarebbe stato utilizzato direttamente per esaminare i dossier delle persone sorvegliate, ma avrebbe svolto un ruolo determinante nella progettazione e nello sviluppo del software sottostante. Il sistema avrebbe previsto la raccolta su vasta scala di registri delle chiamate, messaggi e traffico vocale, costruendo un’infrastruttura in grado di centralizzare informazioni provenienti dalle reti di telecomunicazione e renderle utilizzabili dagli apparati di sicurezza.

Tra gli aspetti più sensibili indicati nel rapporto figura la possibilità di generare automaticamente un dossier di intelligence partendo da un numero telefonico. Secondo Anthropic, nella progettazione sarebbe stato eliminato il requisito di autorizzazione giudiziaria per questa funzione, nonostante la normativa maliana preveda vincoli per la divulgazione di determinate informazioni di sorveglianza. La piattaforma sarebbe stata inoltre configurata per conservare i dati senza una scadenza definita. Una combinazione che solleva interrogativi particolarmente rilevanti sulla tutela della privacy, sulle garanzie procedurali e sulla possibilità di utilizzare strumenti automatizzati per controllare cittadini, oppositori politici, giornalisti e rappresentanti della società civile.

Le funzionalità attribuite a Lakana 360 vanno oltre la semplice intercettazione delle comunicazioni. Il progetto avrebbe previsto tecnologie per riconoscere una persona attraverso la voce anche quando utilizza SIM differenti, individuare utenti di strumenti di cifratura o reti Vpn, ricostruire possibili incontri riservati attraverso l’analisi della posizione e creare liste di sorveglianza basate su specifiche aree geografiche. Il sistema avrebbe potuto inoltre confrontare le informazioni raccolte con il registro biometrico nazionale e con altri archivi pubblici, combinando quindi telecomunicazioni, identità e spostamenti all’interno di un’unica infrastruttura analitica.

Anthropic afferma di avere individuato l’attività nell’ambito delle proprie indagini sull’uso improprio dei modelli e di aver bloccato l’account coinvolto, introducendo nuovi sistemi di rilevamento per riconoscere comportamenti analoghi. L’intervento, tuttavia, non avrebbe disattivato Lakana 360. La piattaforma sarebbe infatti stata installata localmente e progettata per funzionare attraverso modelli di intelligenza artificiale eseguiti on-premises, senza dipendere successivamente dai servizi Claude. La sospensione dell’account avrebbe quindi interrotto il supporto fornito dall’IA allo sviluppo del software, ma non l’operatività dell’infrastruttura già realizzata.

È proprio questo elemento a rendere il caso particolarmente significativo. L’IA generativa non viene utilizzata soltanto per automatizzare un’attività già esistente, ma può diventare una sorta di forza lavoro tecnica virtuale, consentendo a una singola persona di affrontare compiti che in passato avrebbero richiesto gruppi di sviluppatori, esperti di telecomunicazioni e specialisti di analisi dei dati. Anthropic ha rilevato casi analoghi anche in altri Paesi, individuando operazioni di sorveglianza riconducibili ad attori statali, contractor e fornitori commerciali. La capacità di produrre codice, progettare architetture informatiche e risolvere problemi tecnici può quindi abbassare sensibilmente la soglia necessaria per costruire strumenti di controllo su larga scala.

Il caso del Mali porta così in primo piano uno dei problemi emergenti nella governance dell’intelligenza artificiale: bloccare l’accesso a un modello può impedire ulteriori sviluppi, ma non necessariamente neutralizzare ciò che quel modello ha già contribuito a costruire. La crescente capacità dei sistemi generativi di sostituire competenze ingegneristiche specialistiche amplia le possibilità di utilizzo dell’IA nella sicurezza nazionale, ma contemporaneamente rende più complesso impedire applicazioni incompatibili con privacy, libertà civili e diritti fondamentali. Il controllo non riguarda più soltanto ciò che un modello può rispondere a un utente, ma anche le infrastrutture autonome che quell’utente può riuscire a realizzare con il suo supporto.