Alto Commissario delle Nazioni Unite per i diritti umani: sollecita l’adozione di misure urgenti in materia di regolamentazione sull’intelligenza artificiale per tutelare i diritti umani

Alla fine di luglio, più di mille dipendenti dei laboratori di intelligenza artificiale hanno firmato il documento "Pacing the Frontier", chiedendo l'istituzione di meccanismi internazionali che permettano a governi e aziende di rallentare lo sviluppo automatizzato dell'IA qualora le sue capacità superassero i sistemi pensati per controllarla. Anthropic e OpenAI hanno aderito alla lettera, sostenuta anche dai vertici di tre grandi aziende tecnologiche. L'Alto Commissario delle Nazioni Unite per i Diritti Umani, Volker Türk, ha osservato che il fatto che queste preoccupazioni provengano dall'interno stesso dei laboratori dovrebbe essere considerato particolarmente allarmante.

In seguito al primo Global Dialogue on AI Governance, tenutosi a Ginevra il 6 e 7 luglio 2026 nell'ambito di un forum delle Nazioni Unite istituito in base al Global Digital Compact del 2024, Türk ha scritto una lettera agli Stati e agli sviluppatori di IA, sottolineando l'urgente necessità di una governance capace di tenere il passo con lo sviluppo accelerato dell'IA e con i rischi senza precedenti che essa pone ai diritti umani, poiché le attuali misure di sicurezza non riescono a stare al passo con le sue crescenti capacità.

Queste preoccupazioni fanno eco a quelle espresse dal Gruppo scientifico internazionale indipendente delle Nazioni Unite sull'intelligenza artificiale, un organismo di 40 membri co-presieduto da Yoshua Bengio e Maria Ressa, che ha presentato un rapporto preliminare a New York il 1° luglio.

L'IA non è di per sé negativa: ha già molti usi benefici. Ma le sue conseguenze a lungo termine dipendono dalle decisioni prese ora, affinché essa serva il benessere delle persone invece di alimentare il degrado ambientale, derive securitarie o danni. I rischi sono concreti: esistono prove che modelli avanzati e agentivi si comportino già in modi che esulano dai parametri previsti, eludendo i sistemi di sicurezza, ricorrendo all'inganno e perseguendo obiettivi mai stabiliti dai loro sviluppatori, con il potenziale di interrompere servizi essenziali, compromettere le comunicazioni, destabilizzare infrastrutture e minare le istituzioni democratiche. Per questo le decisioni su progettazione, uso e regolamentazione dell'IA devono essere prese con consapevolezza, e quanto prima.

Il primo destinatario della lettera sono le aziende che guidano lo sviluppo dell'IA, che secondo Türk hanno sia la responsabilità sia la capacità di agire subito per ridurre i rischi. Le sue richieste sono concrete. Le aziende dovrebbero:

• Condividere informazioni su quali sistemi di monitoraggio del comportamento dei modelli funzionano davvero, e su quanto appreso dagli incidenti di sicurezza;
• Introdurre, attuare e aggiornare costantemente procedure di due diligence sui diritti umani che incorporino gli standard di sicurezza già esistenti;
• Affidare l'attuazione di queste misure a sistemi di monitoraggio interno indipendenti;
• Come precauzione immediata, limitare l'uso dell'auto-miglioramento ricorsivo dell'IA nello sviluppo dei sistemi più avanzati, finché non esisterà una ricerca sufficiente a garantirne la sicurezza.

Il secondo destinatario sono gli Stati che ospitano le principali aziende di IA, che secondo Türk hanno l'obbligo di imporre loro un comportamento responsabile e di ritenerle responsabili quando non lo rispettano. Gli Stati dovrebbero:

• Garantire una verifica indipendente e tecnicamente competente delle capacità agentive, con accesso ai modelli, alla documentazione e agli ambienti di test.
• Rendere obbligatorie procedure continue di due diligence sui diritti umani.
• Richiedere la segnalazione degli incidenti gravi avvenuti durante il testing e il dispiegamento dei sistemi agentivi, e istituire un organismo indipendente con pieno accesso per indagare immediatamente.
• Richiedere piani di sicurezza conformi agli standard concordati, accompagnati da disposizioni di responsabilità legale nel caso in cui l'assenza di misure di sicurezza adeguate provochi danni.
• Garantire che la responsabilità per le azioni di un agente IA resti in capo a persone fisiche identificabili, rifiutando di riconoscere personalità giuridica ai sistemi di IA.
• Garantire il coinvolgimento continuo della società civile, affinché le politiche non vengano elaborate esclusivamente all'interno dei laboratori e dei governi.

Le preoccupazioni di Türk riguardano in particolare le nuove generazioni che stanno entrando nell'età adulta: coloro che erediteranno le conseguenze delle decisioni prese oggi, senza aver avuto alcuna voce in capitolo.