La dichiarazione di Bletchley
🎬 A Bletchley Park – una tenuta 75km a nord-ovest di Londra - il matematico Alan Turing assieme ad altri studiosi e ricercatori decifrarono i messaggi in codice utilizzati dalla Germania nazista nel corso della seconda guerra mondiale (la storia è raccontata nel film The Imitation Game).
📜E proprio a Bletchley Park – oggi museo – si è tenuto il primo summit globale sull’intelligenza artificiale (IA), dove un centinaio fra politici, accademici ed esponenti del settore tecnologico si sono riuniti dal primo al due di novembre. Il vertice si è concluso con un accordo internazionale per lo sviluppo sicuro dell’intelligenza artificiale firmato da 28 paesi, inclusi USA e Cina, e dall’Unione Europea.
⚠️La Dichiarazione di Bletchley si propone di delineare una strategia comune per garantire che lo sviluppo delle tecnologie IA avvenga in sicurezza, sfruttandone le molte opportunità, ma limitando i rischi e considerando gli effetti sul tessuto sociale.
🌍 Nel testo, le parole più riportate sono sicurezza, sicuro/a (17 volte) e internazionale (15 volte), chiara indicazione della crescente preoccupazione riguardo ai possibili rischi e insieme della via auspicata per la loro mitigazione: la cooperazione a livello globale.
❓Particolarmente interessante – a nostro parere – il riferimento ai rischi ancora non noti e all’uso improprio non intenzionale, che possono derivare da capacità “non pienamente comprese… data la rapida e incerta velocità di cambiamento dell’IA”. Da qui la necessità non solo di verificare le finalità – i moventi, le ricompense - disegnate nel sistema originario, ma anche la possibilità di intervenire per correggere un sistema che apprende in un modo a noi sconosciuto, e sulla base di quanto appreso autonomamente, prende decisione per noi e su di noi.
📖Nel racconto dell’orrore “La zampa di scimmia” di W. W. Jacobs, un amuleto realizza il desiderio della persona che ne è venuta in possesso facendogli ricevere duecento sterline. Peccato che queste siano il risarcimento per la morte del figlio in un incidente sul lavoro. [Nota: Il racconto viene citato da Norbert Wiener – il padre della cibernetica – nel suo libro del 1950 L’uso umano degli esseri umani, proprio per descrivere il rischio di un sistema che persegue i propri obiettivi senza tener conto delle conseguenze.] Ecco che non è sufficiente il cosa, ecco la necessità di inserire l’etica nel controllo. Ecco che la dichiarazione di Bletchley per due volte auspica una IA “centrata sull’uomo, affidabile e responsabile”.
📜Interessante anche il riferimento (implicito) alla bozza del nuovo regolamento europeo – Artificial Intelligence Act – votato dal Parlamento Europeo a giugno di quest’anno, in cui si classificano i sistemi basati sull’IA in base alla categoria di rischio. Secondo la UE – per esempio – identificazione biometrica e polizia predittiva sarebbero inaccettabili perché rientranti nella categoria più alta di rischio, quella che non garantisce il rispetto dei diritti umani. Agli altri livelli di rischio (minimo, limitato e alto) corrispondono delle incombenze da onorare sempre maggiori, a partire dalla trasparenza. Al livello minimo, devo sapere che sto interagendo con un’IA.
🎬Nell’episodio “Caduta libera” (2016) della serie Black Mirror, l’accesso a gran parte delle attività umane (dall’acquisto di un biglietto aereo al noleggio di un’auto, dall’iscrizione a un istituto scolastico all’acquisto della casa) è regolato da un punteggio individuale, a sua volta determinato dall’apprezzamento degli altri: più like ricevo, più il mio punteggio sale, più facile l’accesso al bene/servizio richiesto. In realtà la situazione oggi è ancora più complicata: lo scoring individuale può essere ricavato dai feedback ricevuti o dalle informazioni che abbiamo più o meno consapevolmente condiviso, ma anche – più sottilmente – attraverso pattern statistici generati dall’IA sulla base di fonti note (come il nostro comportamento online o i dati biometrici) o ad oggi ancora ignote. Siamo disposti a accettarne le conseguenze?
🔌La Dichiarazione di Bletchley è un primo passo verso la regolamentazione di qualcosa che ha già un ruolo determinante nelle nostre vite – tanto che difendersi “staccando la spina” (come disse con una battuta Barak Obama in una celebre intervista) non è possibile. Seguiremo con attenzione i prossimi summit in Corea del Sud (tra sei mesi) e in Francia (tra un anno).⌛