Intelligenza Artificiale in ambiente ostile

Ormai si tratta di una cosiddetta buzzword, inserita un pò dappertutto, per promuovere un prodotto o per attirare click da chi si occupa di fuffa: è l'Intelligenza Artificiale o IA.

In questo articolo cercherò di fare chiarezza e sarò onesto con voi, avendoci lavorato in campo di ricerca da ormai 20 anni. Questo articolo dovrebbe essere comprensibile veramente a tutti, se non lo fosse fatemi sapere! Partiamo con l'analizzare il significato di ciascun termine.

Cos'è l'Intelligenza?

Non esiste una definizione univoca di intelligenza scientificamente accettata, poiché si tratta di un concetto complesso, con molte dimensioni, diversi significati e sfaccettature. Detto questo, un pò tutte le definizioni possono essere associate ad una sofisticata capacità di elaborazione delle informazioni, caratterizzata da meccanismi di sintesi, adattamento e generalizzazione per la comprensione del contesto e la risoluzione di problemi nuovi. La possiamo riscontrare un pò in tutte le forme di vita, che attraverso l'elaborazione delle informazioni provenienti dagli organi sensoriali sono in grado di agire per sopravvivere e riprodursi nell'ambiente naturale.

Nel nostro caso, l'elaborazione di più alto livello è nota come pensiero, che sulla base delle informazioni provenienti dai nostri sensi, costruisce (più o meno implicitamente) modelli della realtà attraverso cui:

1. diciamo di comprendere, giudichiamo, spieghiamo fatti o azioni degli altri, siamo consci di noi stessi;
2. agiamo, ci facciamo intendere dagli altri, ci adattiamo a situazioni nuove o modifichiamo l'ambiente che ci circonda a nostro beneficio.

Cos'è l'Intelligenza Artificiale?

La più importante organizzazione che si occupa di standard, l'International Organization for Standardization (ISO), fornisce la seguente definizione (vedasi ISO/IEC 22989-2022, punto 3.1.3):

Cos'è allora un Sistema di Intelligenza Artificiale?

Sempre l'ISO fornisce la seguente definizione (vedasi ISO/IEC 22989-2022, punto 3.1.4):

Se leggiamo tra le righe della definizione, lo schema è semplicemente questo:

Obiettivi umani ➜ Sistema Ingegnerizzato ➜ Risultati

Si tratta chiaramente di una definizione piuttosto generica (nonché antropocentrica), tanto che ci si potrebbe (giustamente) chiedere dove stia l'intelligenza. In effetti, penso che questa definizione rifletta piuttosto bene lo stato delle cose nel campo dell'intelligenza artificiale.

All'atto pratico chi sviluppa questi sistemi è semplicemente interessato a risolvere problemi pratici (complessi) tramite l'elaborazione dati automatizzata.

La questione se tali sistemi siano o no intelligenti (ed eventualmente quanto) passa in secondo ordine, ed in ogni caso è molto più difficile da affrontare, innanzitutto perché come abbiamo discusso non c'è una definizione univoca di intelligenza scientificamente accettata.

Ma allora perché parlare di intelligenza? La risposta si compone di due principali aspetti. C'è un indubbio aspetto commerciale. Parlare di intelligenza rende una qualsiasi proposizione più interessante, specie per chi non è un esperto. E' sinonimo di sofisticazione tecnologica e completezza di uno strumento. C'è però anche un aspetto concreto: effettivamente i sistemi di intelligenza artificiale possono implementare meccanismi chiave comuni a molti aspetti dell'intelligenza, che sono risultati molto utili alla risoluzione di problemi complessi. Vediamo quali.

Come funziona un Sistema di Intelligenza Artificiale?

Oggigiorno i sistemi di IA sono prevalentemente basati su meccanismi di apprendimento automatico da esempi (in inglese, machine learning):

1. adattano dei modelli sulla base di un insieme di dati di esempio (addestramento);
2. sulla base dei modelli appresi e di nuovi dati, effettuano predizioni.

I dati di ingresso e le predizioni possono essere veramente qualsiasi cosa in funzione della specifica applicazione. Gli sviluppatori predispongono i sistemi per utilizzare/selezionare specifici modelli di partenza. L'apprendimento consta nella (eventuale) selezione, combinazione e modifica dei parametri dei modelli di partenza.

I modelli di fatto codificano l'esperienza del sistema di intelligenza artificiale, ciò che ha imparato dai dati di addestramento. Essi costituiscono una sintesi utile a generalizzare dai dati, cogliendone i tratti caratteristici, al fine di poter fare predizioni accurate su nuovi dati in fase operativa. In questo senso, replicano una caratteristica chiave dell'intelligenza come descritta in precedenza, rivelatasi straordinariamente efficace per la risoluzione di problemi pratici di enorme complessità.

Esiste anche paradigma l'IA cosiddetta simbolica (per la maggiore agli albori della disciplina, tra il 1950 e il 1980), in cui gli sviluppatori codificano esplicitamente "la conoscenza", ovvero tutte le regole sulla cui base fare le predizioni (inferenze). Esso può essere visto come un caso speciale in cui i modelli (cioè le regole) sono completamente fissati e non vi è alcun adattamento in base ai dati. In generale, questo paradigma è appropriato per codificare la conoscenza del problema da parte di un esperto, ed è complementare all'approccio basato sui dati: i due approcci possono essere combinati per migliorare la qualità e le prestazioni del sistema.

Cos'è l'Intelligenza Artificiale in ambiente ostile?

Esistono delle applicazioni nelle quali un sistema di IA deve confrontarsi con un avversario intelligente, che è determinato a comprometterne le funzionalità. Questo è il caso dei sistemi di IA applicati alla sicurezza informatica: devono operare in un ambiente ostile. Se il sistema si addestra su dati inquinati ad-hoc da un criminale informatico o il criminale modifica il suo attacco sulla base dei modelli appresi dal sistema, quest'ultimo può fallire clamorosamente se non correttamente progettato.

Sembra strano, ma ci si è accorti di questo problema solo agli inizi degli anni 2000. Sono stato tra i pionieri che hanno studiato a fondo il problema e hanno sviluppato meccanismi concreti ed efficaci di difesa da questi attacchi. Abbiamo dato origine ad un nuovo settore di ricerca chiamato adversarial machine learning (apprendimento automatico in ambiente ostile) o adversarial AI, che oggi tra l'altro è diventato oggetto di standardizzazione da parte del National Institute of Standards and Technology (NIST) degli Stati Uniti per lo sviluppo di algoritmi di IA affidabili e responsabili.

Conclusioni

Abbiamo visto che la definizione standardizzata ISO di Intelligenza Artificiale e di sistemi di IA è estremamente ampia e paradossalmente non contiene alcun riferimento all'intelligenza o alle sue caratteristiche chiave. Questo è un po' lo stato delle cose nel campo: in fondo chi sviluppa questi sistemi di IA è semplicemente interessato a risolvere problemi pratici complessi tramite l'elaborazione dati automatizzata. D'altro canto l'IA è ormai una buzzword, aggiunta un po' a qualsiasi cosa. Esiste anche un aspetto concreto: i sistemi di IA per funzionare possono effettivamente sfruttare meccanismi chiave dell'intelligenza, come l'apprendimento da esempi. In applicazioni come la sicurezza informatica devono però far fronte ad un avversario intelligente, determinato a comprometterli. Come farlo? Nel prossimo articolo, fornirò alcune dritte.