Il 16 e 17 ottobre si terrà a Napoli, presso il Centro Congressi di Ateneo, il convegno internazionale "Ethics of Human Interaction with Robotic, Bionic, and AI Systems: Concepts and Policies".

Le motivazioni principali di questa iniziativa nascono da sviluppi recenti della robotica e dell'intelligenza artificiale (IA), che prefigurano cambiamenti rapidi e diffusi delle interazioni tra gli esseri umani e le macchine dotate di capacità di ragionamento o di coordinamento senso-motorio. Si aprono nuove possibilità di impiego di sistemi robotici e dell'IA come assistenti degli esseri umani nello svolgimento di compiti di cura, di lavoro domestico, di selezione di informazioni in rete, di risoluzione cooperativa di problemi. E si aprono di conseguenza nuove problematiche di etica applicata che ci portano a riflettere, nel contesto di nuove forme di interazione uomo-macchina, intorno a dignità, identità e sicurezza della persona umana, intorno alla responsabilità individuale o collettiva, all'accesso equo alle risorse tecnologiche e alla libertà di ricerca.

Un progetto di ricerca che consente di illustrare prontamente alcune di queste problematiche riguarda un sistema di IA per il ruolo di "assistente educatore", attualmente in fase di sviluppo presso il Media Laboratory del MIT. Tale sistema dovrebbe facilitare l'apprendimento di uno studente facendo leva sulle sue motivazioni e reazioni emotive. Il sistema identificherà vari indizi non verbali dello stato emotivo degli utenti, elaborati a partire sia dalla rilevazione di dati biometrici correlabili a risposte emotive, sia dall'esame di gesti, postura e altri comportamenti manifesti dei soggetti (come la pressione esercitata istante per istante sul mouse del calcolatore). Il sistema valuterà questo complesso di informazioni per scoprire se un soggetto è interessato all'argomento di studio, se si sta distraendo, se è scoraggiato per gli errori commessi oppure è soddisfatto per i progressi compiuti. In base a tali supposizioni, il sistema sceglierà una forma di interazione con il proprio utente che sia contestualmente appropriata a facilitare il processo di apprendimento. Alcuni utenti potrebbero sviluppare un investimento affettivo nei confronti di un tale sistema, per la sua capacità di "leggere" gli stati emotivi; e un sistema simile potrebbe essere anche impiegato all'insaputa dei propri utenti, con la finalità di manipolarne scelte e risposte emotive. E' dunque opportuno chiedersi in quali circostanze d'uso la raccolta e l'elaborazione di dati personali da parte di un tale assistente educatore software sia legittima o possa invece violare la riservatezza (privacy), la sicurezza o la libertà degli esseri umani.

Analoghe questioni di etica applicata emergono da una considerazione di tipologie simili di agenti software dell'IA. Basta ricordare, a tale proposito, il caso degli assistenti personali alla navigazione in rete, che sviluppano e aggiornano costantemente un profilo dei propri utenti, osservandone il comportamento di navigazione in rete o ricorrendo a banche dati di informazioni disponibili; in base a gusti, preferenze, conoscenze e interessi attribuiti agli utenti, questi sistemi selezionano siti da visitare o adattano i contenuti dei siti prescelti allo scopo di facilitarne la fruizione. Anche in questo caso risulta evidente l'uso di dati potenzialmente "sensi
bili", che possono essere impiegati per influenzare le scelte degli utenti.

Una diversa forma d'interazione tra esseri umani e macchine "adattative" o "intelligenti" coinvolge i sistemi robotici progettati per svolgere compiti di servizio, di assistenza o anche di intrattenimento. Questa classe di sistemi comprende sia il cane robotico AIBO (che è stato prodotto e venduto dalla Sony per scopi di intrattenimento fino al marzo di questo anno), sia numerosi prototipi di robot, anche umanoidi, progettati per il lavoro domestico o l'assistenza a soggetti anziani o diversamente abili. Svolgono pure compiti di assistenza o di supporto ad attività umane, ma in ambienti decisamente meno "amichevoli", i sistemi robotici che cooperano con gli esseri umani nella pianificazione e nello svolgimento di compiti di salvataggio o di azioni belliche. Anche queste applicazioni della robotica sollecitano varie questioni di etica applicata. In un gruppo decisionale ed operativo a composizione mista di uomini e robot, chi è responsabile delle azioni intraprese e degli effetti da queste derivanti? Quali cambiamenti cognitivi e affettivi possono essere indotti dalla simulazione? E come bisogna valutare, in relazione alla dignità umana, la simulazione ingannevole di comportamenti e sembianze di esseri umani o il fatto che un robot progettato per compiti di assistenza non può sviluppare una genuina relazione di empatia con l'assistito?

Si considerino infine le forme di interazione invasiva tra uomo e robot, esplorate nel settore della bionica. A questa tipologia appartengono gli arti artificiali che si interfacciano con il sistema nervoso periferico, studiati con il fine ultimo di utilizzare sia il segnale nervoso efferente per il comando motorio sia gli stimoli sensoriali afferenti per restituire sensibilità al soggetto ed eventualmente correggere errori nel controllo motorio. Queste ricerche si propongono di ripristinare funzioni fisiche perdute. Ma in questo contesto di ricerca si sviluppano anche sistemi che non sono volti a recuperare funzionalità perdute del corpo umano, bensì a potenziare apparati sensomotori che funzionano regolarmente. In che modo i sistemi bionici per il potenziamento possono modificare l'identità della persona? E' nella nostra disponibilità intervenire sull'identità personale attraverso il potenziamento bionico?

Siamo poco preparati ad affrontare domande di questo genere. Il rapido progresso di un settore scientifico o tecnologico mette a nudo, come è già accaduto in numerose circostanze, situazioni di scarsa elaborazione o di vuoto concettuale in relazione alle problematiche di etica applicata che esso suscita. E' opportuno notare, a questo proposito, che i sistemi ai quali si è fatto cenno cominciano da poco a varcare la soglia dei laboratori di ricerca: non ci troviamo ancora nella scomoda condizione di dover capire e affrontare oggi problemi che era necessario risolvere ieri per mantenere il passo con lo sviluppo scientifico e tecnologico. Il convegno del 17 e 18 di ottobre, organizzato nel contesto del progetto ETHICBOTS, coordinato dall'Università di Napoli Federico II e finanziato dall'Unione Europea nell'ambito del VI Programma Quadro, offre l'opportunità di un tempestivo confronto multidisciplinare sulle problematiche etiche relative alle macchine "adattative" o "intelligenti" studiate nell'ambito della robotica e dell'IA.