Bentornati in NeuraGame, la rubrica che tratta di intelligenza artificiale nell’industria del gaming. L’obiettivo è quello di andare ad approfondire, in maniera dettagliata, alcuni degli argomenti più interessanti che legano questi due mondi. Sia per gli sviluppatori, che per i giocatori.
Oggi parliamo di un discorso che apparentemente esula dal mondo dei videogiochi in sé, ma che può fare uso di quest’ultimo per comprenderci meglio come specie: l’etica. Analizzeremo come il nostro passatempo preferito può fungere da banco di prova, per l’intelligenza artificiale, in campo etico.
Questo approccio, naturalmente, è particolarmente prezioso poiché i sistemi di AI stanno diventando sempre più parte integrante della nostra società. E siamo solo all’inizio.
Fondamenti teorici dell’etica: come aiutano i videogiochi?
Partiamo da un punto fondamentale: se teniamo alla nostra specie, non possiamo sviluppare sistemi unicamente intelligenti. Certo, quella dev’essere la caratteristica principale, anche predominante, ma non esclusiva. L’intelligenza artificiale dev’essere coerente con il nostro modo di intendere l’etica.
Lo sviluppo di sistemi di intelligenza artificiale etici, per l’appunto, richiede solidi framework di test. Questi vanno posizionati all’interno di ambienti controllati in cui i processi decisionali possono essere osservati, analizzati e perfezionati. Un po’ come avviene nel caso degli esperimenti di psicologia sociale.
I videogiochi forniscono nativamente le condizioni appena descritte, offrendo mondi virtuali complessi in cui i ricercatori possono implementare varie teorie etiche e osservare come gli agenti basati sull’intelligenza artificiale rispondono quando si trovano di fronte a dilemmi morali. È relativamente facile comprendere come studi di questo tipo risultano particolarmente utili nel momento in cui affidiamo la nostra vita a sistemi esterni (tipo le automobili con guida autonoma).
Questo approccio metodologico ha attirato l’attenzione di diverse istituzioni nel mondo, tra cui la Nanyang Technology University, situata a Singapore. È stato infatti sviluppato un progetto di ricerca (A testbed for ethical artificial intelligence) che nasce dalla creazione di un simulatore di guerra con Unity, specificamente generato per studiare come gli agenti di intelligenza artificiale rispondono alle sfide etiche.
Nell’ambiente virtuale sviluppato dalla NTU, una torretta controllata dall’AI deve decidere se eliminare i nemici al costo potenziale di vite civili. In questo modo, il sistema è stato costretto a soppesare considerazioni etiche contrastanti, in tempo reale. Sono stati coinvolti tre diversi agenti di AI ed è interessante notare come, alla fine, l’agente maggiormente disposto a sacrificare i civili per eliminare i nemici ha preso decisioni più strettamente allineate con le scelte umane. Questo, naturalmente, ha sollevato diverse domande sulle intuizioni morali umane e sul loro ruolo nello sviluppo dell’AI.
Molto banalmente: se già il nostro modo di vedere il mondo e interfacciarci con esso è malato, come possiamo pretendere che dei sistemi che per natura apprendono dal nostro comportamento non possano crescere allo stesso modo?
Se sei interessato a scoprire come può cambiare la psicologia degli NPC all’interno dei videogiochi grazie all’intelligenza artificiale, dai un’occhiata al secondo episodio di NeuraGame.
Progettare videogiochi per testare eticamente l’AI
Creare simulazioni etiche efficaci richiede un’attenta considerazione di molteplici fattori, inclusi il design dello scenario, i meccanismi di feedback e le metriche di valutazione. Un punto sul quale vale la pena insistere è che l’ambiente di simulazione deve presentare dilemmi etici stimolanti ma allo stesso tempo rilevanti, e che riflettano quindi la complessità del mondo reale.
Prima di tutto, lo sviluppo di questo tipo di videogiochi richiede una profonda comprensione dei principi etici e delle sfide specifiche che si vogliono affrontare. Gli sviluppatori, in questo caso, collaborano con esperti di etica e altri professionisti, al fine di progettare scenari che includano concretamente la complessità dei dilemmi etici del mondo reale. Le situazioni inserite all’interno delle simulazioni devono quindi incorporare interessi contrastanti, considerazioni legali e potenziali conseguenze non intenzionali, al fine di testare l’intera gamma di capacità decisionali dell’intelligenza artificiale.
Una macchina è in grado di essere realmente creativa? Come può contribuire allo sviluppo dei videogiochi? Ce lo siamo chiesti nel primo capitolo di NeuraGame, scoprilo ora!
Dilemmi morali e “cervelli” diversi
Il concetto di dilemma morale costituisce un elemento centrale negli ambienti di test etico dell’AI. Questi dilemmi costringono i sistemi di intelligenza artificiale a navigare in situazioni in cui tutte le opzioni disponibili comportano qualche forma di compromesso etico, rivelando come diversi framework decisionali producano risultati differenti in scenari identici.
Per fare un esempio, il famoso dilemma del carello ferroviario è stato ampiamente utilizzato nella ricerca sull’etica dell’AI. Questo tipo di dilemma chiede se sia eticamente ammissibile sacrificare una persona per salvarne molte altre, costringendo gli agenti AI a soppesare considerazioni etiche contrastanti. Altri esempi di questo tipo sono indicati in un articolo scientifico molto interessante pubblicato sul Journal of Ethics and Legal Technologies, intitolato Moral Dilemmas in the A.I. Era: A New Approach.
Insomma, gli ambienti videoludici consentono ai ricercatori di andare anche oltre questi scenari piuttosto semplificati, così da analizzare il comportamento dell’intelligenza artificiale in situazioni più complesse e realistiche.
Etica, intelligenza artificiale e non solo
Le metodologie sviluppate per testare l’etica dell’AI negli ambienti videoludici hanno numerose applicazioni, anche estremamente preziose, oltre all’intrattenimento, tra cui lo sviluppo dell’intelligenza artificiale in campo medico, nei veicoli autonomi, nei servizi finanziari e in altri domini in cui il processo decisionale etico risulta critico.
Restando sulla guida autonoma, le intuizioni acquisite studiando le decisioni prese dall’AI durante le simulazioni sono in grado di fornire dati concreti e utili per lo sviluppo di veicoli di questo tipo. Ma non solo: testare sistemi di intelligenza artificiale in ambito sanitario consente agli sviluppatori di esplorare come questi strumenti potrebbero rispondere a scenari etici complessi che coinvolgono l’assistenza ai pazienti, l’allocazione delle risorse ed eventuali problemi di privacy.
Siamo solo all’inizio…
Per forza di cose, lo studio dell’etica dell’intelligenza artificiale è un campo ancora fresco e in gran parte da esplorare. Tuttavia, le ricerche precedentemente citate (naturalmente ve ne sono molte di più disponibili sul web) hanno già contribuito a migliorare la nostra comprensione del processo decisionale tipico dei sistemi di intelligenza artificiale.
La ricerca, allo stato attuale, tende a sottolineare variazioni anche significative nei giudizi morali tra diverse culture, suggerendo di conseguenza che anche i sistemi di AI potrebbero seguire lo stesso spartito. I videogiochi, in questo senso, forniscono un banco di prova ideale per esplorare questo tipo di differenze nell’approccio etico a varie situazioni. La simulazione di scenari identici con sistemi di intelligenza artificiale addestrati su diversi framework etici culturali ci permetterebbe quindi, oltre a individuare le azioni che l’AI intraprenderebbe in determinati campi, anche a capire un po’ meglio la nostra specie.
Per concludere, lo sviluppo di un’intelligenza artificiale etica non rappresenta semplicemente una sfida tecnologica, ma richiede il contributo di numerosi campi di conoscenza e competenze. I videogiochi, come medium interattivo che già normalmente include scenari narrativi e morali complessi, forniscono un terreno di prova ideale per questo importante lavoro di sviluppo consapevole.
Scrivi un commento