Una frase nel capitolo conclusivo del libro scritto da Diletta Huyskes e intitolato ‘Tecnologia della rivoluzione’ può fare da sintesi di quanto l’autrice esprime in questa sua opera: “Per fare innovazione serve immaginazione, ma se l’immaginazione è solo quella di un gruppo ristretto e poco rappresentativo, è come vivere nei sogni di qualcun altro”.
La tecnologia non è inevitabile nel modo in cui si forma, cresce, si applica, se è inutile pensare di fermare il progresso tecnologico, non lo è cercare di fare in modo che tale progresso possa essere capace di portare vera innovazione, positiva e per tutti.
Il sottotitolo del libro (Il Saggiatore, 247 pagine, 19 euro) recita: ‘Progresso e battaglie sociale dal microonde all’intelligenza artificiale’ ed è una raccolta di riflessioni, citazioni e spunti che mettono in luce come la tecnologia vada considerata in modo del tutto nuovo. Il rischio, sostiene l’autrice, è sia quello di accettare strumenti tecnologici che sono efficaci solo in relazione al processo che li ha sviluppati e al risultato dei compromessi che ha permesso loro di diventare accessibili a tutti o quantomeno a molti, sia quello di considerare le tecnologie come sostitutive e non complementari rispetto al ruolo dell’uomo, l’errore qui è quello di trasferire alle tecnologie la responsabilità delle decisioni e affidarsi interamente a ciò che esse producono in termini di output. Ciò comporta una deriva potenzialmente molto pericolosa che coincide con la deresponsabilizzazione in relazione alle decisioni prese: ‘il computer dice no’, da un lato e con il fatto che tanto più le tecnologie hanno impatto sulla società, tanto più i loro eventuali errori hanno impatto su un amplissimo numero di persone, cosa che, normalmente non accadrebbe se l’errore fosse umano, con l’eccezione del potere esercitabile per esempio da un capo di Stato.
Per analizzare lo scenario Huyskes fa riferimento a numerosissime pubblicazioni ed esperienze che negli anni si sono susseguite e che hanno trattato il femminismo, l’emarginazione, ma anche di determinismo e costruttivismo delle tecnologie nella loro relazione con la società. Non mancano gli esempi concreti che l’autrice porta all’attenzione del lettore come il processo di sviluppo del forno a microonde, l’adozione da parte di autorità dei Paesi Bassi di sistemi software pensati per prevenire derive sociali pericolose da parte di determinate categorie di cittadini ma rivelatisi altamente discriminatori oltre che pericolosi da un punto di vista dell’incapacità di fare previsioni non vere. Qui, secondo Huyskes, entrano in gioco due elementi: la relazione tra la società, la storia della società e le tecnologie e la fluidità delle informazioni che coincide con la loro capacità di modificarsi nel tempo.
Il rischio è quello di applicare nuovi strumenti tecnologici a principi che sono però così radicati nell’essere dell’umanità che permeano così ogni nuova promessa di rivoluzione tecnologica ricadendo nella perversione di continuare a commettere i medesimi errori ma su scale sempre più ampia e sempre più rapida. Serve riprendere la storia delle tecnologie e considerarla dal punto di vista sociale, serve individuare quel punto di evoluzione in cui al pari del progresso tecnologico si può anche ottenere un progresso sociale, cosa che oggi non sta accadendo. Anche le tecnologie più recenti come la IA generativa sono vittima di questa deriva, basta prendere un esempio che l’autrice cita nel libro e chiedere all’IA di rappresentare una persona intenta alle faccende domestiche, come risultati si avrà una donna, magari non bianca disegnata in un ambiente come può essere la cucina, quando invece secondo le statistiche citate dal libro gli uomini appaiono essere altrettanto numerosi nell’eseguire questi compiti.
© RIPRODUZIONE RISERVATA