ebook – Tecniche e miti. Le trappole dell’intelligenza artificiale

Di Intelligenza artificiale (IA) si parla ovunque.
Ma non è facile districarsi nell’informazione mainstream – omologata nell’esaltarne le “magnifiche sorti e progressive” – e tracciare un percorso critico che ne metta in luce le problematiche, intrecciate a molteplici ambiti sociali. Per farlo è necessario indagare l’IA da diversi punti di osservazione.

In primo luogo proviamo a smontarne i meccanismi, mettendo in discussione la stessa denominazione: si tratta infatti di un apparato tecnologico che non è “intelligente” né “artificiale”.
Ma l’analisi teorica deve essere accompagnata da affondi e carotaggi nella vita quotidiana, sempre più condizionata dall’uso dell’IA.
Un uso discriminatorio, che può arrivare a impedire l’accesso ai servizi pubblici in base a valutazioni imponderabili legate al genere, all’orientamento sessuale, all’appartenenza etnica, oppure a ostacolare il movimento dei migranti e a precludere i loro diritti. Si tratta, in sostanza, di forme di limitazione non dichiarate dei diritti umani e dei diritti di cittadinanza, affidate agli automatismi di algoritmi.

Degli stessi automatismi fa le spese da molti anni il sistema di istruzione, colonizzato da forme di valutazione standardizzata che alterano la didattica e l’apprendimento, nel nome di una presunta oggettività che – per essere tale – esclude dal proprio orizzonte tutto ciò che l’algoritmo non è in grado di prevedere. A questo si aggiunge il Piano Scuola 4.0, destinato ad avere un grande impatto sul piano educativo e sottratto al dibattito pubblico.
L’IA si presenta anche con una faccia potenzialmente distruttiva, di cui si parla poco, ovvero l’applicazione a scopi militari, che costituisce un salto epocale nella concentrazione di risorse naturali, finanziarie e intellettuali (innovazione scientifica e tecnologica) a scopi bellici.

La comparsa di ChatGPT (Generative Pretrained Transformer), seguita da Bard, il chatbot sperimentato da Google, ha messo l’IA a disposizione di chiunque in modo
semplice e intuitivo. Si tratta di strumenti in grado di raggiungere un numero enorme di utenti e di modificare il loro rapporto con l’informazione e lo studio.

In Cina sono stati di recente rilasciati strumenti analoghi, condizionati dal controllo politico governativo.
Come funzionano? Dove possono condurre? Perché sbagliano così di frequente? In realtà una parte di questi errori non sono davvero tali; si tratta invece di risposte
che derivano dalla riproduzione di pregiudizi sociali di cui la rete è piena e che corrispondono a precise visioni del mondo: per quanto detestabili, non saranno strumenti “artificiali” a debellarle dal mondo reale; al contrario, la struttura degli strumenti di IA è destinata a rinforzarle.

Può la “pedagogia hacker” contrastare questa evoluzione socialmente pericolosa?
La tecnologia non è neutrale. È banale ripeterlo, ma continua ad essere necessario, dal momento che questo concetto sembra essere estraneo al dibattito politico e penetra a fatica nel senso comune.

Occorre decostruire i meccanismi operativi e i presupposti ideologici della tecnologia. Per comprenderli dobbiamo guardare più lontano, tornare a leggere il dibattito che fu all’origine della ricerca sulla cibernetica tra la fine degli anni sessanta e l’inizio degli anni settanta: questa storia non ha inizio oggi, ed è importante rintracciarne le radici.
Di tutto questo parliamo in queste pagine.

INDICE

Introduzione
Non chiamiamola “intelligenza” artificiale di Norberto Patrignani
Nuove intelligenze, vecchi pregiudizi di Carlo Milani
Mezzo secolo e ci siamo. Cibernetica e nuova formazione di Valeria Pinto
Il “lavoro del clic” di Antonio Casilli e Stephan Bouquin
La falsa promessa di ChatGPT di Noam Chomsky, Ian Roberts e Jeffrey Watumull
Intelligenza artificiale e storia artificiale di Mauro Boarelli
Patriarcato algoritmico di Lilia Giugni
Vite migranti costrette in un database di Rossella Marvulli
La scuola della misurazione di Enrico Rogora
La scuola dell’economia digitale nel tempo di un click di Paolo Landri
Il pericoloso intreccio tra guerre e intelligenza artificiale di Francesca Farruggia ed Enzo Ferrara
Tra controllo e sviluppo. L’Intelligenza artificiale generativa in Cina di Diego Gullotta
Reclaim the Tech. Appunti da una fucina in costruzione di Luca Recano e Simone Vagnoni
Le autrici e gli autori