INTELLIGENZA ARTIFICIALE O STUPIDITA’ NATURALE?
La comparsa di ChatGPT (Generative Pretrained Transformer) ha intensificato il dibattito sull’intelligenza artificiale.
Milioni di persone in tutto il mondo stanno facendo esperienza personale del nuovo chatbot, ed è facile intuire che non si tratta solo dell’infatuazione temporanea dovuta alla novità e alla fascinazione di poter interrogare una macchina mediante il linguaggio naturale per ottenere risposte su qualsiasi campo del sapere umano. Altri strumenti analoghi sono in fase di sperimentazione, in grado di raggiungere un numero ancora più elevato di utenti e di modificare il loro rapporto con l’informazione e lo studio. Come funzionano? Dove possono condurre? Abbiamo cercato di rispondere a queste ed altre domande mettendo insieme questioni che sono intrecciate anche se non sempre visibili a occhio nudo.
In primo luogo proviamo a smontare i meccanismi dell’intelligenza artificiale, mettendo in discussione la definizione stessa. Ma l’analisi teorica (e storica, perché ci interessa anche risalire alle origini del dibattito) deve essere accompagnata da affondi e carotaggi nella vita quotidiana, sempre più condizionata dall’uso dell’intelligenza artificiale.
Un uso discriminatorio, che può arrivare a impedire l’accesso ai servizi pubblici in base a valutazioni imponderabili legate al genere, all’orientamento sessuale, all’appartenenza etnica, oppure a ostacolare il movimento dei migranti e a precludere i loro diritti. Si tratta, in sostanza, di forme di limitazione non dichiarate dei diritti umani e dei diritti di cittadinanza, affidate agli automatismi di algoritmi.
Degli stessi automatismi fa le spese da molti anni il sistema di istruzione, colonizzato da forme di valutazione standardizzata che alterano la didattica e l’apprendimento, nel nome di una presunta oggettività che – per essere tale – esclude dal proprio orizzonte tutto ciò che l’algoritmo non è in grado di prevedere.
Infine, arriviamo al punto da cui siamo partiti, cioè alla ChatGPT, che va presa sul serio, smontata nei suoi presupposti e nel suo funzionamento concreto, indagata sui modi in cui produce (e riproduce) errori e ricostruzioni parziali e fuorvianti.
C’è un filo rosso che collega gli articoli raccolti in questa sezione con quelli che la nostra rivista ha dedicato negli ultimi tempi al “credito sociale” in Italia e in Cina, alla valutazione standardizzata, alla Pedagogia Hacker. La tecnologia non è neutrale, occorre decostruirne i meccanismi operativi e i presupposti ideologici. È un terreno di indagine molto vasto, e per questo torneremo sull’argomento anche nel prossimo numero.
Il titolo della sezione ci è stato suggerito da una riflessione che ci ha inviato Fabian Negrin, l’autore dello speciale a colori di questo numero:
Due micropensieri sulle macchine e il disegno.
Uno. Si parla molto di Intelligenza Artificiale nell’ambito dell’illustrazione (e non solo). Midjourney etc.
Mi sembra che sia ormai da un po’ che le illustrazioni sono fatte prevalentemente dai computer. Quello che viene fuori dall’illustrazione digitale (Photoshop, Adobe Illustrator, Painter, CorelDRAW etc.) in fondo è più fatto dalle macchine e dai programmi che non dall’illustratore che le usa. E le immagini digitali già dall’inizio hanno avuto – per chi ha occhi per vedere – lo stesso aspetto finto e ‘plasticoso’ che ora hanno queste nuove immagini create con l’Intelligenza Artificiale. A mio avviso è il precedente abbandono della carta, dei materiali e del vero disegno la questione fondamentale. Il resto – Photoshop o Midjourney – sono dettagli, che non derivano dall’intelligenza artificiale, ma dalla nostra stupidità naturale.
Due. Quando un sito, attraverso un CAPTCHA, ci chiede di dimostrare che “I’m not a robot”, significa che siamo al paradosso di un robot che ci chiede di dimostrargli che noi non siamo dei robot. Forse è ancora una bella cosa. Pensiamo che prima o poi arriverà il momento in cui, macchina-dipendenti come siamo diventati, per un errore di sistema o per un preciso disegno del programmatore, il CAPTCHA ci chiederà di dimostrare che “I AM a robot”. E noi lo faremo, felici, perché in fondo, guardandoci attorno ma anche guardando dentro noi stessi, ci sta piacendo tanto diventare dei robot.