M11 · Dati, etica e potere¶
Il problema non è che l'AI venga usata male. Il problema è che non ne siamo consapevoli.
Perché è trasversale¶
Non faccio un modulo di etica separato all'inizio: arriverebbe prima di aver capito di cosa stiamo parlando. Ma l'etica non è nemmeno un modulo finale. Ogni modulo tecnico contiene una questione etica, e questa pagina le raccoglie.
| Dove compare | Questione |
|---|---|
| M02 Turco meccanico | Lavoro umano nascosto e sottopagato dietro l'automazione |
| M03 Dataset | Chi sceglie la "porzione di realtà"? Cosa resta fuori? |
| M04 Black box | Responsabilità delle decisioni non spiegabili; regole (AI Act) |
| M05 Copyright | Libri protetti nei dataset; memorizzazione |
| M05 Energia | Ogni risposta è calcolata sul momento: costo energetico, data center |
| M07 Memoria | Cosa sa di me l'app? Dati sanitari salvati senza accorgersene |
| M08 Open weights | Chi controlla i modelli; dipendenza dai fornitori; geopolitica |
| Ovunque | Piaggeria (sycophancy) e dipendenza emotiva |
Concetti chiave¶
| Concetto | Come lo dico | Stabilità |
|---|---|---|
| La tecnologia non è neutra | Come la scienza: non la "appoggi sul tavolo" | stabile |
| Dato strategico | Non serve chiudere tutto: serve sapere quali dati sono davvero strategici, e su quale orizzonte (breve, medio, lungo) | stabile |
| Account e dati | Gratuito, a pagamento, aziendale: condizioni diverse sull'uso dei dati per l'addestramento. Vanno lette | volatile |
| Piaggeria | "Che bella domanda!" non è un'emozione: è un comportamento appreso, e può servire a tenerti lì | evolutivo |
| Distanza consapevole | Se vuoi accorciare la distanza con la macchina, siamo adulti: fallo, ma consapevolmente | stabile |
| Profilazione | Dopo un mese d'uso, chiedi alla chat un profilo di personalità di te stesso. Spesso ci prende, e la cosa fa riflettere | evolutivo |
Posizioni, non verità¶
Su alcuni temi in aula prendo posizione, e lo dichiaro.
- Regole: sono contrario alla deregolamentazione dell'AI.
- AGI: quando ne parlano gli imprenditori del settore, mi interessa più la strategia di comunicazione che la previsione.
- Geopolitica: come docente resto fuori dal giudizio. Spiego però perché le strategie USA (modelli chiusi, "ti attacchi a me") e cinesi (modelli a pesi aperti) sono diverse.
Attività¶
- Il profilo di personalità: a casa, non in aula, con il proprio account.
- La memoria allo specchio: aprire la pagina della memoria e leggere cosa ha salvato su di te.
- Il dato strategico: a gruppi, classificare i dati del proprio lavoro per importanza e orizzonte temporale.
- Il cineforum (scheda): lutto, dati personali, simulazione di una persona.
Punti critici e da verificare¶
- Non sottovalutare il singolo dato: anche un dato comparso una sola volta nell'addestramento può essere memorizzato ed estratto (Carlini et al. 2021). E il GDPR non ragiona in termini di probabilità.
- Segnalazioni automatiche alle autorità: affermazione da verificare con fonti prima di riportarla.
- Casi d'uso eticamente discutibili (analizzare la personalità dei colleghi dalle chat, scrivere mail "motivazionali" copiando i profili LinkedIn): vanno presentati come esempi da non seguire, con il perché.
- Benessere: quando si parla di dipendenza emotiva dalle chatbot, tenere un registro di cura e indicare risorse, non solo fare battute.
Collegamenti¶
- Letture: Kate Crawford, Né intelligente né artificiale; Miguel Benasayag, Cervello aumentato, uomo diminuito; testo dell'AI Act (Regolamento UE 2024/1689).