IA AL COMANDO: O DETTIAMO LE REGOLE, O DIVENTIAMO IL GRILLETTO DI UNA MACCHINA
Su Voce Sociale parliamo spesso di come la società debba adattarsi all'uomo e non viceversa. Oggi voglio parlarvi di una sfida che sembra lontana, ma che tocca le basi della nostra dignità: il tentativo di eliminare l'uomo dalle decisioni più critiche della tecnologia militare.
Questo tema non riguarda solo i generali o i laboratori della Silicon Valley. Riguarda tutti noi che crediamo nel valore dell’unicità umana. Se accettiamo l'idea che l’efficienza di un algoritmo sia superiore al giudizio di una persona, stiamo creando un precedente pericoloso. Nel mondo della disabilità sappiamo bene cosa significa essere valutati da parametri rigidi che non tengono conto della complessità della vita.
I sistemi di IA militare sono progettati per l'efficienza brutale. Ma lottiamo ogni giorno per spiegare che il valore di una persona non dipende dalla sua "produttività" o "velocità". Un'IA senza filtri etici, addestrata solo a colpire obiettivi "efficienti", è il contrario dei valori che difendiamo: l'attenzione all'essere umano, con i suoi tempi e le sue fragilità.
In questi giorni si parla molto del muro alzato da Anthropic contro le richieste del Pentagono. Il punto, riportato originariamente dalla testata The Verge alla fine del 2025, è semplice ma inquietante: i militari vogliono un’IA senza filtri per essere più veloci del nemico, l’azienda risponde che senza limiti sulla sorveglianza e sulle armi autonome non si va da nessuna parte.
Ci dicono che l'uomo è troppo lento, un "collo di bottiglia" davanti a missili iper-sonici. Ma se per guadagnare qualche millisecondo rinunciamo a capire perché una macchina decide di colpire, cosa ci resta?
Il rischio reale è l'Automation Bias (l'automazione del consenso): sotto stress, tendiamo a fidarci ciecamente di un software. Un generale che firma un ordine suggerito da un algoritmo che non comprende non sta davvero comandando: sta obbedendo. Diventa un "timbro vivente", un passacarte che ratifica decisioni prese in una "Scatola Nera". Per chi vive la disabilità, la tecnologia deve essere uno strumento di autonomia, non di controllo. Se l'IA scavalca l'uomo, finiremo per essere giudicati da algoritmi che non comprendono le esigenze specifiche o la diversità umana.
Anthropic dice no anche alla sorveglianza indiscriminata. È un tema sociale enorme: storicamente, i sistemi automatici tendono a discriminare le minoranze e le persone con disabilità perché i loro movimenti potrebbero essere letti come "anomali" da un software rigido. Difendere il controllo umano significa difendere chi è "diverso" dallo standard.
Non possiamo accettare che la sicurezza nazionale spenga la coscienza. Servono regole chiare:
Responsabilità Giuridica: Ogni azione deve essere riconducibile a un comando umano certo.
Spiegazione: L'IA deve esporre il ragionamento in modo comprensibile.
Kill Switch Fisico: Un interruttore hardware per staccare la spina in caso di anomalie.
Il paradosso è amaro. Mentre alcuni pongono limiti, altri vendono modelli "chiavi in mano" che promettono la vittoria eliminando l'esitazione umana.
Eppure, fa sorridere (o piangere) pensare a noi oggi:
"Ma come, siamo così brillanti, profondi e pure profumati, eppure stiamo rischiando di cedere il grilletto a una macchina?"
Non lasciamo che la tecnologia ci sostituisca nell'unica cosa che ci rende unici: la capacità di scegliere. La vera forza di una civiltà sta nel non diventare come i propri avversari per il solo desiderio di sconfiggerli. L'IA deve potenziare l'intelligenza umana, non sostituire la nostra coscienza.
Per approfondire (Sintesi dall'articolo di The Verge)
Per chi non volesse cimentarsi con l'articolo in lingua originale, il nocciolo è questo: il Pentagono vuole eliminare le "clausole di sicurezza" delle IA perché ritiene che l'etica privata non possa scavalcare la Difesa nazionale. Anthropic resiste per creare un'IA "costituzionale": "Non permetteremo che la nostra tecnologia venga usata per decisioni letali senza supervisione umana".
Mario Assanti
Commenti