“L’IA ha infranto una legge di Asimov e le conseguenze sono più vicine che mai” | Michele Kettmajer

Il documentario Naza, di Yuval Abraham e Rachel Szor, prodotto dal Guardian, porta in sala le testimonianze anonime di soldati e uomini dell’intelligence israeliana sul sistema di scelta degli obiettivi a Gaza. Il tema era emerso già nel 2024 con le inchieste su Lavender: l’esercito israeliano ha sempre negato di usare l’IA per identificare i miliziani, definendo il software “un database” per incrociare fonti d’intelligence. Un’altra vicenda riguarda Minab, in Iran: secondo un’inchiesta di Bloomberg, la revisione interna del Pentagono sull’attacco alla scuola del 28 febbraio, con oltre 150 morti, ha indicato tra le cause l’eccessivo affidamento a uno strumento di Palantir.

La guerra senza responsabili

“A me pare una pazzia questa cosa”, dice Michele Kettmajer, esperto di intelligenza artificiale, a proposito dell’idea di mettere le guerre in mano a “sistemi di cui non conosciamo ancora bene le potenzialità, gli sviluppi, gli errori”. Un principio, ricorda, era già scritto da Asimov: “la prima legge robotica era quella che i robot non potessero mai fare del male agli umani”. Regola che, afferma, “è stata infranta nel momento in cui i droni, che sono dei robot a tutti gli effetti, hanno iniziato a uccidere le persone ovunque”.

Il caso Minab

Per Kettmajer l’esempio è proprio la scuola iraniana: “avevano un vecchio dato che diceva che era ancora una struttura militare, mentre era già da un bel po’ di anni che era diventata una scuola”. Il nodo è l’affidarsi a quei sistemi: “Com’è possibile affidare completamente all’intelligenza artificiale dei dati sbagliati?” Quanto a Gaza, aggiunge, “gli israeliani hanno una capacità ora di lanciare missili che è quasi di uno ogni minuto”, mentre prima servivano giorni o settimane di verifiche.

Decidere “se vale la pena sacrificare 50 bambini” in base ai parametri, sostiene, è “una forma di disumanità incredibile”. E il danno riguarda anche la memoria: “Anche la storia perde di significato se non possiamo più ricostruire la colpevolezza o la responsabilità di un’azione tragica e devastante come quella della guerra o di colpire delle persone.”