Cordeschi e Tamburrini (2005) e Cordeschi (2013), trattando delle armi autonome, collocano le origini di questi sistemi all’interno della storia della cibernetica. Considerare le armi autonome da questo punto di vista non è solo un proficuo esercizio storico, ma rivela alcune profonde idee su cosa siano realmente tali armi, sulle ragioni per cui trovano possiamo considerarle discutibili o indesiderabili, e su come sia possibile "addomesticarle" con strumenti ingegneristici. In particolare, Cordeschi (2013) sviluppa gli argomenti di Wiener (1960) sull’affidabilità dei sistemi autonomi e sui potenziali pericoli derivanti dalla loro inaffidabilità, estendendo poi questi argomenti a un esame delle interazioni uomo-macchina e della loro inaffidabilità intrinseca. In risposta alla richiesta proveniente dal mondo accademico, me compreso, di mettere al bando le armi autonome, Cordeschi ha ulteriormente esplorato l’applicabilità del principio di precauzione a questo caso specifico, evidenziandone carenze e concludendo che una messa al bando delle armi autonome sia impraticabile. La sua analisi di tali questioni mostra che molti altri potrebbero condividere le sue conclusioni. In questo lavoro, prenderò in esame le analisi di Cordeschi sulle armi autonome, criticando alcune assunzioni di Wiener e dei primi cibernetici intorno alla teleologia e all’epistemologia. Svilupperò infine un punto di vista diverso, basato su idee emerse nel quadro della cibernetica di secondo ordine per esplorare sia i rischi delle armi autonome sia il valore pratico di una loro messa al bando. Si tratta di una visione che è compatibile con il punto di vista sviluppato da Cordeschi (2002) sulla storia della cibernetica, e della cui bontà avrei voluto convincerlo se avessi solo avuto l’opportunità di discuterne insieme.
Keywords: Affidabilità dei sistemi intelligenti, Armi autonome, Cibernetica di secondo ordine, Etica e macchine intelligenti, Principio di precauzione, Storia della cibernetica e dell’IA.