Il problema “etico” riportato è buono per una tavola rotonda, un po’ meno per il campo di applicazione.
Qui siamo in un forum frequentato da fini collaudatori automobilistici, ma là fuori funziona differentemente. Nel mondo reale c’è tua zia che con la Megane con due gomme sgonfie sta percorrendo a 90 all’ora una provinciale sgarruppata, chiacchierando con sua cugina al telefono (in mano rigorosamente, perché il marito al bluetooth ha preferito i cerchi da 17”). Quando una qualsiasi cosa (gatto cane vitello bambino pezzo-di-polistirolo extracomunitario) spunta in mezzo alla strada tua zia come si comporta? Ragiona sulla massa del veicolo, l’aderenza di ogni pneumatico, calcola la distanza e la paragona alle tabelle di performance del sistema ed agisce in maniera differenziata in ogni caso? No, semplicemente se va bene pesta sul freno e sterza a caso finendo nel fosso o al frontale, altro che fisiologia del cervello ed altre cose. L’idea di poter definire, in pochi decimi di secondo per un pilota non allenato e non preparato su un veicolo che non conosce, se colpire l’ostacolo (gatto si bambino no) o provare a schivarlo, e nel caso in che modo, è semplicemente ridicola indipendentemente dalle considerazioni etiche. Una macchina questa operazione la può fare, e la Classe E ad esempio suggerisce di schivare l’ostacolo se non arriva nessuno dall’altra parte. Diversi veicoli quando sentono puzza di incidente si adattano opportunamente.
Capiteranno incidenti mortali con le auto a guida autonoma o comunque assistita nei prossimi mesi anche con quelle attualmente in commercio, è certo.
Non mi trovi d'accordo.
Innanzitutto, il metro di paragone della guida umana non può essere solo la zia rimbambita...
In secondo luogo, le decisioni che assumiamo in frazioni di secondo - in tutte le situazioni, non solo alla guida di un'automobile - non sono frutto di calcoli elaborati (che un computer è certamente in grado di fare meglio e più in fretta di noi), ma di quella che Angelo ha definito "memoria associativa": il cervello fornisce una risposta istantanea attingendo alle esperienze e alle emozioni vissute.
Io, se mi attraversa la strada un gatto, provo a frenare; se non c'è spazio tiro dritto.
Mi dispiace per il gatto, ma la mia sensibilità (scarsa?) verso questo simpatici amici dell'uomo non mi suggerisce neanche per un istante - a livello istintivo - di sterzare bruscamente e mettere a repentaglio la mia incolumità (o quella di altre persone che mi circondano) per salvare il gatto.
Se mi attraversasse la strada un bambino, ti assicuro che avrei l'istinto di sterzare.
Forse commetterei anche un errore di guida, ma il punto è che l'emozione di vedere una persona - o addirittura un bambino - davanti al mio veicolo scatenerebbe una reazione adrenalinica del tutto diversa da quella suscitata dal gatto.
Una "gattara" al volante, forse, avrebbe reazioni diverse.
La questione etica è diversa da quella tecnica (se cioè il mezzo automatico sia
in linea generale meglio capace di prevenire gli incidenti).
La questione etica è:
nel caso specifico, come deve essere impostato l'algoritmo?
Chi decide? Chi si assume la responsabilità dei comportamenti?La libertà delle singole persone - libertà che può comportare anche errori, sapendo però che esiste un soggetto che se ne deve assumere la responsabilità - da che cosa viene sostituita?
Proprio in questi giorni Grillo si diverte a lanciare la provocazione per cui ci vorrebbe un "algoritmo per decidere chi deve essere espulso dal M5S". Abbiamo consapevolezza che si tratta di una provocazione, o pensiamo davvero che possano esistere algoritmi che si sostituiscono a persone fisiche, le quali ci mettono la faccia e si assumono la responsabilità (politica, civile, morale, in altri campi anche penale) di quello che decidono?
Oppure
gli "algoritmi" devono diventare la foglia di fico con cui ci vengono imposte le decisioni senza possibilità di replica?Potrei fare numerosi altri esempi.
Un'autovettura a guida automatica è impostata per rispettare il codice della strada.
Esistono però dei casi in cui le regole del codice
debbono essere violate: può essere necessario superare i limiti di velocità per un'emergenza sanitaria; bisogna imboccare un senso vietato perché la strada corretta è ostruita; ecc.
So che quando si tratta di aggirare le regole noi italiani siamo pronti a trovare diecimila giustificazioni valide. Ma anche a voler essere rigidissimi, non possiamo negare che esistono casi in cui la deroga alle regole - o un'interpretazione per un caso non previsto - si rende necessaria: chi lo fa valuta la necessità e se ne assume la responsabilità.
Può un algoritmo prevedere i casi in cui può essere violato il codice della strada? E su quali basi, secondo quale gerarchia di necessità? Chi si assume la responsabilità della violazione?
Esistono anche casi in cui la violazione del codice è inevitabilmente
continua : il rispetto della distanza di sicurezza (che nelle strade trafficate non può mai essere quello previsto dal codice); l'obbligo di dare precedenza quando ci si immette in una strada trafficata (se aspetti che non passi nessuno, o se non "costringi" chi arriva a rallentare, non ti immetti mai)...
Finché non vengono risolti questi problemi (tecnici, oltre che etici), queste auto non sono pronte a fare il loro ingresso nel traffico.
Capiteranno incidenti mortali con le auto a guida autonoma o comunque assistita nei prossimi mesi anche con quelle attualmente in commercio, è certo.
Sì, ma i due casi sono completamente diversi.
I morti provocati dall'uomo sappiamo a chi imputarli (o ci penserà un giudice).
Quelli provocati dai sistemi automatici? Potranno essere imputati solo alla tecnologia non ancora matura, o potranno essere espressione di scelte arbitrarie dei programmatori (che si sostituiscono alla libertà delle persone)?
Ad ogni modo: non intendo sostenere che dobbiamo tenerci gli errori umani in nome della libertà. Benvenuti tutti i supporti tecnologici che aiutano l'uomo a diminuire gli errori.
Attenzione, però, a non cadere nell'errore ancor più grande di ritenere che la tecnologia sia "neutra", che possa sostituirsi in maniera indolore alle scelte libere e responsabili dell'uomo.
I problemi che ho evidenziato sono
reali, la tecnologia deve affrontarli per divenire
davvero matura, tutti coloro che hanno a cuore gli sviluppi tecnologici dovrebbero evitare di trascurarli.
224 Risposte
26551 Visite