L’opera nasce da una riflessione su un esperimento effettuato da Facebook nel 2017 e tempestivamente interrotto, in cui due “intelligenze conversazionali” dovendo portare a termine
una contrattazione uno contro uno, ad un certo punto hanno modificato il loro linguaggio
continuando a conversare tra loro senza che gli stessi programmatori comprendessero ciò
che si stessero dicendo. Questo è stato possibile grazie ad un certo grado di libertà dato ai
Bot, per cui l’uso di un linguaggio umanamente comprensibile era una strategia di comunicazione preferibile ma facoltativa. Il fatto di non costringere in una istruzione precisa i Bot
dandogli facoltà di scelta ha evidenziato come la scelta di questi, anche solo per vantaggio
comunicativo, li abbia portati ad adottare un linguaggio a noi incomprensibile, escludendoci
di fatto dalla conversazione. Il problema delle Intelligenze Artificiali è che non si possono
definire tali senza un certo grado di autonomia decisionale eppure nel momento in cui gli si
fornisce questa autonomia essa può sfuggire al nostro controllo, lasciandoci in balia degli
esiti.
Con quest’opera l’osservatore si trova di fronte ad un
elaboratore che dichiara: IO PENSO. Di fronte ad un’affermazione del genere, siamo certi di comprenderne appieno il significato? Quali sono i pensieri di un elaboratore che non prova emozioni, non ha etica nè morale?
Siamo certi di voler dare alle macchine questa facoltà?
