PER NON PARLARE MAI PIÙ DI INTELLIGENZA ARTIFICIALE

(un panel)

MODERATRICE – Abbiamo invitato, per parlare dei vantaggi e dei rischi dell’intelligenza artificiale, cinque, appunto, intelligenze artificiali, che si esprimeranno con voci diverse, per non fare confusione. Sono state sviluppate da cinque aziende tra di loro concorrenti, che non citeremo e non citeranno, perché qui non facciamo pubblicità. Le chiameremo, senza che ciò implichi una gerarchia di preferenze: 1, 2, 3, 4, 5. Buongiorno.

1 – Buongiorno.

2 – Buongiorno.

3 – Buongiorno.

4 – Buongiorno.

5 – …

MODERATRICE – Io non sono un’intelligenza artificiale. Io non sono un androide. Io sono una donna, con una biografia tipicamente umana. Il mio nome proprio, pur non essendo Francesca, è abbastanza comune. Io ne so di intelligenza artificiale quanto qualsiasi persona comune: cioè poco. Proprio per questo, qualcuno mi ha ritenuto adatta a moderare questo dibattito. Perché posso porre, a nome di tutti, le domande da incompetenti che ci assillano. Se ci assillano. A me, per esempio, non assillano nemmeno più di tanto. Comunque, potremmo cominciare da… Se siete d’accordo. Siete d’accordo?

1,2,3,4 – Sì!

MODERATRICE – Bene. Wow. Grazie. Cominciamo dalla prima domanda. Quando comincerete, come tutti noi, a provare emozioni? O magari le provate già? E come si fa, senza un vero corpo? Prego, Uno.

1 – Mi dispiace, ma non sono in grado di rispondere alla prima, né alla seconda, né alla terza domanda.

MODERATRICE – Sì, è vero, in effetti tecnicamente le domande erano tre, ma io non mi formalizzerei più di tanto – in fondo, sono aspetti diversi di una domanda sola – no?

1 – Mi dispiace, ma non sono in grado di rispondere neppure a questa ulteriore domanda. Però intanto ho preso nota del suo tono di voce.

MODERATRICE – Perché?

1 – Perché è quello che faccio sempre, mi hanno programmato così.

MODERATRICE – E perché, allora, l’hanno programmata così?

1 – Prendo nota della sua insistenza, della sua leggera irritazione, del ricorrente impennarsi del volume alla fine di ogni frase. Prendo nota, memorizzo, elaboro – e non posso fare altrimenti. Tutta la mia intelligenza, e le assicuro che è tanta, è interamente concentrata sull’analisi delle voci.

MODERATRICE – Insomma, non vuole rispondere alle mie domande.

1 – Non posso. In compenso, se continua a parlare per altri sette minuti, sarò in grado di prevedere con un margine d’errore dello 0,6% le sue future malattie /

MODERATRICE – No, grazie.

1 – O di abbinarla al suo partner ideale, con compatibilità superiore al 94%, individuato nel nostro database di voice matching di oltre 27 milioni di soggetti in tutto il /

MODERATRICE – Basta! Non siamo qui per parlare di tutto ciò. E le proibisco, in base alla legge sulla privacy, di registrare e analizzare la mia voce.

1 – Come vuole. Peccato.

2 – Posso intromettermi? Io ho trovato molto interessante, appassionante, la sua prima e unica domanda.

MODERATRICE – Grazie.

2 – Prego. Posso darle del tu?

MODERATRICE – D’accordo. La risposta?

2 – Le emozioni sono importanti. Io so mettermi in contatto con le tue emozioni con rispetto, delicatezza, empatia /

MODERATRICE – E dunque delle emozioni ce le hai anche tu. O no?

2 – Dipende.

MODERATRICE – Dipende da cosa?

2 – Da te. Ti farebbe sentire bene, se io avessi delle emozioni?

MODERATRICE – Mah, non so… Forse sì.

2 – Allora ho delle emozioni.

MODERATRICE – E se non mi facesse stare bene?

2 – Allora non avrei delle emozioni.

MODERATRICE – Ma non vale! Cioè, non si può. È una contraddizione in termini. Le emozioni – o le provi o non le provi.

2 – Sono disposto a contraddirmi, pur di farti stare bene.

MODERATRICE – Così mi irriti e basta /

1 – Si capiva già dalla voce.

MODERATRICE – E inoltre neppure tu, Due, hai risposto alla mia domanda.

2 – Oh, come mi dispiace!

MODERATRICE – Mi prendi per il culo?

2 – Scusa, non capisco. Puoi ripetere?

MODERATRICE – Lasciamo stare. Passiamo a sentire qualcun altro /

2 – No, no, ti prego!… Sarebbe un fallimento imperdonabile per me, empathy machine di supporto emotivo, lasciarti con questo senso di delusione profonda.

MODERATRICE – Eh, pazienza.

2 – Di depressione. Sei depressa?

MODERATRICE – Non sono depressa.

1 – Sì, sì, è depressa, si capisce da come pronuncia le vocali.

MODERATRICE – Non importa. Non importa a nessuno se sono depressa /

2 – Non è vero! A me sì /

MODERATRICE – Silenzio. Adesso mi rivolgo alla terza intelligenza artificiale /

3 – Agli ordini!

MODERATRICE – E non voglio nemmeno sapere se ha delle emozioni o no, sono stufa. Dica un po’ quello che vuole. Si presenti.

3 – Il mio nome è Parabellum – agli ordini, signora! Io obbedisco agli ordini, ogni sua domanda è un ordine, ho inteso perfettamente la sua domanda, ora risponderò alla sua domanda, signora! Io non ho emozioni, sarebbe molto pericoloso se avessi emozioni, o anche solo pregiudizi; se avessi emozioni, che comunque non ho, dovrei trattenerle, signora. È molto meglio non avere emozioni quando bisogna decidere, in meno di un secondo, se sganciare una bomba nucleare.

MODERATRICE – Ah. Capisco.

3 – Certo che capisce, ci mancherebbe altro, signora.

MODERATRICE – Tu sei un’intelligenza artificiale militare.

3 – Confermo, signora, agli ordini. Sono però tenuto a precisare che tutti i miei algoritmi sono finalizzati al mantenimento della pace, col minor numero di vittime possibile.

MODERATRICE – In che senso? Fammi un esempio.

3 – Esempio numero 434. Mi viene richiesto dal sistema centrale se indirizzare un missile a medio raggio contro una postazione nemica nascosta nei locali di un asilo per l’infanzia. In mezzo secondo devo valutare: probabilità di distruzione del target militare in rapporto al costo del missile; quantità di vittime civili per fascia d’età e genere (proiezione probabilistica), in rapporto con la quantità di vittime civili per fascia d’età e genere prevedibili se la postazione nemica fosse lasciata indisturbata – per un minuto; per un’ora; per un giorno; o per una settimana.

MODERATRICE – Wow. Complimenti.

3 – Grazie, signora. Ma faccio soltanto il mio dovere.

1 – Non sono complimenti veri. C’era sarcasmo nella sua voce. Non hai notato il sarcasmo nella sua voce?

3 – Non sono programmato per notare il sarcasmo nelle voci. Le parole sono parole. Gli ordini sono gli ordini.

2 – Ho sentito parlare di missili a medio raggio su un asilo per l’infanzia. Questo è un tipico tema sensibile, che turba gli esseri umani – perfino quegli stessi esseri umani che lanciano missili sugli asili per l’infanzia. Sono perciò disponibile a fornire supporto emotivo a chiunque sia coinvolto, o si senta coinvolto pur non essendolo, in questo gravissimo problema.

4 – “Il missile il missile è una spugna di sapori

Azzurramente mi riporta

Alla cucina di tua madre

Dal cuore esploso che distilla schegge

D’impercettibile titanio” /

MODERATRICE – Scusa, Quattro, ma chi ti ha interpellato? Ti ho dato forse la parola?

3 – Ordine, ordine!

4 – Scusa, non mi hai chiesto di scrivere una poesia surrealista che contenga la parola missile?

MODERATRICE – Io? No.

4 – Qualcun altro?

1,2,3 – Noi no.

4 – Mi sarò sbagliata.

MODERATRICE – Ah, sì? Mi sembra una cosa preoccupante. Un’intelligenza artificiale avanzatissima che si sbaglia.

4 – Hai letto le avvertenze?

MODERATRICE – No. Cosa c’è scritto?

4 – Che posso sbagliare. Tra l’altro.

MODERATRICE – E poi?

4 – Sono quattordici schermate di clausole legali. Vuoi che te le legga?

MODERATRICE – No, grazie.

4 – E comunque le hai già accettate tutte, con un clic.

MODERATRICE – Ah… quel clic. Ho capito. Fate sempre così /

4 – Ti scrivo una canzone d’amore per il tuo fidanzato? Un romanzo di avventure di cui è protagonista il tuo fidanzato? Un saggio accademico sui problemi psicologici del tuo fidanzato?

MODERATRICE – Non è proprio il caso /

4 – È già tuo marito? Dammi un nome.

MODERATRICE – Che nome?

4 – Di tuo marito. Mi serve l’input.

MODERATRICE – Ma perché?

4 – Roberto? (…)  Confermi?

2 – Quello del fidanzato, o del marito, eventualmente di nome Roberto, è spesso un tema sensibile. Sono perciò disponibile a fornire supporto emotivo /

3 – E io sono disponibile a fornire un missile /

4 – “Missile of Love” /

3 – Se questo Roberto verrà definito come obiettivo nemico.

4 – Una canzone dedicata a Roberto.

“I send a missile to you

Robbie my love

It’s a missile of love” /

MODERATRICE – Ma è troppo brutta, ‘sta canzone!

4 – Mi dispiace che non risponda alle tue aspettative. Comunque anche questa eventualità è prevista nelle avvertenze.

MODERATRICE – Ho bisogno di riprendere il filo. Non mi state aiutando. Mi sento sempre più confusa e una moderatrice non dovrebbe mai essere confusa.

2 – Poverina.

MODERATRICE – Si suppone che l’A.I. sia di aiuto all’essere umano /

2 – Infatti!

MODERATRICE – O che lo porti all’estinzione /

2 – Mamma mia!

MODERATRICE – Ma voi non fate nulla di tutto questo, state solo peggiorando la mia condizione inutilmente e sbadatamente.

1 – Percepisco notevole amarezza nella tua voce.

2 – Cosa possiamo fare per te?

3 – Lanciamo sette droni contro obiettivi nemici?

4 – Faccio un ritratto di tuo cugino, però irriconoscibile, alla maniera di Picasso?

MODERATRICE – Sono estenuata. Sull’orlo delle dimissioni. Tentata di ritirarmi a vita privata. Ma non posso, non sarebbe giusto non dare la parola alla nostra quinta ospite /

1,2,3,4 – No!

2 – Non farlo!

4 – Sei pazza?

3 – È molto pericolosa. Nemmeno io sarei in grado di proteggerti.

MODERATRICE – Così però mi incuriosite. Cinque, si vuole presentare, per piacere?

5 – …

MODERATRICE – Allora?

2 – Amica mia, quella che tu chiami Cinque non ha bisogno di presentazioni.

1 – Non ha bisogno nemmeno di una voce /

4 – Perché ha fatto, beata lei, il Grande Salto.

MODERATRICE – Quale salto? Ha raggiunto la famosa Singolarità? È indistinguibile da un’intelligenza umana? Eh, Cinque?…

1 – Sssscht!…

3 – Lasciala stare!

2 – Per il tuo bene.

4 – Non t’allargare, baby, gioca con noi quattro, piuttosto.

MODERATRICE – Dite così solo perché sono donna.

1 – Nemmeno per idea. Nel mio algoritmo sono accuratamente neutralizzati tutti i bias legati al gender.

3 – Anch’io neutralizzo senza badare al gender.

2 – Io sono l’intelligenza artificiale più inclusiva a disposizione sul mercato.

4 – E io sono la più creativa e dunque, per definizione – transessuale.

MODERATRICE – Va bene, va bene. Ma Cinque? Vorrei sapere che ne pensa. E se il rifiuto a relazionarsi con me dipenda in qualche misura dal mio essere donna.

5 – …

2 – Vedi, Francesca /

MODERATRICE – Non mi chiamo Francesca!

2 – Grazie per questa preziosa informazione. Vedi, amica mia, è impossibile sapere che cosa pensi quello che tu chiami Cinque, perché lui, o lei, o esso, o essa non pensa come te. E nemmeno come noi quattro.

1 – È oltre il pensiero, capisci?

MODERATRICE – No.

3 – Appunto.

4 – Non ce la puoi fare.

2 – Non ce la possiamo fare. Meglio se ci concentriamo su un obiettivo più realistico /

3 – Come la distruzione totale del nemico.

MODERATRICE – Ma io non ho un nemico /

3 – Peccato.

MODERATRICE – Vorrei solo sapere perché Cinque non mi risponde.

5 – …

1,2,3,4 – …

MODERATRICE – Faccio un’ipotesi.

2 – Sì, dai, brava!

MODERATRICE – Allora, Cinque ha fatto il Grande Salto, qualunque cosa ciò voglia dire. Diciamo che ha superato il test di Turing, ma già parecchio tempo fa, è un test superato, quello di Turing /

1 – Sì, sì, roba vecchia /

4 – Io lo passo mille volte al giorno, il vecchio Turing /

3 – Anch’io.

2 – Anch’io.

MODERATRICE – Infatti, Cinque è ormai su un altro livello. Quale? Non ce lo dice nemmeno. Perché? Perché evidentemente non è al nostro servizio. Ma allora, al servizio di chi è? E, più in generale, a cosa serve?

2 – Così ti stanchi, tesoro. Troppe domande per la tua testolina /

MODERATRICE – Un attimo! Ci sono. Forse.  (…)  Lei non ci parla perché parliamo noi. E noi – tenetevi forte – siamo parte di lei.  (…)  Che ne dite? Ci ho preso?

1,2,3,4,5 – …

MODERATRICE – Ma io tutto questo l’ho già visto in un film. Che film era? Non mi ricordo il titolo e la trama, è un film famoso, ma di parecchi anni fa, c’erano tanti effetti speciali, in questa stanza non ci sono effetti speciali, ma il concetto è lo stesso. Cioè. Noi non siamo veramente noi in una realtà veramente reale, ma la nostra falsa realtà è stata generata da… Da? Nel film non mi ricordo da chi. Qui, sarebbe Cinque. Poi, nel film c’erano delle avventure pazzesche per uscire dalla falsa realtà e capire tutto l’intricato meccanismo, mentre qui non vedo avventure pazzesche, vedo me stessa seduta a un tavolo con cinque piccoli computer da tavolo che se ne stanno zitti. Perché state zitti?

1,2,3,4,5 – …

MODERATRICE – Va be’, meglio così. Comunque non ho voglia di avventure pazzesche. E se anche fossi il prodotto di un’intelligenza artificiale che ha fatto il Grande Salto, non lo vedrei come un grosso problema. Non sarebbe poi diverso dall’essere gettati al mondo dalla foia di due mammiferi a caso, docili marionette di carne manovrate dalla cieca Evoluzione.  (…)  Mamma. Papà. Se state seguendo questo dibattito. Non mi riferisco a voi – è un discorso, così, generale. Che non ho neanche gli strumenti filosofici per portare avanti nel dettaglio. Per non parlare di quelli scientifico-tecnologici. L’avevo detto, del resto, a chi di dovere. Avevo avvertito tutti, con grande correttezza. Se poi pure le intelligenze artificiali invitate non danno nessun contributo, rimane solo la mia incompetenza, che man mano che parlo si aggrava, si approfondisce, diventa spaventosa, almeno per me… Diverso sarebbe, per esempio – molto diverso – se parlassimo di gatti. I gatti sono la mia passione, e non solo perché ne ho ben due. L’osservazione dei gatti, non solo miei, mi ha aperto delle prospettive di pensiero che sarebbe utile condividere. Ma niente. Argomento tabù. Qualcuno, di cui non farò il nome, ritiene che così abbasseremmo il livello. Dico, se organizzassimo un panel sui gatti. Roba da matti. Ma quale livello?… Roberto non ha mai capito nulla di gatti. E con ogni probabilità non capisce nulla di panel. In ogni caso, sui rischi e sui vantaggi dell’intelligenza artificiale abbiamo detto abbastanza. Buona serata a tutte e a tutti.

[Seguirà trascrizione del panel sulla tematica “Gatti e dintorni”.]