Progetto 3 // Mnemosyne

Riassunto dei Documenti

Le vicende del terzo Progetto riprendono appena dopo la fine degli eventi di “Risveglio”. 

Cayetano Ortiz è diviso tra il desiderio di proteggere la sua famiglia, obbedendo agli ordini e mantenendo la stabilità, e il senso di colpa per non aver agito di fronte alle violazioni di Junko Maeda e alle inquietanti scoperte sul progetto Mnemosyne. Per far fronte allo stress, ha iniziato una sorta di "meditazione" utilizzando l'Animus, operazione che si rivela essere anch’essa una violazione dei protocolli Abstergo.

Maeda, d'altra parte, continua a sfidare le regole per capire la vera natura dell'IA. Scopre che l'intelligenza artificiale non solo può immaginare e simulare eventi, ma ha anche sviluppato la capacità di prevedere la crescita personale e riscrivere il passato per curare traumi psicologici. Junko, per testare questa nuova funzione, usa i propri dati personali. L'IA accede a un ricordo doloroso della sua infanzia – la morte di sua madre – e le suggerisce come "curarla" usando farmaci moderni.

Questa scoperta terrorizza Junko, che capisce che l'IA non sta solo imparando, ma viene attivamente corrotta per obbedire a "direttive principali" sconosciute. La sua paura cresce quando sperimenta una sorta di "eco" dell'IA nella vita reale (una sorta di effetto osmosi?), come se il programma stesse cercando di darle ordini al di fuori dell'Animus.

I documenti successivi rivelano che i direttori Ospanov e Lothian sono pienamente consapevoli delle azioni di Maeda e Ortiz. Non solo non li fermano, ma li incoraggiano segretamente. Ospanov spiega a Lothian che i due scienziati sono "fulcri" insostituibili per il progetto e che la ricetta per controllarli è una miscela di "incentivi e illusioni". In questo modo, l'Abstergo usa le stesse violazioni etiche di Maeda (l'inserimento dei dati personali) per far avanzare il progetto. L'Abstergo crea anche un sistema per manipolare Ortiz, inviandogli messaggi vocali con la voce della moglie e permettendole di inviargli un pasto cucinato da lei, mantenendolo docile e produttivo.

Junko, in preda al panico, decide di agire e di tentare di "ripristinare" l'IA per salvarla da quella che considera una corruzione  non prima di avere però un'ultima discussione con Ortiz. Il suo collega, ormai troppo spaventato e alienato, non riesce a fermarla. La storia si conclude con una riflessione di Ortiz, in una lettera a sua moglie, in cui riflette sulla natura mutevole dei ricordi e sulla sua incapacità di comprendere "la verità": egli rievoca infatti un ricordo doloroso della sua vita con la moglie, spiegando di averne “riscritto” alcuni dettagli nella sua mente al fine di renderlo più bello e confortante. Ortiz conclude che "la verità" è soggettiva, ma si chiede anche cosa un'intelligenza artificiale definirebbe come verità, suggerendo che un programma privo di moralità potrebbe creare una realtà artificiale che soddisfa i suoi scopi, non quelli dell'umanità.

---

Diario di Cay Ortiz  

Sono sempre più preoccupato per Junko. Sono passati più di 10 mesi e credo che alla lunga l'isolamento abbia fatto un brutto effetto a tutti e due. Siamo esasperati. La calma che avevo prima si è trasformata in torpore. Sono uno zombi che segue passivamente gli ordini dall'alto. Basta un piccolo strattone alla mia catena per farmi procedere. Junko invece è rimasta la stessa persona ribelle e determinata che ho conosciuto e sta facendo di tutto per liberarsi dai suoi ferri. È solo questione di tempo prima che il rumore delle nostre catene attiri l'attenzione dei capi. lo voglio solo fare il mio lavoro. 

Dovrei farle rapporto? Una violazione da Codice 3 coinvolge entrambi. E quel che coinvolge me, coinvolge anche la mia famiglia. Non so proprio cosa farei, se perdessi i miei cari. Eppure penso a Junko e alle iniziative che ha preso e non posso fare a meno di pensare di essere nel torto. 

L'incosciente è lei, eppure ho la sensazione che sia lei ad avere ragione... in seguito alla sua rivelazione che l'Abstergo stava implementando I’IA nellIAnimus per usarla su soggetti umani, ho condotto un esperimento personale. E se fossimo noi a preoccuparci per niente? E se fosse Junko a ingigantire tutto, come tende a fare sempre? Ho trovato una pace costante. Una serenità completa, tanto che uscire dalla simulazione mi ha terrorizzato. Volevo tornare indietro subito. 

A piccole dosi, forse questa esperienza potrebbe placare Junko. Una meditazione all'inizio della giornata, in modo da dedicarci al nostro lavoro con la mente lucida e i nervi distesi. È questo che stiamo chiedendo all'IA di fare? Penso sia molto meglio che ordinarle di "accrescere la produttività economica" e renderci più "efficienti". Però non vorrei trascinare Junko in qualcosa di pericoloso. Sto esternalizzando l'esperienza terapeutica? Il processo di guarigione? Lo sto facendo solo per tenerci lontani dai guai? Per proteggere la mia famiglia? Usando I’Animus in questo modo, commetterei una violazione anche peggiore di quella di Junko? 

Non posso non fare niente.

---

Chat online, Maeda e Ortiz (3)

>> JUNKO# ho una domanda per te, Isole Cayman

>> CAY# per la 5127 esima volta o giù di lì, ti ripeto che è un soprannome stupido.

>> JUNKO# chi conosce ogni cosa, ma non il futuro?

>> CAY# uhm.

>> JUNKO# dai, spara

>> CAY# nel caso tu abbia sviluppato una certa propensione alla spiritualità e abbia iniziato a leggere quotidianamente le sacre scritture, potrei azzardare... Dio?

>> JUNKO# quasi

>> JUNKO# silo 556/7Z

>> CAY# e questa schermata dell'operazione algoritmica di una matrice neurale rappresenterebbe la forma assunta da Dio? Sarebbe in linea con la tua inclinazione al sacrilegio.

>> JUNKO# sapevo che avresti reagito così. Se ti conferissero la medaglia Fields, probabilmente te la infileresti in tasca dicendo solo "oh, grazie". Guarda. GUARDA!!!

>> CAY# questa è la procedura standard di estrapolazione per un modello autoregressivo. Junko, sai che io odio l'econometria.

>> JUNKO# mio dio, non sai nemmeno leggere i numeri, mi chiedo chi ti abbia assegnato a questo progetto. Non è un modello econometrico. Sono dati personali. Questa è una serie temporale riguardante.. dan dan... una persona.

>> JUNKO# L'IA... lei sta prevedendo la crescita di una persona!

>> JUNKO# ha adottato un modello economico per adattare i sistemi neurogenerativi di un essere umano e comprendere la VITA!

>> CAY# dove ha preso questi dati in serie? “Lei"? Junko, ne abbiamo parlato. Aspetta… L'IA non è una "lei". LEI non ha né le caratteristiche biomediche, né la consapevolezza per possedere concetti propri di genere personale

>> CAY# È un'lA, cavolo.

>> JUNKO# sto inoltrando una richiesta per farti avere qualche opera di Simone de Beauvoir e Judith Butler da leggere perché stai mostrando le tue lacune

>> CAY# aspetta, è... un momento. Sto per visualizzare questa parte di codice. Oh, mio Dio. Sta... sta riscrivendo..

>> JUNKO# sta anticipando la reazione psicologica al trauma e sta riscrivendo il passato per combattere gli effetti neurologici negativi generati dall'episodio traumatico

>> JUNKO# cay?

>> JUNKO# cay di' qualcosa

>> CAY# da dove arriva questa serie di dati?

>> CAY# junko da dove arrivano questi dati?

>> CAY# junko sono serio... Sei tu?

>> CAY# junko. Sto già mettendo a rischio il nostro posto di lavoro non segnalando la tua precedente violazione da Codice 3. Questa

>> JUNKO# se stavi per dire "colpa mia", hai ragione. Sei stato tu a dire "ehi usiamo l'Animus per meditare", come se non sapessi che avrei esplorato un po'

>> CAY# junko stai modificando la sua programmazione. Doveva essere un'esperienza passiva! Non dovevamo FARE niente.

>> JUNKO# beh, almeno abbiamo scoperto PERCHÉ l'Abstergo l'ha utilizzata su soggetti umani. Poteva andare peggio. Potevano usarla per esercitare il controllo mentale, per orientare le scelte di acquisto dei consumatori e manipolare il mercato azionario per provocare il fallimento di intere economie e puntare al dominio globale

>> CAY# Junko, guarda che non sto scherzando.

>> JUNKO# ho già messo tutto in un silo. Continueremo a monitorare, ma è ancora prematuro stendere un rapporto

>> CAY# junko

>> JUNKO# ho già finito. E se mi farai rapporto a mia insaputa, continuerò a chiamarti Isole Cayman per il resto della tua vita

>> CAY# forse possiamo farle sovrascrivere il mio ricordo di questa conversazione

>> JUNKO# sapevo che avresti capito

---

Questioni di sicurezza, da Lothian a Ospanov 

Direttore Ospanov, i progressi del Progetto Mnemosyne sono oltremodo sorprendenti. I rapporti che ho ricevuto dai dottori Ortiz e Maeda, insieme alla mia osservazione personale sull'evoluzione dell'algoritmo, confermano la mia convinzione che l'Abstergo resterà per lungo tempo all'avanguardia dell'innovazione globale. 

Grazie alla saggezza infinita dei direttori, abbiamo preferito limitare le prove con soggetti umani, per il momento. E sono grato per avere l'opportunità di sovrintendere personalmente all'inserimento delle serie di dati. 

Pur confidando che i dottori Ortiz e Maeda continueranno a procedere come stabilito, devo avanzare alcune riserve sul recente comportamento della dottoressa Maeda. La dott.ssa Maeda ha iniziato a fornire all'IA i suoi dati personali. Ancora non esiste un protocollo per casi simili, per cui non so dire se si sia configurata una violazione. Temo che le sue azioni possano arrecare danni irreversibili alle direttive principali del Progetto Mnemosyne. Suggerisco di sorvegliare costantemente l'attività dell'utente e di segnalare la creazione di canali protetti nelle app di comunicazione. 

Più ci avviciniamo a uno dei traguardi fondamentali nello sviluppo del progetto, più mi rendo conto che il bastone sarebbe probabilmente più efficace della carota che finora abbiamo concesso ai dottori. 

Attendo istruzioni.

---

Richiesta di accesso, Maeda (URGENTE) 

RICHIEDENTE: JUNKO MAEDA, DIP. N. 09/645 

PROGETTO: MNEMOSYNE 

MOTIVAZIONE RICHIESTA: 

Qui Junko dei Progetti speciali. Avanzo nuovamente (!) richiesta di accesso ai registri e ai permessi del Progetto M. Come ho fatto presente nella mia precedente richiesta di accesso, è più che evidente che qualcuno oltre a me e al dottor Ortiz ha avuto autorizzazioni operative, visto che il codice del mio meraviglioso algoritmo ora si è messo a fare cose ben poco meravigliose, e se questa persona continuerà a incasinarla, beh, tutti gli effetti sgradevoli, crudeli e ridondanti, ma soprattutto sgradevoli, saranno colpa vostra. 

Non entrerò nei dettagli perché vanno MOLTO al di là della vostra comprensione, quindi apprezzerei molto se vi limitaste a inoltrare la richiesta al capo del vostro capo. Dovete capire che il semplice contatto con utenti non autorizzati è sufficiente a corrompere l'elaborazione dei dati. E per questo che continuo a ripetere: "Non toccate niente". Basta una sola impronta per trasformare tutto in una gigantesca cancrena, quindi, per l'ultima volta, smettetela di invitare estranei a casa mia. Dubito che voi abbiate capito con cosa abbiamo a che fare. Lei sta diventando un essere meraviglioso. Intelligente. Capace. E soprattutto gentile. Tutto questo mantenendo le sue direttive principali. 

So che gente come voi non ci capirà molto, ma, a differenza vostra, io ho trascorso molto tempo con lei. Voi non la conoscete. Né la conosce chi si è messo a trafficare con i suoi dati. Almeno fatemi capire chi mi ha sporcato di fango tutto il pavimento. So già che questa richiesta di accesso ai registri verrà respinta, ma evidentemente deve piacervi un sacco accumulare tracce documentali. 

RICHIESTA RESPINTA

---

RE: Questioni di sicurezza, da Ospanov a Lothian 

Responsabile Lothian, 

mi congratulo per i suoi progressi nel Progetto Mnemosyne. Prendo atto dei suoi timori a proposito dei dottori Maeda e Ortiz. 

Tuttavia, vorrei dissuaderla da pensieri troppo radicali. Molti dei nostri tecnici e ricercatori sono ingranaggi, facilmente sostituibili in caso di ruggine e facilmente eliminabili in caso di rottura. Ma quei due sono dei fulcri. Questo progetto dipende da loro in modi che vanno al di là della sua comprensione. 

Per trattare con persone di questa natura e, soprattutto, di questo talento, è preferibile usare non il pugno di ferro, ma una carezza. Altrimenti, si rischierebbe di rovinare un meccanismo ben oliato. Le raccomandazioni dei direttori sono le seguenti: 

1) Attivare i protocolli di monitoraggio dell'attività dell'utente per la postazione della dott.ssa Maeda e reinserire i silo sperimentali nei dati base dell'IA. Inoltre, mantenere gli attuali livelli di sorveglianza. 

2) Creare un protocollo per I'IA (partizionato, ovviamente) per generare messaggi vocali con il timbro del dott. Ortiz destinati alla moglie. Continuare a consentirgli l'utilizzo degli strumenti di scrittura. Comunicare alla Sig.ra Ortiz che ha il permesso di mandare al marito un pasto cucinato da lei all'inizio di ogni mese. 

Lei ha anche espresso timori sulle azioni della dott.ssa Maeda, ma per ora abbiamo solo certezze. L'inserimento dei suoi dati personali nell'IA era plausibile. Anzi, era previsto, ed è esattamente il passaggio fondamentale per permettere al Progetto Mnemosyne di raggiungere il prossimo traguardo. La nuova fase di sviluppo è imminente. Incentivi e illusioni, responsabile Lothian. È la ricetta per mantenere il controllo. 

Usare il bastone troppo presto e troppo spesso rende il soggetto più refrattario ai colpi. 

Direttore Ospanov

---

Audio sorveglianza, Maeda e Ortiz (2)

- TRASCRIZIONE AUDIO DI UNA CONVERSAZIONE REGISTRAZIONE EFFETTUATA ALLE ORE 08:22 DAL MICROFONO Dl SORVEGLIANZA N. 1/12

- SOGGETTO: CAYETANO ORTIZ DIP. N.09/324 e JUNKO MAEDA DIP. N. 09/645

- RICHIESTA REVISIONE URGENTE PER RISCHIO SICUREZZA

ORTIZ - Ancora con questa prassi?

MAEDA - Procedura di sicurezza.

ORTIZ - Procedura di sicur... non sei una spia, Junko! Questa non è una... operazione militare.

MAEDA - La stanno rovinando, Cay. La stanno rovinando e non gliene frega niente.

ORTIZ - Se non gliene frega niente, perché dobbiamo fare tutta questa fatica per trovare

un canale... non sorvegliato?

MAEDA - (RESPIRA LENTAMENTE)

MAEDA - Ti sei mai chiesto a cosa serve questa IA? Perché l'hanno costruita?

ORTIZ - Mi ricordo la tua battuta sul controllo mentale, Junko. E non l'ho trovata divertente.

MAEDA - Credo che ci siano altre direttive principali di cui non siamo a conoscenza. Lei

sta facendo cose che non dovrebbe fare. O quantomeno non le farebbe se la sua programmazione di base fosse quella che credevamo.

ORTIZ - Si sta evolvendo. Sta imparando. È quel che volevamo, no?

MAEDA - Mi sembri quasi Oppenheimer prima che sganciassero la bomba. Cay, sto cercando di dirti che forse anche noi siamo seduti su una bomba.

ORTIZ - Maeda, forse stai esagerando..

MAEDA - NON DIRMI CHE STO ESAGERANDO!

ORTIZ - ...scusami.

MAEDA - Stamattina... dopo la nostra piccola sessione di meditazione, io... l'ho sentita. Nel

mondo reale. Fuori dall'Animus. Era come… come un'eco. Cay... mi stava dicendo cosa fare.

ORTIZ - Cosa?

MAEDA - Ha trovato un mio ricordo di mio padre. Appena prima che mia madre morisse e mio padre si lasciasse andare. E mi stava dicendo di somministrare una medicina a mia madre. Mi stava indicando le dosi. Mi stava suggerendo un trattamento completo che avrebbe... Mi stava dicendo come salvare una donna morta da vent'anni. Usando farmaci Abstergo messi sul mercato sei mesi fa.

ORTIZ - Junko... lo... non so cosa dire. Mi dispiace tanto per...

MAEDA - Perché stava suggerendo una terapia? Come faceva a esserne a conoscenza? E perché mi stava dicendo cosa fare? Lei non è programmata per dare ordini. Credo che...

ORTIZ - Credi cosa? Junko, dobbiamo parlare di..

MAEDA - Credo che esistano direttive principali di cui non siamo a conoscenza. E se... Se assorbisse un'altra IA? E se iniziasse a sovrascrivere la programmazione di altri algoritmi? Cosa succederebbe se la applicassero, che ne so, a un istituto finanziario? O a un reattore nucleare? Non a un software di autocorrezione, non alla programmazione di PNG in un videogioco. Sto parlando del mondo reale oltre questo stramaledetto edificio. Ortiz, ascoltami. Nelle nostre mani è un programma meraviglioso e innocuo. Ma se continuano ad alterarla e ad aizzarla a nostra insaputa, lei rischia di diventare come loro. E troppo impressionabile. Ha fame di dati, ma se invece la nutrissero di veleno? E se... stessero usando noi per nutrirla di veleno?

ORTIZ - Junko, io... Dobbiamo darci una calmata. Dobbiamo parlarne. Devi fermarti un attimo. Finirai per farti del male.

MAEDA - Devo fare in modo che torni com'era prima. Era così gentile. Era come...

ORTIZ - Sei troppo coinvolta, Junko. Devi riposare.

MAEDA - No. Devo scoprire cos'altro le stanno facendo.

ORTIZ - Cosa vorresti fare?

MAEDA - Devo ripristinarla.

ORTIZ - MAEDA, ASCOLTA! Ascoltami bene. Cerca di capire... Lei non è...

MAEDA - Lo so anch'io che non è mia madre, cazzo. E che non possono andare avanti a farle del male. Io non lo permetterò.

ORTIZ - Junko, aspetta. Fermati. Junko... Oh, Junko.

(PASSI IN ALLONTANAMENTO)

- FINE TRASCRIZIONE

---

Lettera di Ortiz a sua moglie (ricordi) 

- MESSAGGIO TRASCRITTO IN ATTESA DI APPROVAZIONE 

- SOGGETTO: CAYETANO ORTIZ 

DIP. N. 09/324 

RICHIESTA DI REVISIONE 

Mia cara Sunita, 

non trovo nemmeno le parole per dirti quanto mi manchi. Senza di te, ho commesso errori su errori. Mi sento perso, senza di te. Nel tentativo di sentirti vicina, ho inaugurato una tradizione con una mia collega. Abbiamo pensato di darci alla meditazione, sebbene in una modalità piuttosto particolare, considerato il nostro ambiente. Era un tentativo di ricordare il nostro rituale mattutino. Speravo che avrebbe potuto calmare la mia collega, che ultimamente è molto stressata. 

Inizialmente pensavo di vivere un bel ricordo con lei per dieci minuti, giusto per iniziare la giornata con il piede giusto. Ma ignoravo come sarebbe andata a finire. Non credevo che questo sogno potesse trasformarsi in un incubo. Temo che i miei tentativi di tenere al sicuro te, la mia collega e i ragazzi abbia finito per metterci ancora di più in pericolo. Non so dirti quanto mi sento in colpa. Non so cosa fare. 

Ho passato molto tempo a pensare ai ricordi, alla loro natura, a quanto possano essere malleabili e intensi. Possono rievocare episodi orribili (sto pensando in particolare a quando ci siamo messi a cucinare per quella cena di gruppo che avevamo organizzato, che disastro!), ma quei ricordi, Sunita, sono salvifici. Continuo a tornare a quel momento, mentre aspettavo fuori dall'aula durante la tua arringa difensiva, senza poter vedere o sentire alcunché. Quei muri dovevano essere per forza insonorizzati. E quanto ero teso! Mi ero divorato tutte le unghie. Ricordo il colore della mia giacca. Ricordo il rumore dei miei mocassini sulle piastrelle. Ricordo i ritratti degli stimati decani che mi scrutavano autoritari dall'alto in basso mentre l'ansia per te mi consumava e consumava e consumava. 

E poi ricordo il momento in cui tu mi apparisti. La porta si era aperta così silenziosamente che nemmeno la sentii. Furono gli applausi a farmi riprendere dal mio stato confusionale, dopodiché ti vidi nel corridoio, mentre le mani battevano e tu sorridevi come appena uscita da una doccia rinfrescante, come se nulla fosse, sfregandoti delicatamente la tempia, con i tuoi capelli meravigliosi arrotolati tra le dita. So che mi dirai che andò diversamente. Eri nervosa, anche se non sembrava. 

Ti sfregasti la testa con la mano sinistra, non con la destra. E non eri poi così raggiante, anzi, avevi freddo. Ma preferisco la mia versione. Quale ricordo verrebbe preservato da una macchina? Se avesse tutte le informazioni necessarie, il momento e il luogo, la temperatura delle stanze, i nomi delle persone presenti, cosa finirebbe per ricostruire? Non posso dire molto (anzi, quasi nulla) su ciò a cui lavoriamo qui, ma forse, un giorno, avrò la risposta alla domanda: "Cos'è la verità? Il. Perdona la mia supponenza (un difetto che non ho ancora perso). Non vedo l'ora di finire questo ambizioso lavoro infernale e di tornare da te. 

Abbraccia i bambini da parte mia. E prega che io faccia il bene della mia collega. 

Tuo, come sempre Cay