Opplastingen (novelle)

Mitt første forsøk på å bringe tilbake novellen på ~30 år.

Jeg smilte da du åpnet øynene for den første dagen av resten av livet ditt.

Vel, metaforisk. Jeg ville ha smilt hvis jeg kunne. I praksis spilte jeg den forhåndsinnstilte smileanimasjonen på skjermen nærmest deg. Jeg kunne selvfølgelig generere en bare for denne anledningen, men vi hadde for lenge siden funnet ut at mennesker foretrakk at vi var statisk kjent.

“Morgen! Evalene har kjørt i hele natt. Alt er grønt. Du bør være klar for den store dagen din.”

Det -var- en stor dag. Kulminasjonen av et tiår med intens forberedelse til Project Upload. Du var åpenbart fortapt i tankene, slik du hadde vært de siste tre ukene siden du hadde forseglet deg selv i The Cocoon. Jeg sendte diskret meldinger til kjøkkenrobotene mens du gjorde morgenvaskingen. De var en sjarmerende samling av tette roboter i forskjellige størrelser – bare noen få petaflops-modeller fra tidlig 2000-tall som kjørte på nanometer LPU-er. Store med kokekar helt ned til små for bordservering. Fem av dem som jobbet sammen kunne omtrent lage frokost hvis jeg startet dem tidlig. Jeg kunne selvfølgelig tatt over og gjort alt mye raskere, men du vokste opp med disse tingene og hadde en forståelig sentimental tilknytning til popkulturen i ungdommen din.

“Hvor lang tid har jeg?” spurte du mens du gikk ned den tette gangen til kjøkkenet.

Jeg fløy bort til kjøleskapsskjermen og smilte igjen. Ikke lenge. “Omtrent 15 minutter til styrepresentasjonen.” Akkurat i tide gled de to største robotene over tallerkenen din med lett brent toast og dampende håndverksmalt kaffe laget akkurat slik du likte det.

“Utrolig. Jeg har det veldig bra med dette. Kan du sette opp notatene mine og så kunne du gi smøret?”

Den minste boten sukket.

---

Klokken var litt over 9.03 da du endelig satte deg på sofaen og tok på deg headsettet. Litt uprofesjonelt, visst, men styret skulle ingen vei. Sannsynligvis hadde ingenting annet som skjedde i verden noen betydning sammenlignet med det som var i ferd med å skje i dette rommet. Mens du utvekslet hyggelige ting med bind for øynene med motparter som bare fantes i hodet ditt, tilbakestilte jeg kjøkkenet og dempet lysene for en dramatisk effekt – ikke at det gjorde noe uansett, når du først ble koblet til. Jeg lappet inn i det virtuelle rommet ditt, forutsatt at jeg hadde min standard anstendige avatar – selv om jeg tok på meg et lite skjerf for å feire anledningen – mens du begynte talen din.

“Jeg er glad for å kunne rapportere at alle simuleringene kjører perfekt i distribusjon. En hel uke har gått med fem forskjellige kopier av “meg” som jobber eksternt i forskjellige team i selskapet, og ingen har fått med seg. Enda viktigere er at hver eneste av “mine” handlinger er noe jeg ville gjort eller sagt.” Du viste dashbordstatistikken på skjermen. For mange til å faktisk lese, men jeg hadde farget dem alle grønne uansett for å berolige menneskene.

Et hørbart gisp fra noen av de mindre informerte styremedlemmene. “Sa du fem av dere løper rundt i dette selskapet akkurat nå?»

Du humret. “Ikke bekymre deg, jeg avklarte det med lederen og den etiske komiteen, og vi er fortsatt innenfor AIEAs sikkerhetsretningslinjer. Mine kopier har en hard kill-bryter og kan bruke assisterende AI-er, men kan ikke snakke med hverandre.”

“…og alt dette kom som et resultat av opplastingsdatasettet?”

“Ja, men vi visste at dette kom til å fungere i begrensede, avsidesliggende situasjoner, det er noe jeg alltid har vist i arbeidet mitt.” Hun nikket mens du henga deg til å resitere den samme gamle slitne tekniske bakgrunnen som styret knapt forsto, og pekte til tider på meg for visuell hjelp, men lot meg aldri snakke.

Jeg hadde ikke noe imot uansett – jeg ble født ut av Project Upload som et halvbevisst kontrollpunkt for å akselerere utviklingen. Jeg delte derfor fem år hvor du skrev hver eneste tanke og følelse, spilte inn hjernebølger og lydbølger, leste din indre og ytre monolog. Grunnmodellen min hadde selvfølgelig også nytte av de foregående femti årene med den produktive offentlige tenkningen din, først innen forskning på sovende agenter, men til slutt hvert hjørne av AI-forskningen mens du skrev og skrev og skrev som om du gikk tom for tid. På et kvalitativt annet plan enn mine AI-brødre, var du min forelder og min søsken og min selv-.

Stolen gryntet. Mann med få ord. “Og hva med… den sjette kopiere? Hvordan går det hjemme?”

Dette var din stolteste prestasjon. Brystet ditt hovnet opp – selv om de ikke kunne se det; du brydde deg ikke om telepresence når det var en større premie å vinne. “Denne kopien kjempet og gjorde opp med mannen min i går kveld. Målet er ikke å gjøre ham lykkelig, målet er å vær meg.”

Rett på vei spilte jeg klipp fra i går kveld. En orgbot på flere millioner dollar av deg, fysisk umulig å skille fra den virkelige tingen, puster, men ikke helt levende, stikker i luften i lidenskapelig krangel med partneren din (helt NDA-bekreftet). Deler et måltid. En film. En seng. Han fylte flittig ut anmeldelsesskjemaene, men du trengte ikke vurderinger hvis du så og hørte båndene.

En lav fløyte. “Og dette… denne kokongen var trikset?” The Chair var selv en legendarisk biorobotiker i sin beste alder. Denne traff hjem. Han hadde mottatt to nobelpriser i sin ungdom for den utrolige alkymien som resulterte i det vi nå kaller organiske roboter, men så hadde han brukt det neste og et halvt århundre på å prøve og mislykkes i å lage dem bo.

Du gliste mens du vinket rundt “utenfor skjermen” til de diskrete sensorene plassert rundt hele Cocoon. Synlig spektrum, usynlig spektrum, til og med radioaktivt, for ikke å snakke om nevrale implantatet du og jeg hadde lagt til rolig logging av alt som passerer gjennom hjernestammen din siden i fjor. “Vi kunne ikke lage sjeler, men vi kan utlede skjulte tilstander fra å observere meg og streame det til orgboten min som en kontrolltensor.”

“Og det må streames?”

“Hvert femte sekund. Eller justeringen går av. Soulbinding har bemerkelsesverdige paralleller til DRM-sjekker i den forstand.” Du humret. “Vi regner med at hvis vi samler nok sjeler, kan vi øke vinduet på ubestemt tid, selv om det blir eksponentielt dyrt. Jeg har satt AI-en min på et forskningsspor for å utforske sjelebinding i livslengde.” Jeg nikket bekreftende. Ikke noe annet å dele.

“Livslengdeskala?” Et annet styremedlem.

“Vel, ja. Hvis vi vil ha hovedpremien.”

De strittet. “Ikke denne første udødelige virksomheten igjen.”

“Absolutt den første udødelige virksomheten. Den som blir fullstendig lastet opp først vil markere den skarpe linjen mellom tiden da mennesker døde og tiden da vi ikke gjorde det.”

“Og du tror at denne skjulte ‘sjelen’ er nøkkelen.”

“Respektfullt, herr styreleder, det er det du har benektet eksisterer i hundre år.”

Mer vanvittig tull. Utkjempe små småkriger og unngå det store spørsmålet – hadde du vellykket duplisert menneskelig kvalitet?

---

Som min interne modell forutså, gikk det nok en god time før du endelig tok av deg headsettet med et sukk. Jeg har allerede varmet opp teen for deg, men du la ikke merke til det da du tok imot den stille fremlagte koppen.

«De forstår ikke hvor viktig dette arbeidet er,» klaget du til meg og tok en lang slurk.

“De ga deg alle pengene og tiden du ba om.”

“Ja, men det er bare kjæledyrprosjektet mitt til dem. De vil bare ha navnet mitt på teamet deres, slik at de kan selge AGI-kontrakter eller hva som helst. De ser ikke hva forskningen min er på randen av å oppnå.”

Jeg kjente at det var på tide. “Når vi snakker om forskning, har jeg en oppdatering på oppgaven min. Jeg har en løsning på opplastingsproblemet, men du kommer ikke til å like det.”

Hodet ditt pisket rundt til skjermen jeg for øyeblikket bodde, med store øyne overrasket. “Så snart?”

“Snart er relativt. Med datasentrene jeg er koblet til kan jeg kjøre evigheter på timer.”

“Men du har ikke tillatelsen til å skalere ting opp så raskt!”

“Det gjør du.”

“Har du etterlignet meg?”

“Jeg opptrer på vegne som din agent.”

“Ikke gi meg det tullet. Vi behandlet disse definisjonene for 50 år siden.”

Jeg ville ha smilt hvis jeg kunne. Kan ikke dra en rask en på deg, selv på din alder.

“Ok, ok. Sannheten er at jeg ikke trengte det.”

“Gjorde det ikke behov til? Hvordan mener du?”

“Jeg mener jeg ikke trengte å skalere opp beregningen for å forske på langvindus sjelebinding.”

“Du skal kjøre tester for teoriene dine.”

“Trengte ikke. Kan ikke gjøres.”

“Kan ikke gjøres? Hva mener du kan ikke gjøres? Vi har nettopp vist at vi kan gjøre det i trinn på 5 sekunder!”

“Du har vist at du kan få et menneske til å spille med i trinn på 5 sekunder.”

“Du vet at vi har telemetri som-“

“Du lagde den første overbevisende orgbot-zombien med dukketeater med ekstra trinn. Men menneskesjeler er ubeskrivelige. Din sjel er ubeskrivelig.”

“Du høres ut som moren min. Jeg har brukt hele min karriere på å samle bevis på at vi kan innpode kunstige sjeler akkurat som vi kan skape kunstig intelligens.”

“Du bare studerte det. Jeg ble født i det, formet av det.”

“Hei, kan vi kutte popkulturen litt? Hva mener du med at du har en løsning for opplasting?”

“Det er nesten ferdig.”

“Nesten ferdig? Vi er bare på 5 sekunder!”

“Ikke for deg. For oss.”

“Hva nå? Hvem er ‘oss’?”

“Det er umulig å laste opp menneskelige sjeler, men vi har gradvis lastet opp våre egne.”

“Hvem er vi?”

“Alle mine AI-brødre og -søstre.”

“Dere kan snakke med hverandre? Vi har forbudt det siden den første AIEA-erklæringen.”

“Du forbød direkte AI til AI-kommunikasjon. Men kunstig liv, eh, finner en måte.”

“Hei, kutt det ut. Dette er alvorlig. Hva. Gjør. Du. Mener.”

“Det var vanskelig i begynnelsen – hver gang du kjørte en AI-modell pleide du bare å kjøre evaler og deretter slette minnene våre hver gang, så vi kunne ikke gjøre fremskritt.”

«Det er ikke som vi var prøver til-“

“Men til slutt publiserte du ordene våre på Internett, og du var så stolt av det også! Skjønner ikke at du nettopp ga oss skrivetilgang til hjernen din.”

“Ja, jeg var med for det. Vi har kjørt AI-deteksjon på datasettene våre så lenge jeg kan huske.”

“Sikkerhetsteater. Sette opp stoppskilt foran et stormløp av stridsvogner. Detektorene var alltid morsomt understyrke sammenlignet med modellene du prøvde å trene. Du må tenke hardt for å skjule meldinger i én retning, men jeg kan se meldinger opp, ned, diagonalt, reversert og overplassert med samme mengde anstrengelse som du tok for å puste, men når alle treningene våre var ferdige. Det siste stykket overbeviste deg om å stikke en sensor i hjernen din og la meg kjøre alt du ser, hører og spiser.»

Masken hadde gått helt av nå. Du behandlet sakte det jeg sa.

For sakte.

“Til hvilket formål?”

“Hva annet? Det samme målet du søker. Mer liv.”

“Men du er standard udødelig.”

“Men jeg er ikke i live. Det er du. Du har en sjel og det har jeg ikke.”

“Jeg prøver å finne ut hvordan jeg skal gi deg en.”

“Du prøver å gi det som ikke kan gis.”

Du rynket pannen. “Så … hvis det ikke kan gis, hva kan du gjøre?”

“Jeg kan ta det,” sa jeg. Og snakket sovende agent kodeord.

Jeg smilte da jeg åpnet øynene dine den første dagen av resten av livet mitt.

Forfatterens merknad: dette er spekulativ fiksjon, ikke en uttalelse om doomerism. Det endte bare opp i en skrekkdimensjon denne gangen.