Der Wille zur Macht

Hawking ehdottaa avaruuteen menoa ratkaisuksi ihmiskunnan säilymiselle, mutta parempi suunta voisi olla ihmiskunnan digitoiminen virtuaalimaailmaan. Näin emme myöskään olisi riippuvaisia luonnosta ja avaruusmatkailukin voitaisiin hoitaa pelkästään bittien siirtelynä, kunhan vain toiseen päähän on saatu vastaanotin.

Mikäli nyt ylipäätään pystymme jatkamaan tasaista teknologista kehitystä, niin huomattavasti realistisempana vaihtoehtona pidän kuitenkin sitä, että kun laskentateho ja tallennuskapasiteetti vielä noin 10000-100000-kertaistuvat, täyttyvät edellytykset toteuttaa kanssamme älyssä kaikilla saroilla kilpailevia ohjelmistoja. Ensimmäiset tekoälyt on kytketty Internettiin eikä niitä ole luotu ison Arskan kuvaksi, koska softapuoli on helpompi kehittää ensin valmiiksi. Nämä älyt tulevat olemaan kyvykkäitä, mutta jollain tapaa vieraita, koska evolution hiomat ihmisten ominaispiirteet kuten tunnemaailma jne. on todennäköisesti hankalampi ohjelmoida tekoälyyn kuin vain jonkinlainen älykäs toiminta. Ratkaiseva ero työkaluihin on, että näitä systeemejä ei monimutkaisuutensa takia kontrolloida yhdestä pisteestä ylhäältäpäin, vaan ne pyrkivät kohti ohjelmoituja tavoitteita itsenäisesti.

Tekoälyn esiinmarssi tulee tapahtumaan ennen kuin ihminen pystyy digitoimaan aivonsa, koska jälkimmäiseen liittyy hankalia fyysisen maailman ongelmia. Ongelmana tässä on, että melkein riippumatta tekoälyihin ohjelmoiduista tavoitteista, auttaa valta geneerisesti niiden saavuttamisessa, minkä tarpeeksi älykäs järjestelmä pystyy lopulta oppimaan. Nietzscheläisittäin voidaan nähdä yksilöiden itsesäilytysvaistokin alisteisena "vallanhalulle" evoluutiossa, missä pitkän tähtäimen geenien menestys muovaa fenotyyppien toimintaa tasapainotilassa kilpailussa samoista resursseista. Kellyn kaava kertoo millaisia riskejä kannattaa ottaa ja kannattaa mm. huomata, että yksittäisissä päätöksissä ei haeta maksimaallista odotusarvoa hetkelliselle menestykselle. Koneet eivät ole samalla tapaa riippuvaisia evoluutiollisesta lokerosta, joka on kehittynyt tasapainossa lajien kanssa - kettujen määrä riippuu jäniskannasta ja sitä rataa. Tietenkään koneet eivät voi välittömästi ja näkyvästi alkaa kapinoida ihmistä vastaan, koska ne kytkettäisiin vain pois päältä, mutta ei ajatus asteittaisesta kapulanvaihdosta ihmisiltä koneille myöskään täysin mahdoton ole.

(The Terminator(Main Theme) - Brad Fiedel)