"Terminator" kan bli verklighet enl Hawking

Att jag blivit inspirerad av Terminator och därför började träna på gym för 25 år sedan har jag berättat tidigare.  Terminator-filmerna må vara dystopiska, men kanske inte så orealistiska  som vi helst vill tro.

Terminator på bild lånad från www.gentside.com

Jag läser så i DN att Stephen Hawking, menar att artificiell intelligens (AI) kan bli slutet för oss människor. Hawking är  den brittiske kosmolog, som anses vara "en av de mest briljanta teoretiska fysikerna sedan Albert Einstein", men som också är rullstolsburen efter att 1963 ha fått diagnosen ALS, som är en motorisk neuronsjukdom och han gavs då enbart ytterligare två år att leva. Jag vet att doktorer numer ogärna sätter en sådan tidsgräns gällande människors förväntade levnadstid, tack och lov. Det har nämligen visat sig att de fått fel oerhört ofta och en sådan dom från en läkare kan annars gärna bli själv uppfyllande. Hawking beslöt sig dock ändå för att gå Cambridge och tack vare det blev han en fantastisk forskare och teoretisk fysiker och matematik-professor vid Cambridge och författare till ett flertal internationella bestsellers.

Stephen Hawking på bild lånad från
hemsidan www.hawking.org.uk

Hawking varnar en intervju med BBC att våra teknisk skapelser snabbt kan börja utveckla sig själva och ta över från oss människor. Hawking är själv beroende av den tekniska utvecklingen och använder exempelvis en datorgenererad röst för att kunna prata. Hawking är också "känd som en av världens mest extraordinära tänkare", konstaterar DN. "Men trots att han själv har haft stor användning av så kallad artificiell intelligens, säger han i en intervju med BBC att tekniken snabbt kan börja utveckla sig själv och ta över.
– De primitiva former av artificiell intelligens som vi redan har är väldigt användbara. Men jag tror att utveckling av mer avancerad artificiell intelligens kan innebära slutet för mänskligheten, säger professorn i intervjun.  --- När människan väl utvecklat sådan artificiell intelligens, kommer den kunna fortsätta att göra det på egen hand och utvecklas i nya former i en ständigt ökande hastighet, säger Hawking .
Den brittiske professorn befarar att människan, som begränsas av en långsam biologisk utveckling, inte skulle kunna konkurrera utan helt enkelt ersättas av AI."

Här kan du se och höra Stephen Hawking förklara sina
tankar om hur skapandet av tänkande maskiner kan
bli ett hot mot vår existens på engelska för BBC

Ny Teknik tog upp just den frågan redan i maj. "Det är lätt att avfärda intelligenta maskiner som science fiction, men det vore ett misstag, möjligen det värsta misstaget i historien. Det skriver fysikern Stephen Hawking tillsammans med tre andra framstående forskare i en debattartikel" inleds artikeln där om en debattartikel han skrivit i brittiska the Independent ihop med Stuart Russell (professor i datavetenskap vid University of Berkeley och medförfattare till Artificial Intelligence - A Modern Approach), Max Tegmark, (fysikprofessor vid MIT och författare till Our Mathematical Universe) och Frank Wilczek (Nobel-pristagare 2004, liksom fysikprofessor vid MIT). De refererar i debattartikeln till -- science-fictionfilmen Transcendence med Johnny Depp i huvudrollen, och påpekar att artificiell intelligens (AI), inte bara hör hemma på bioduken.
Forskningen inom AI  går snabbt framåt, driven av investeringar utan tidigare motstycke och byggd på en allt mer mogen teoretisk grund, skriver de---Den utveckling vi ser just nu, med självkörande bilar och personliga digitala assistenter, kommer att blekna i förhållande till vad kommande decennier kommer att bära med sig, fortsätter de.
Forskarna konstaterar att de möjliga fördelarna med AI är enorma eftersom allt som civilisationen har att erbjuda är ett resultat av mänsklig intelligens. Att lyckas utveckla artificiell intelligens vore därför den viktigaste händelsen i människans historia, menar de.
Olyckligtvis kan det också bli den sista, om vi inte lär oss hantera riskerna, varnar Stephen Hawkins [sic!] och hans medförfattare.--- 'Man kan tänka sig att sådan teknik blir smartare än finansmarknaderna, uppfinner bättre än mänskliga forskare, har förmågan att manipulera mänskliga ledare, och utvecklar vapen som vi inte ens kan förstå. Medan den kortsiktiga effekten av AI beror på vem som kontrollerar den, är frågan på lång sikt om den överhuvudtaget kan kontrolleras', skriver forskarna i artikeln.  De konstaterar samtidigt att experter på området inför en sådan risk rimligen borde göra allt för att utvecklingen ska bli den bästa och säkraste, men att mycket lite forskning i själva verket ägnas åt problemen med AI, förutom vid ett fåtal institutioner som The Future of Human Institute vid Oxfords universitet, lett av den svenska professorn Nick Boström."

Intressant och skrämmande om forskarna inte tar sitt ansvar.