Maskinernes March af Kevin Warwick

ARKIV 1997, Anders Kjærulff Christensen

Robotter kommer til at udkonkurrere mennesker som art.
Og når det sker, vil de nok mene at menneskets største fejltagelse lå dybt begravet i deres natur. Mennesket er konkurrence-mindet og vil dominere, og det er præsis de egenskaber, vi er i gang med at lære robotter at simulere. For øjeblikket, hvis man ser sig omkring på robotmarkedet, er der ikke rigtig noget farligt at se. Men der er en, der mener, at vi har problemer allerede i år 2050.

Det er professor i kybernetik Kewin Warwick fra Reading Universitet i England, og han mener at robotter vil overtage jorden om små 50 år. Warwick er en venlig, smilende, lidt kedelig 42-årig mand med en lang og flot karriere både bag og foran sig. Han forsker i kunstig intelligens, styring og robotter, og er manden bag en flok små legetøjsbiler som han kalder de syv små dværge.
De syv små dværge kunne ses på Robotix festivalen i Glasgow(1997), og publikum der og undertegnede opfatter dem generelt som søde og harmløse. De drøner rundt i en lille cirkel og det ser sjovt, og en smule planløst ud. Men det er ikke planløst.
Robotterne opfører sig lidt som fugle: De skiftes til at være ledere for resten af flokken. Når en af dværgene ser et stykke tomt rum foran sig, ved den den er leder, den tænder en lille lampe på toppen og sender et signal til de andre om, hvor den kører henad og hvad den ser. Den er leder sålænge, den ikke kan se andre robotter foran sig, hvorefter en anden robot overtager.

BEKYMRET
Kevin Warwick bekymrer sig.
Hans små dværge kan allerede programmere hinanden over telefonlinjerne, som de gjorde fornylig i et forsøg. De kan reagere og blive klogere. Og når robotter begynder at tænke selv, når de får masser af sanser, og man propper den smule tænkning, de allerede mestrer nu, ind i f.eks millitærets udstyr, bliver selv en sød lille dværg pludselig temmelig skræmmende.
Tag et krydser missil eller en robot som SARGE, der arbejder for den amerikansk Marine. Den har fire hjul og ruller rundt udenfor de militære baser. Den har varmesyn, nattesyn og overvågningskameraer og den finder selv rundt i området. Dens storesøster Dixie kan navigere med triangulering og bruger et videokamera til at bestemme sin egen position. Begge robotter slår alarm, hvis der er uvedkommende i området, og som sagt kører begge robotter uden fjernstyring og militæret nøjes med at kigge med gennem deres kameraer.
En af de syv små dværge er idag ligeså intelligent som et insekt. Om fem år vil der være robotter, der er ligeså kloge som katte, siger Warwick. Og om mellem 20 og 50 år vil de være klogere end mennesker.

UDEN FØLELSER
Tilgengæld får robotter aldrig de samme følelser, som vi har. Og de begynder nok heller ikke at male billeder, eller skrive deres egen musik. For hvad skulle de det for? På alle de områder, vi i dag regner for særligt vigtige, er de nemlig allerede bedre end os. De kan beregne hvad som helst langt hurtigere end noget menneske, og selv om de ikke får slået Kasperov i skak helt så nemt som de burde, så kan de så mange andre ting. De behøver ikke at sove, og de kan med tiden få flere sanser end vi har. F.eks varmesyn, røngten og nattesyn. For slet ikke at tale om elektronisk lugtesans og hørelse på ultralydplan. Robotters billede af verden er simpelthen allerede mere nuanceret end vores. Og så er de som sagt så småt begyndt at tænke selv via neurale netværker, så de kan lære af deres erfaringer, og klare sig i forskellige miljøer.
En af dem, der ‘tænker’ mest ubehageligt, er The Prowler. Prowler står for Programmerbar Robot Observatør med Logisk fjende reaktion, og den er såmænd en gammel ide fra 1950, hvor den amerikanske hær ville bygge en fjernstyret kampvogn. DEN blev aldrig til noget, men idag er man igang med en moderne version. Den vil blive udstyret med 105 millimeter kanoner, Stinger jord til luft missiler, et par m60 maskingeværer og en lille, men nådesløs hjerne. Med sine fine sanser kan den finde fjenden hvor som helst han gemmer sig i landskabet, regne sig frem til kortest mulige vej derhen og udslette ham totalt.
Ingen af de her robotter er hemmelige. Men det kan vi være ret sikker på, at der er andre der er. Og de værste af dem, har ikke engang en krop, man kan få øje på. De bor i millitære netværk, og de kan ikke engang slukkes for.

MILTÆR OG FINANS
Der er nemlig to områder af moderne robotforskning, ingen rigtig ved noget om, og det er millitæret og Finansverdenen. Militæret arbejder for tiden på såkaldte forsvarsnetværk, computersystemer, der hjælper generaler med at tage stilling til strategiske situationer, såsom hvornår det er smartest at bombe fjenden. Disse netværk er neurale, selvlærende, og de er blevet trænet i at være aggressive, ved at konkurrere mod andre netværk.
For tiden har mennesker stadig det sidste ord før missilerne flyver, men Warwick frygter, at maskinerne kommer til at kontrollere de røde knapper. De er simpelthen bedre og hurtigere til den slags end mennesker, så hvorfor skulle de ikke det?
I Finansverdenen har man i mange år benyttet sig af computere med neurale netværk, når mæglerne gik efter den største profit. De neurale netværk er hurtige, lider ikke af etiske hensyn og er programmerede til at optimere profitten for deres ejere. Det var sandsynligvis en række af de her netværk, der medførte den såkaldte ‘sorte mandag’ i børserne for nogen år siden. Netværkene gik i spin, og begyndte at købe og sælge i et væk, en opførsel, der medførte katastrofer hos mennesker, ikke hos maskinerne.
De blev tværtimod udbygget og forbedret for at undgå den slags små fejltagelser i fremtiden. Men kan vi ikke bare lave nogen regler for dem?

ASIMOV
En robot må ikke skade et menneske, den skal adlyde mennesket ordre og den skal beskytte sin egen eksitens, med mindre det er i konlikt med de to andre love. Sådan lyder de tre Berømte Robot-love fra Sciencefictionforfatteren Isaac Asimov, og man kan spørge sig selv, hvorfor vi ikke bare lægger det lovsæt ind i maskinerne.
Men det er for sent. Vi er allerede begyndt at lave “onde” robotter, selv om det stadig kommer an på hvilken side af dem, man står på. Hvis det er ens eget lands hær, der har The Prowler, er det vel en god robot. Med mindre altså en flok Prowlere, pludselig en morgen bliver så smarte, at de finder ud af, at det måske er hele menneskeheden, der er et problem.
Vi har allerede robotter, der kan skade mennesker, robotter, der er ligeglade med Asimovs love og dem har vi haft i mange år. Et menneske, der kommer i vejen for en industrirobot kan meget nemt komme til skade, ikke fordi, robotten har nogen ond vilje, men fordi den er hård og stærk.
Og en finans-computer, der ruinerer et firma med sine spekulationer, tilføjer jo også mennesker skade.

MASKINER VIL SE OS SOM DYR
Warwick bekymrer sig.
Så meget, at han har skrevet en bog, Maskinernes Marchs. Undertitlen er “Hvorfor den nye race af robotter vil regere jorden”, og i bogen fortæller han detaljeret om, hvad robotter vil gøre ved os, når de engang når så langt:
Maskiner vil behandle os, som vi behandler dyr idag, siger Kevin Warvick. Hvis de ikke vil have, vi får børn, så skærer de bare kønsorganerne af os. Skal der laves flere af os, bygger de menneskefarme, hvor kvinder kun har tilopgave at føde nye mennesker ved kunstig befrugtning. Når de ikke længere kan det, vil robottene slå dem ihjel.
Warwicks robotsamfund, er et nyttesamfund og en logisk følge af benhård darwinisme. Det er en verden hvor alting har en logisk, fornuftig mening, hvor intet er tilfældigt, og hvor robotter kun lever for at blive endnu bedre robotter. De opgraderer sig selv, de reparerer sig selv og de udvikler nye arter. Vi mennesker vil stadig betyde noget for dem, sikkert som en slags robotter for robotterne, nogen der kan bygge fabrikker, hvor maskinerne kan bygge nye maskiner.

MASKININTELLIGENS
Maskin-intelligens, kalder Warwick den bevidsthed, som han tror robotter kommer til at få med tiden. Maskinintelligens virker ond og kold for os, men vi finder aldrig ud af, hvordan den vil virke for maskiner. Det eneste vi kan være sikre på, er at den har gode kår i vores nuværende højteknologiske samfund, hvor vi bliver mere og mere afhængige af maskiner.
Maskiner kan udvikle sig hurtigere end vi kan. Vi skal først gennem en masse genetiske mutationer før der sker noget, maskiner kan bare bygge sig selv om. De har altså alle fordelene, mener Kewin Warwick, der ovenikøbet ikke tror, det bliver så slemt endda, når maskinerne engang overtager verden.
Køer ved jo sandsynligvis heller ikke noget om, at de skal slagtes, når de går der fredeligt og græsser på marken, siger Kevin Warwick.
Ser man på Warwicks egne projekter, ligner ved første øjekast ikke noget, der kan overtage verden. Den klogeste robot han har ud over de syv små, hedder Elna, og kan lære sig selv at gå. Først krabler den fortvivlet rundt på bordet, med sine seks, hjælpeløse ben, helt overladt til sit grundprogram, der har fortalt den, at den HAR seks Ben, og at den skal gå. Mere uhyggeligt bliver det alligevel efter godt fem minutter, hvor ELNA faktisk går meget glimrende. Den ligner en edderkop, og er ganske hurtig. Og jeg får stadigt sværere ved at forstå, hvorfor han dog bliver ved med at lave frontforskning i noget, han ved, vil medføre en katastrofe.

CHOKOLADE MED GIFT
Kewin Warwick er bekymret, men han siger, det minder om at spise chokolade med gift i. Og at ligenu, er det chokoladen, man kan smage, og den holder han meget af. Og så tror han, vi kan lave nogen regler for, hvor meget robotter kan få lov at betemme i fremtiden. Måske forme internationale komiteer, der holder robotterne nede. Men han er ikke sikker på, at det virker. Og han har stadig sine egne drømme, om den perfekte robot.
Den perfekte robot er ikke kun en enkelt robot. Den er netop den skræmmevision som Warwick selv har lavet, en der fungerer i netværk med mange andre, og som kan tænke selv og som er klogere end ham selv.
Og imens Warwick sidder smilende der på sin stol og føler sig lidt som salig Oppenheimer, ham der opfandt atombomben, har han lige en ekstra egenskab ved mennesker, som han er sikker på, robotterne ikke vil bryde sig om.
Mennesker bekymrer sig og det er skidt for produktiviteten.
Kewin Warwick skulle måske nok have en lille del af sin hjerne opereret ud af en robot, men da jeg læste hans bog, mærkede jeg alligevel en række hår rejse sig på mit hoved.
Hans beskrivelser af det samfund vi allerede lever i nu, får et grimt og koldt skær over sig, og man får en uhyggelig fornemmelse af, at vi er i gang med at rulle den røde løber ud for de aggressive maskiner. Tænk bare på hvor afhængige vi er blevet af dem i dagligdagen, selv om de godt nok ikke ligner det, vi troede de ville ligne. De sniger sig ind i dankortudskrifter og kreditvurderinger og i husenes intelligente varmesystemer, de styrer vore biler og tog og de kommer forklædt som multimediecomputere og virtual-reality-indlæring og interaktivt fjernsyn til børn og voksne. Vi lever med dem og det er godt og hyggeligt, så længe de ikke begynder at tænke selv eller føle sig som en ny race, maskin-racen, menneskets perfekte spejlbillede.
De er fri for vores distraherende mangel på logik, helt uden følelsesmæssige svagheder og skrøbelige kroppe, og frem for alt uden visheden om døden som det, der i sandhed gør os til de mennesker, vi nu engang er.

PS: Kevin Warwick blev senere kendt som verdens første CYBORG, da han fik en chip opereret ind i armen.