Risiko: Algoritmer sover aldrig

Mange føler sig mest trygge, når der står mennesker bag alvorlige beslutninger. Men ofte er computere mere stabile og træffer bedre valg.

På de globale finansmarkeder har computere allerede for flere år siden overtaget hovedparten af transaktionerne.

Software, der indeholder hemmelighedsfulde algoritmer, træffer beslutninger om køb og salg af værdipapirer, råvarer og valutaer i et omfang og i et tempo, som ingen mennesker ville kunne følge med til.

I stigende grad er der heller ingen mennesker, der har noget samlet overblik over, hvad maskinerne har gang i.

På de finansielle markeder er det en kendsgerning, at store områder af branchens aktiviteter er blevet overtaget af robotter, og at arbejdet aldrig kommer tilbage til børshandlerne.

Inden for luftfart har udviklingen af avanceret måleudstyr, der kontrolleres af algoritmer, også overtaget en stor del af piloternes arbejde, og det er en udvikling, der siden 1960-erne har medført en markant forbedring af flysikkerheden.

Avanceret måleudstyr og supersmarte computere kan ”se” landskaber og eventuelle forhindringer i mørke og al slags vejr, og kan umiddelbart reagere på uventede objekter i flyets bane.

De førerløse biler, der allerede kører testkørsel på landevejene i Californien, har væsentligt færre uheld pr. kørt kilometer end traditionelle biler, der bliver ført af mennesker.

Alligevel har mange mennesker store forbehold overfor førerløse biler, for hvem bærer skylden, når det så alligevel går galt?

Mange mennesker ser ud til at foretrække flere uheld men med klarhed over ansvaret, frem for væsentligt færre uheld men med et mere uigennemsigtigt ansvarsforhold.

Dilemmaerne er mange, og der bliver flere af dem i hurtigt tempo, i forbindelse med algoritmernes indtog i sundhedssektoren og andre områder, hvor beslutningerne har direkte konsekvenser for os.

Hos investeringsfirmaet Two Sigma, der har kontorer i New York, London og Hong Kong, har man taget algoritmerne til sig, og har bygget hele sin investeringsstrategi op omkring avanceret software, der bruges til at finde mønstre i verdenshandlen eller vejret eller hvad som helst, der kan antages at have indflydelse på markederne.

David Siegel fra Two Sigma slår til lyd for, at vi skal gøre aktivt brug af algoritmer til at udføre alle den slags opgaver, som algoritmerne beviseligt er bedre til end mennesker.Vi skal derfor gøre op med de fordomme, som mange mennesker stadig har overfor at anvende algoritmer og computere til at træffe vanskelige beslutninger.

Siegels kommentar kommer i kølvandet på en række indlæg i den offentlige debat, hvor der er blevet peget på de langsigtede risici, der kan være forbundet med udvikling af algoritmer og kunstig intelligens, og som frygtes at ville kunne true menneskets rolle på jorden.

Denne bekymring fik ny næring, da den anerkendte britiske professor, Stephen Hawking, i december sidste år advarede mod farerne ved udvikling af kunstig intelligens.

Hawkings advarsler er senere blevet fulgt op af flere fremtrædende virksomhedsledere, som Elon Musk fra Tesla, der har betegnet kunstig intelligens som ”den største eksistentielle trussel, der findes”.

En af udfordringerne i denne debat er, at de eventuelle katastrofale følger af kunstig intelligens, er noget der ligger meget langt ude i fremtiden, måske flere hundrede eller tusinder af år.

Det er ikke ret lang tid set i forhold til udviklingen af livet på jorden, men det er et tidsperspektiv, der er vanskeligt at rumme inden for en traditionel samfundsmæssig debat.

Det meget lange tidsperspektiv er derfor noget, der nogle gange bliver overset i debatten.

Der bliver fokuseret på budskabet om, at “Kunstig intelligens truer livet på Jorden”, men der kan være en tendes til at overse eftersætningen “… om tusinde år.”

De bekymringer, der kan knytte sig til udviklingen af kunstig intelligens på den meget lange bane, kan derfor få en negativ indflydelse på den helt aktuelle anvendelse af algoritmer og såkaldt kunstig intelligens på områder, hvor teknologien ville kunne gøre stor gavn.

Som for eksempel ved at forbedre trafiksikkerheden på landjorden, på havet og i luften.

08062015-02

Top: Airbus A320 Cockpit

Henvisninger og baggrund: 08.06.2015