Googles första bilolycka

För bara några månader sedan skrev jag om hur det blir allt mer bråttom att ta ett rejält snack om ickemänsklig etik, med fokus på självkörande bilar som redan idag kan hamna i situationer där de måste fatta etiska beslut. Nu börjar det kännas än mer akut, efter att en av Googles självkörande bilar varit med om sin första egenorsakade olycka.

En av Googles självkörande bilar.

En av Googles självkörande bilar.

Både Google och andra företag som satsar på självkörande teknik (främst Tesla, som redan lanserat mer eller mindre autonom mjukvara till sina bilar) har ett skrämmande bra track record vad gäller olyckor. Genom att minska på den mänskliga faktorn som står bakom en bred majoritet av alla bilolyckor (föraren är trött / full / hög / stressad / upprörd) har till exempel Google kört sina bilar enorma avstånd utan att orsaka en enda olycka. De har varit med i olyckor – men bara sådana som orsakats av människor i andra bilar.

I denna nu första olycka där en Google-bil verkar vara i alla fall delvis skyldig blev bilens fil blockerad, varpå den försökte byta fil, trodde att en buss i den andra filen skulle sakta ned, och körde in i kanten på bussen. Olyckan var allt annat än dramatisk och resulterade inte i några som helst människoskador och bara mindre skador för bilarna. Men den är intressant i och med att det är den första bilolyckan där en dator, inte en människa, gjorde fel. Även om det är ett sådant fel som tusentals människor gjort förut.

Så vem är skyldig i dessa fall? Om bedömningen görs att det är den självkörande bilen som orsakade olyckan, vem bötfälls? Är det ledningen för projektet? Bilens ägare (vilket blir mer relevant framöver när dessa bilar säljs till konsumenter)? Bilens designer?

Handout photo courtesy of the Nevada Department of Motor Vehicles shows what the Google self-driven car sees while navigating the road network in Las Vegas, Nevada, May 1, 2012. REUTERS/Nevada Department of Motor Vehicles/Handout

En illustration av vad Googles självkörande bilar ”ser” när de åker runt i Las Vegas. Bild av Nevada Department of Motor Vehicles.

Det finns såklart redan fall där både egendom och människor skadats som följd av vad en maskin gjort, det är ingenting konstigt. Det som gör självkörande bilar (och en hel del annan framtida teknik med lika stor kraft och autonomitet) annorlunda är att det mer eller mindre programmeras för att döda. En självkörande bil kan designas på ett sådant sätt att den planerar att döda eller skada en människa för att undvika att döda eller skada någon annan – exempelvis att den hellre kör in i trottoaren och riskerar att skada en oskyldig förbipasserande, för att på så vis undvika att föraren skadas av något på vägen.

Vi programmerar med andra ord redan idag autonoma maskiner med någon slags digital etik som avgör vad maskinen gör. Den kodas för att döda. Har då bilens skapare begått ett brott genom att programmera den på det viset? Kan det klassas som förberedelse till brott?

Det finns flera intressanta gråzoner (bilen är på väg att krocka och riskera en dödsolycka, men väljer istället att åka av vägen och köra in i en förbipasserande – bilen väljer det mest människovänliga alternativet, att skada istället för att döda). Dessa känns förhållandevisa lätta att lösa – minimera skada på människor, det klassiska spårvagnsproblemet.

Men hur stor skada på en annan människa ska krävas för att bilen ska offra sig själv? Kan bilen få rädda sig själv även om det innebär att en oskyldig förbipasserande dödas? Vad händer om bilen får välja mellan sin förare och en random människa i en annan bil? Vad händer om bilen får välja mellan att döda sin förare och att döda två andra personer?

Ska man få programmera sin bil att alltid rädda ens egna liv framför andra? Får bilföretaget programmera bilen så, för att säkra att folk köper bilarna med vetskapen att det är de som är prio ett?

Det finns enormt viktiga etiska frågor som bör ha en viktig del i debatten, men som knappt syns alls. Trots det är självkörande bilar redan här.

Christers skuld

Idag var det trettio år sedan den socialdemokratiska statsministern Olof Palme mördades. Jag har under dagen mest frustrerats gång på gång över hur mycket mediautrymme årsdagen får, hur pass Palme efter dessa decennier upphöjts till en gudalik varelse, någon som räddade Sverige och någon vars död kastade ned landet i total kaos.

palmeDet är ännu mer spännande hur många som har åsikter om lite alla möjliga rent objektiva – inte subjektiva, inte godtyckliga – saker och ting. Hur många som inte vet när de bara ska säga ”ledsen, jag är inte tillräckligt insatt för att kunna uttala mig”. Som när så många är övertygade om att Martin Kinnunen (sd) är skyldig till ekobrott.

Eller som när Sveriges egna statsminister säger sig vara säker på att Christer Pettersson är Palmes mördare. Christer Pettersson, som redan varit misstänkt och sedan förklarats oskyldig till dådet.

Det är spännande hur lätt man tappar verklighetsförankringen när en händelse – kanske speciellt ett brott – blir så pass känt och en så pass stor del av vår gemensamma historia att det blir som en saga. Varför är det okej att – och speciellt som statsminister! – uttala sig om vem man tror är skyldig till ett så pass allvarligt brott? Hur är det okej att basera det på så otroligt svaga grunder som ”Lisbet Palme säger bestämt att hon vet att det var Christer Pettersson”?

Att som politiker, och speciellt folkvald politiker, och speciellt som minister, och speciellt som statsminister, uttala sig om vem man tror är misstänkt i en pågående brottsutredning… är ganska jättekorkat.

Hur tänkte du nu, Stefan?

Kinnunens friande, eller: Antons lag

I veckan blev det klart att Sverigedemokraternas pressekreterare Martin Kinnunen frikänns från de misstankar om ekobrott som lyftes i och med bokföringsfelaktigheter i SD-bolaget Samtid & Framtid, som förutom bristande bokföring även låtit bli att betala nästan en miljon i moms.

Jag har inte följt rättegången tillräckligt väl för att kunna fatta någon åsikt om huruvida jag anser att det fattades rätt beslut – jag har helt enkelt ingen aning om Kinnunen är att betrakta som skyldig eller ej. Det som skrämmer mig är däremot hur många det är som verkar befinna sig i precis samma situation som jag, men som är övertygade om att han är skyldig.

Det är egentligen flera problem som är värda att lyfta i hela debatten. För det första är det underligt hur många som omedelbart blandar in sina politiska åsikter och helt enkelt förutsätter att en person som är aktiv i ett parti de ogillar måste vara skyldig. För det andra, och det här hänger verkligen ihop, lyfter hela fallet på nytt problematiken med att Sverige fortfarande använder ett rent krasst medeltida system med politiskt tillsatta nämndemän, någonting Mårten Schultz kritiserade läsvärt i DN.

Det hela blev speciellt aktuellt i detta fall, där en välkänd politiker stod inför rätten och fick möta nämndemän som uteslutande tillhörde de rödgröna partierna – några som inte sällan klassar sig själva som Sverigedemokraternas fiende. Jag har dessvärre väldigt svårt att tro att dessa nämndemän i de flesta fall lyckas bevara någon som helst objektivitet, även om det är helt omedvetet.

För det tredje lyfter det hela någonting som jag tror ytterst få som inte är engagerade i företagsvärlden egentligen tänker på – bokföring är jävligt komplicerat, och vilken idiot som helst får starta företag.

Poes lag är en idé myntad av Nathan Poe, som mer eller mindre säger att tillräckligt välgjord satir är omöjlig att särskilja från ren idioti. I utmärkta exempel som Flat Earth Society, en grupp som bestämt hävdar att jorden är platt, är det helt omöjligt att avgöra om de skämtar eller bara är dumma.

poeslaw

På samma vis är det i bokföring ofta svårt att avgöra om någon medvetet begår ekobrott, eller om personen i fråga bara är kass på bokföring – någonting jag rent egoistiskt nu myntar som Antons lag. I min mening är de svenska bokföringslagarna snäppet för byråkratiska, utrymmet för rena misstag är för litet, och straffen för dessa misstag (både i form av diverse avgifter men även rättsliga åtgärder), vilket löper stor risk att hämma utveckling och innovation. För rent krasst, vem vill starta företag – speciellt på fritiden och med begränsat tid – väl medveten om de risker som förekommer?

På det viset är det nästan bra att Kinnunen frias. Ju fler som fälls för de ekobrott som ligger i gråzonen mellan slarv och medvetet fusk, ju starkare blir den rättsliga praxis som möjliggör för fler att fällas för rena misstag. Och sen är bollen igång.

Oskyldig till motsatsen bevisats, ett allt mer försvinnande koncept av vårt samhälle

Ett av de mest fundamentala koncepten i global juridik, rätten att ses som oskyldig till motsatsen bevisats, har de senaste åren försvunnit allt mer. Sedan FRA-lagen infördes 2007 finns nu ett antagande om att alla medborgare är potentiella brottslingar, och att bara genom att spåra alla precis hela tiden kan vi motverka brott. Detta var ett steg i helt fel riktning, ett steg som togs trots enorma protester från det svenska folket. Den 21 mars 2012, om bara två veckors tid, kan nästa steg in i mörkret tas.

Denna typ av spårning av vanliga medborgare görs bokstavligt talat möjlig om DLD går igenom.

Den 21 mars röstar riksdagen om datalagringsdirektivet (DLD), som är FRA-lagen på steroider. Om DLD införs, blir din telefon till en spårare, och all information lagras undan. All information om var du rör dig, vem du pratar med, vem du sms:ar, vem du e-mailar sparas undan i ett arkiv, för att sedan kunna granskas och avlyssnas av statliga myndigheter.

Anledningen till att detta införs är att lagförarna tror att det ska stoppa terrorism. Men de allvarligare brottslingarna är antingen för skickliga för att luras av tekniken, eller för desperata för att bry sig om de åker dit. Den som ska iväg och begå ett brott kan kringgå detta mycket enkelt – lämna mobiltelefonen hemma. De som kommer att åka dit är småtjuvar, men om vi vill få dit dem kan vi istället lägga pengarna på gatupoliser än på datalagring.

Det är lätt att säga att den som är laglig inte har någonting att dölja. Men den information som sparas undan avslöjar inte bara brott – den kan visa vilken läkare du besöker, vilket politiskt parti du röstar på, vilken trosuppfattning du har – dessa är uppgifter som en demokratisk regering inte ska ha om sina medborgare.

I ett demokratiskt land som Sverige ska inte staten ha kontrollen över folket. Folket ska ha kontrollen över staten. Kontakta dina riksdagsledamöter – idag är alla riksdagspartier för DLD, men genom folkets protester kan mycket ändra.