Googles första bilolycka

För bara några månader sedan skrev jag om hur det blir allt mer bråttom att ta ett rejält snack om ickemänsklig etik, med fokus på självkörande bilar som redan idag kan hamna i situationer där de måste fatta etiska beslut. Nu börjar det kännas än mer akut, efter att en av Googles självkörande bilar varit med om sin första egenorsakade olycka.

En av Googles självkörande bilar.

En av Googles självkörande bilar.

Både Google och andra företag som satsar på självkörande teknik (främst Tesla, som redan lanserat mer eller mindre autonom mjukvara till sina bilar) har ett skrämmande bra track record vad gäller olyckor. Genom att minska på den mänskliga faktorn som står bakom en bred majoritet av alla bilolyckor (föraren är trött / full / hög / stressad / upprörd) har till exempel Google kört sina bilar enorma avstånd utan att orsaka en enda olycka. De har varit med i olyckor – men bara sådana som orsakats av människor i andra bilar.

I denna nu första olycka där en Google-bil verkar vara i alla fall delvis skyldig blev bilens fil blockerad, varpå den försökte byta fil, trodde att en buss i den andra filen skulle sakta ned, och körde in i kanten på bussen. Olyckan var allt annat än dramatisk och resulterade inte i några som helst människoskador och bara mindre skador för bilarna. Men den är intressant i och med att det är den första bilolyckan där en dator, inte en människa, gjorde fel. Även om det är ett sådant fel som tusentals människor gjort förut.

Så vem är skyldig i dessa fall? Om bedömningen görs att det är den självkörande bilen som orsakade olyckan, vem bötfälls? Är det ledningen för projektet? Bilens ägare (vilket blir mer relevant framöver när dessa bilar säljs till konsumenter)? Bilens designer?

Handout photo courtesy of the Nevada Department of Motor Vehicles shows what the Google self-driven car sees while navigating the road network in Las Vegas, Nevada, May 1, 2012. REUTERS/Nevada Department of Motor Vehicles/Handout

En illustration av vad Googles självkörande bilar ”ser” när de åker runt i Las Vegas. Bild av Nevada Department of Motor Vehicles.

Det finns såklart redan fall där både egendom och människor skadats som följd av vad en maskin gjort, det är ingenting konstigt. Det som gör självkörande bilar (och en hel del annan framtida teknik med lika stor kraft och autonomitet) annorlunda är att det mer eller mindre programmeras för att döda. En självkörande bil kan designas på ett sådant sätt att den planerar att döda eller skada en människa för att undvika att döda eller skada någon annan – exempelvis att den hellre kör in i trottoaren och riskerar att skada en oskyldig förbipasserande, för att på så vis undvika att föraren skadas av något på vägen.

Vi programmerar med andra ord redan idag autonoma maskiner med någon slags digital etik som avgör vad maskinen gör. Den kodas för att döda. Har då bilens skapare begått ett brott genom att programmera den på det viset? Kan det klassas som förberedelse till brott?

Det finns flera intressanta gråzoner (bilen är på väg att krocka och riskera en dödsolycka, men väljer istället att åka av vägen och köra in i en förbipasserande – bilen väljer det mest människovänliga alternativet, att skada istället för att döda). Dessa känns förhållandevisa lätta att lösa – minimera skada på människor, det klassiska spårvagnsproblemet.

Men hur stor skada på en annan människa ska krävas för att bilen ska offra sig själv? Kan bilen få rädda sig själv även om det innebär att en oskyldig förbipasserande dödas? Vad händer om bilen får välja mellan sin förare och en random människa i en annan bil? Vad händer om bilen får välja mellan att döda sin förare och att döda två andra personer?

Ska man få programmera sin bil att alltid rädda ens egna liv framför andra? Får bilföretaget programmera bilen så, för att säkra att folk köper bilarna med vetskapen att det är de som är prio ett?

Det finns enormt viktiga etiska frågor som bör ha en viktig del i debatten, men som knappt syns alls. Trots det är självkörande bilar redan här.

Det fantastiska övervakningssamhället

Jag lever enorma delar av mitt liv i en Sony-telefon med Android. Jag skriver det här blogginlägget inloggad i Google Chrome. Hade inte min Chromebook varit på lagning hade jag antagligen skrivit det i den. Jag handlade nyss mat med mitt Ica-kort. Alla dessa saker låter företag som Sony, Google och Ica övervaka vartenda steg jag tar. Och jag gör det helt frivilligt.

Någonting jag ofta brukar ta upp när jag diskuterar övervakning är hur det finns en väsentlig skillnad mellan att låta någon (Google, Facebook, Ica, Espresso House, vad som helst) spåra dig efter att du skrivit ett avtal med dem1 och att påtvingas övervakning vad du än säger – som fallet är med exempelvis svenska FRA eller amerikanska NSA, som spårar dig vare sig du vill det eller ej, utan att du egentligen kan göra någonting åt det. Men att säga att det är en väsentlig skillnad där det ena är okej men det andra inte är det är också en extrem förenkling.

De riktiga problemen uppstår när dessa system – även när de började som helt frivilliga – börjar bli normen till den grad att du sticker ut när du inte hänger med. Har du inte Facebook? Trist, då kan du inte delta i skolan på samma sätt. Vill du inte registrera dig hos Google? Trist, då kan du inte få någon jobbmail, vi använder Gmail. Har du inte ett konto på en fysisk bank, utan använder dig helt av kontanter eller en kryptovaluta, trots att du följer alla lagar och betalar skatt? Jobbigt, då får du inte lön och du utreds nästan omedelbart för misstänkt skattebrott. Och det är du, bara du, som ska bevisa att du inte är galen eller kriminell. Det är ju du som sticker ut.

Det finns många saker som får dig att sticka ut som en suspekt medborgare, bara för att du lever lite annorlunda än oss andra. Bara för att du inte följer normen. Och med allt det här som listats pratar vi inte ens om alla de enorma fördelar som används för att få folk att registrera sig och låta sig bli spårade – allt det som får de flesta som i början vägrar att förr eller senare ge med sig. Alla kundbonussystem och allt annat som underlättar min vardag varje dag, där det enda jag betalar med är min egen själ och mitt eget privatliv.

I Kina har det nyligen lanserats ett helt nytt övervakningssystem – ett system där olika uppgifter om dig samlas in och låter skapa en kreditvärdighet som sedan kan användas av olika företag. I grunden är det samma system som används över i stort sett hela världen, inklusive Sverige, för att se en individs kreditvärdighet. Men det är så mycket snabbare, och så mycket mer effektivt. Det kinesiska systemet är otroligt effektivt och otroligt praktiskt, i alla fall om du råkar vara rätt person. Om du däremot sticker ut lite – om du hänger med fel människor, om du inte följer normen och flyttar runt mycket eller om du har ovanliga projektanställningar snarare än en fast anställning – då är det allt annat än smidigt. Då har du grävt dig in i ett djupt hål, vad du än tycker om det. Och det finns ingen utväg.

Tyvärr.

Du sticker ut.

Hejdå.

Kontakta mig en smula säkrare

Det är rätt irriterande att vara medveten om att alla kommunikationsvägar ständigt övervakas av bl a FRA, NSA, och diverse företag. Det är också ganska viktigt att förstå de faktiska konsekvenserna.

Kryptering är inte heller det en 100% säker lösning, men det gör det lite jobbigare för de som vill lyssna. Så nu har jag tagit tag i att faktiskt anstränga mig lite, och jag hoppas att det ska komma till någon nytta. Från och med nu kan du alltså skriva till mig krypterat på min privata mail (anton@nordenfur.se, genom Gmail – så Google ser i alla fall), på min partimail (anton.nordenfur@piratpartiet.se, genom PPs server), på SMS (076 314 99 82 genom TextSecure) och med telefonsamtal (över RedPhone).

Alla nycklar och mer info finns här.

Sexualmoralismens brittiska segran

BBC berättar att Storbrittaniens premiärminister David Cameron förklarar ett fullt ut krig mot pornografi. Alla brittiska hem kommer automatiskt att få ett antiporrfilter, och endast de som väljer att inte ha det slipper. Samtidigt förbjuds vissa typer av porr helt, och söktjänster som Google tvingas sätta upp filter som blacklistar vissa termer.

Målet tycks vara tudelat – dels vill Cameron skydda barn från hemsk porr, och dels vill han stoppa redan olagliga sexbrott som våldtäkt, människohandel och pedofila övergrepp. Därför vill han förbjuda porr som ”gestaltar våldtäkt”.

Det Cameron missar är att den breda majoriteten av porren som gör detta idag är helt vanlig porr med vanliga skådespelare, som bara råkar fokusera på denna genre. Porr som faktiskt är filmad våldtäkt  finns, men är otroligt sällsynt av en enkel anledning – när du släpper film på när du begår ett hemskt brott så ökar riskerna att åka dit ganska katastrofalt. Det en sådan lag skulle göra vore alltså om något att mörka ned de våldtäkter som faktiskt sker, istället för att göra dem synliga för polisen så de kan hitta gärningspersonen och slå till. Jag kunde vid en sökning inte heller hitta några evidens för att våldtäktsporr gör tittare mer angelägna att våldta. Vill Cameron också förbjuda film som gestaltar mord eller andra våldsbrott i ett försök att slå till mot snuff?

Så skydda barnen då, är det ett ädelt motiv? Njae, inte riktigt. Det finns egentligen två saker som Cameron verkar vilja rädda barn från, och det är frivillig porråtkomst och ofrivillig porråtkomst. Det är alltså de fall där ett barn med flit söker på ”sexy boobs xxx” för att hen vill se sexiga bröst. Och det är de fall där ett barn sitter och surfar på trivia om Hermione Granger och stöter på en hårdporrparodirulle av typen ”Hardy Porner and the Sexy Centaur”.

Jag kollade upp porr första gången när jag var kanske tio år, alltså innan min pubertet, som en följd av att jag hört talas om denna underliga sak vuxna sysslar med. Min reaktion då var att det var en väldigt underlig typ av underhållning som jag inte riktigt förstod poängen med, och sen gick jag vidare och fortsatte spela Pokémon. (Detta var inte heller på internet, eftersom jag lo and behold inte kände till att det fanns porr på internet.) Jag började sedan se på porr för nöjes skull efter puberteten, och självklart fanns då (liksom finns nu) typer av porr som jag inte ville se utan mest mådde illa av (BDSM, våldtäkter, et cetera). Från de vänner jag diskuterat porr med verkar deras erfarenhet vara densamma eller liknande. Dessa skadar inte barnen – barnen väljer medvetet att inte se dem .

Så den ofrivilliga porråtkomsten? Ja, idag har Google redan ett säkerhetsfilter, som är påslaget som standard men relativt lätt att slå av, och som i min mening fungerar riktigt riktigt bra. Jag brukar ha det avstängt som standard, men ibland när jag söker på saker som kan vara ens en smula sexuella (exempelvis melon- och bananplantage) slår jag på det för att undvika alla porrsidor som dyker upp. Är det filtret påslaget är det mycket svårt att stöta på saker som, ja, ”Hardy Porner and the Sexy Centaur”. Du kan stöta på semisexuella bilder, men få av dem utan underkläder och få av dem mer sexuella än omslaget till senaste modetidningen på ICA.

Med andra ord, i bägge av dessa fall är Camerons åtgärder helt värdelösa. Det enda resultatet är ett moraliserande av sexualitet och en större censur av internet.

Se även The Daily Mail och Aftonbladet.

Google Glass kommer, men hur påverkar det våra privatliv?

Google Glass blir allt mindre en avlägsen dröm, och allt mer en stundande verklighet. I ett reportage i The Verge meddelas nu att produkten släpps redan i slutet av 2013. För den som sovit under en sten den närmsta tiden är detta alltså projektet som har god potential att revolutionera sättet vi ser på smarttekniken – en slags begränsad Android-smartphone i form av glasögon, som ger dig ett augmenterat synfält och har potential att filma och fota allt du ser.

Många börjar nu diskutera vilka implikationer projekt som Glass kan ha på våra privatliv. Tekniken har de senaste decennierna gjort det allt svårare att med säkerhet veta om du blir övervakad, helt enkelt genom att kameror kunnat bli mer diskreta och osynliga – det är nu lätt att hastigt höja en telefon och börja filma utan förvarning. Med Glass blir det ännu lättare – ett ord eller en knapptryckning och du filmar, och det enda som vittnar om det är en liten LED-lampa som självklart borde gå att stänga av eller täcka för med lite hacking.

Vi når ett stadium där alla kan bli övervakade, hela tiden, alltid, av vem som helst som har ett par Glass. Ett stadium där vi ständigt måste anta att vi blir övervakade. Jag blir själv alltid lite freaked out när jag stöter på bilder på mig själv online, när jag inte minns när de togs. Hur påverkas detta av Glass?

Jag har tänkt mycket på det, och diskuterat det mycket med både vänner och partikollegor. Jag har långsamt och lite kämpande börjat komma till den kanske lite cyniska åsikten att vi aldrig kommer att stoppa detta, och det kan vara nu det är värt att sluta.

Piratpartiets partistyrelse röstade i september 2012 om propositioner, och då diskuterades bland annat till vilken grad det ska vara lagligt att filma någon i smyg. Jag var en av de som argumenterade för att vi ska hålla lagen väldigt luddig på detta område. Låt det för privatpersoner (observera, privatpersoner, viktig distinktion) vara lagligt att filma vem som helst i princip i vilket syfte som helst. Låt det fortsätta vara olagligt att aktivt trakassera någon, och låt exempelvis paparazzi falla under denna lag. Den som filmar någon utan att störa ska inte påverkas.

Det är en hemskt cynisk syn, men jag tror att detta till viss del är någonting vi får räkna med när vi planerar en social struktur som fungerar med Google Glass, och för den delen med riktig, stundande cyborgteknologi. Vi måste börja räkna med att vi alltid är filmade, att vi alltid syns.

Vi måste börja likställa ett öga med en kamera.

Bild kidnappad av Michael Shane, The Verge.

Piratpartiets största medlemsökning sedan 2009

Sedan Polisen genomförde en razzia mot PRQ och tog ned dussintals fildelningssidor, bland annat Tankafetast, har Piratpartiet sett sin största medlemsökning sedan 2009. Från att ha haft 7 600 medlemmar för en vecka sedan har vi nu över 10 000, och de fortsätter att ramla in.

Något PP misslyckats med förut är att ta hand om sina nykomna aktivister. Det kommer inte att ske den här gången. Sedan i söndags har många av oss suttit nästan nonstop och svarat på frågor på Facebook, Twitter, Google+, mail och annat. Vi har skickat runt folk till rätt kommunansvariga och vi har hjälp folk att komma igång. Många är exalterade över allt nytt, och det ser ut som om det kommer bli aktivism igen i föreningar sedan länge döda. För att inte tala om uppstarten av Ung Pirat Götebog, en välbehövd förening som tidigare saknats.

I stil med detta anordnas nu mängder av afk-träffar runtom i Sverige. I torsdags var jag på piratfika i Norrköping med flera nya ansikten, och i går (lördag) var jag på fika och tipspromenad i Linköping (bilder!). Det har verkligen blivit fart i rörelsen på nytt, och vi gör nu allt för att det inte ska börja gå nedåt igen.

Välkomna!

Läs mer: EnRiz, Rick Falkvinge, Anna Troberg.

The Dutch Pirates didn’t make it

As I wrote about before the Dutch Pirates had their big national election earlier this week. Sadly, they did not make it, but it was still a great achievement over their 2010 results, tripling their votes (from .1 % to .3 %; .67 % would have been enough to get a seat). As the Pirate Times write, many regions had much higher results, .7 % at the highest.

And there’s still plenty of chances even in this year, not to mention in the upcoming years:

The supporters of Pirate Parties is clearly growing, not only in the Netherlands or Europe but throughout the world. This election was the closest a pirate party has been to enter the national parliament. Next month will not bring any more national elections but several interesting regional ones, the first one being in Czech Republic on 12-13 October followed by Belgium, Australia, Switzerland and Finland.

You can check out all the results, region by region or in total, at Google’s election site.

Vad har internet gjort för dig?

Jag föddes 21 mars 1992 – med andra ord påbörjades mitt skapande samma månad som Tim Berners-Lee postade det första meddelandet på webben i augusti 1991. Jag har växt upp med internet. Jag hade möjligheten att växa upp under en tid när en uppkopplad dator utvecklades från att vara en häftig grej som bara ett fåtal familjer i området hade, till att vara någonting som alla har och använder. Internet har sakta men säkert tagit över mig. På ett fantastiskt sätt.

Internet har fått mig att hålla kontakten med gamla vänner billigare och mer effektivt. Innan internet blev lika vardagligt sms:ade jag hela tiden, en extrem kostnad. Nu har det långsamt ersatts av chatt, antingen genom datorn eller telefonen. Jag sms:ar aldrig med de vänner som använder Google – vi använder ett gratis Google Talk på telefonen. Samtidigt kan jag hålla kontakter genom Facebook, Google+ och Skype på ett sätt som aldrig skulle ha fungerat förut. Jag kunde ha ett gratis videosamtal i två timmar häromnatten med en gammal vän som bor i Norge.

Internet har fått mig att sluta slösa pengar på serietidningar. Jag älskar serier, och jag brukade köpa rätt enorma mängder av dem. Inte mer. Genom internet kan jag följa fantastiska serier som släpps online och överlever på reklam och merchandise, serier som xkcd, SMBC och Wumo. Jag kan följa dem och bara betala när jag kan och när jag vill, och läsa dem när jag vill, hur jag vill, utan att de tar plats.

Internet har fått mig att hjälpa indiekulturen. Genom system som Flattr och Kickstarter kan jag stödja allt från bloggare till musiker och filmskapare med allt från några kronor till flera hundra, helt enkelt för att jag vill se dem fortsätta göra vad de gör. Jag, tillsammans med resten av världen, kan hjälpa musiker, filmskapare, författare och speldesigners att genomföra projekt de aldrig skulle ha kunnat klara av med ett bolag, projekt som ofta är av smal karaktär men som kan hitta sin publik genom internet.

Internet har fått mig att sluta konsumera traditionella media. När jag använt internet allt mer har jag också allt mer upptäckt hur dålig mycket traditionell media är. Du kan aldrig få en fullständig och objektiv syn på världshändelser av att läsa en enda tidning eller en enda TV-kanalen, oavsett om det är Aftonbladet, New York Times, TV4 eller Fox. Genom internet kan jag följa hundratals kanaler, både enorma företag och mindre, ideella grupper. En hel del är ideologiska, men det fungerar om man använder sund skepticism som man ska göra i alla fall. Jag läser idag aldrig tidningar, och jag ser aldrig på TV. Allt sker på internet.

Internet har gjort mig till en aktivist. Jag brukade vara fullständigt ointresserad av politik. Nu brinner jag för det. Internet har hjälpt mig att upptäcka vad som är fel med världen, och har pekat på vad som går att göra. Jag kan donera vaccin till Afrika. Jag kan stå på rätt sida i kriget mot censur. Jag kan gråta för de döda, jag kan slåss för att vi aldrig ska få se det igen, och jag kan stödja de som kämpar för fred i en brinnande värld.

Jag älskar dig, internet. Jag älskar er som utgör internet. Jag älskar den värld vi siktar mot, den värld vi kommer att nå.

Vad har internet gjort för dig?

Missad chans att försvara det gemensamma kunskapskapitalet

Jag och Kristofer Pettersson skriver (under mitt namn) i dagens DN Debatt om jakten på ett gemensamt kunskapskapital. Jag återpublicerar den här så att den inte försvinner bort i internetland. Och kommentarer är avstängda här, så gå dit och kommentera istället.

För övrigt känns det jättedumt att stå som enda underskrift på en debattartikel jag skrivit tillsammans med någon så trevlig som Kristofer, men det var lösningen för att göra texten mer personlig, och jag är tydligen en offentlig figur som kan få in debattartiklar i DN.

Det händer, men inte ofta, att jag hittar en livboj i nyheternas strida floder av arbetslöshet, våldsbrott och främlingsfientlighet. En sådan boj erbjöd dagens DN.

Titeln var “hållbar forskning kräver samarbete mellan blocken” och signerades en socialdemokrat och en miljöpartist. Två etablerade partier som funnit en smal väg bort från en bred, polariserad och tråkig debatt mellan högerhattar och vänstermössor. Underbart! Livet är större och det går att föra politik om möjligheter istället för katastrofer!

Förvånad blev jag när den föreslagna linjen missar att ta tillvara chansen att försvara det gemensamma kultur- och kunskapskapitalet. På ett nästan anti-socialdemokratiskt sätt förefaller syftet vara att stärka enskilda och ofta penningstarka intressen. Jag gick med i Piratpartiet just därför att jag anser att socialism ska kunna förenas med liberalism och inte styras av auktoritet.

Klavertrampet genljuder som starkast i meningar som “innovation innebär att gå från kunskap till värde”. Hur kan de glömma kunskapens alldeles egna värde? Tjänar inte ett samhälle, vårt samhälle, på förstärkt vetenskap och utökad kunskap oavsett den ekonomiska vinsten?

Piratpartiet vill reformera upphovsrätten så att framtidens forskare även i fortsättningen kan dela kunskap med varandra. Vi vill att skattefinansierad forskning kommer alla till nytta genom att släppas fritt. Vi vill att nya företag utan skräck för att bli stämda ska kunna utforska nya forskningsrön och utveckla nya produkter.

Forskningen kommer aldrig att kunna ta sitt nästa steg utan utökat samarbete, vetenskaplig öppenhet, och en helt ny syn på innovation och upphovsrätt. Medan MP och S skriver att ett problem för nyskapare är att finna rätt riskkapital i utvecklingsfaserna, menar vi att det finns betydligt större problem än så. Idag plågas innovation av absurda patentlagar som gör det dyrt och svårt för nya innovatörer att ta sig ut på marknaden, speciellt utan det riskkapital som S och MP nämner.

Patent används inte längre för att skydda grundläggande nyskapelser, utan för att peka ut marginella likheter mellan en ny produkt och ett existerande patent och använda dem för att stoppa konkurrens. Detta belystes nyligen när försäljning av mobiltelefonen Galaxy Nexus stoppades i USA för att den var för lik iPhonen. Liknande problem återkommer ofta i både forskning och innovation. En ordentlig patentreform krävs omgående för att förbättra forskningsmiljön.

För att inspirera samarbetet bör också skattefinansierade universitet bidra till det allmänna kunskapskapitalet genom att offentliggöra sina resultatet på lättåtkomliga och öppna ytor, där intresserade forskare och privatpersoner kan studera och arbeta vidare på den senaste forskningen. Om vi på allvar vill nå nya vetenskapliga och teknologiska höjder måste vi komma ifrån ett primitivt, individualistiskt system och vi måste arbeta tillsammans med ett gemensamt kunskapskapital.

Individuell jakt på ekonomisk vinst är naturligtvis lovvärt men transparens, samarbete och det nyfikna strävandet efter kunskap måste prioriteras. Innovativ framåtanda och förstärkt ekonomi kommer då att följa naturligt, tillsammans med de många andra fördelar som kommer av en allmänbildad befolkning.

Anton Nordenfur, styrelseledamot Piratpartiet

Android pattern locks are apparantly a whole lot safer than I thought

I don’t really have incredibly important information on my cell phone, but it’s still nice to know it’s somewhat protected. Like anyone else I have e-mails, text messages, contacts, photos and passwords to some websites on it, and so I obviously use the built-in Android pattern lock, which requires the user to enter a specific touch pattern before locking up the phone. I have never considered it a safe way of protecting my information, but more like a way of disrupting anyone who wants to take a quick peak, if I drop my phone, leave it on a desk, or if it’s stolen. It’s a good way of making it harder for anyone who wants to look at it, but I assumed that just like a regular computer password or a lock on a bag, just about anyone who wants to unlock it can, if they try hard enough.

But apparently it’s better than I thought. The FBI are currently struggling with unlocking a suspect’s Android phone, failing to get past the pattern lock, and they have now contacted Google – the manufacturer of Android – for help.

Still, any lock should always be seen as a delayer. History has shown us that just about any lock can be broken through by just about anyone who knows how to google or know what people to contact. Collection all your information at a single place – be it in a drawer, in a cell phone, on a computer or at Google Docs – is just stupid. Plus, according to a 2010 CNET article, the smudges left on the touch screen can easily reveal your pattern long after you recorded it, even if you swipe it off. I couldn’t detect any patterns on my own phone when testing, but I’m sure it would show up if you take a photo and play around a little on the photo processor of your choosing. That said, I can imagine that the easy way of getting around it is to simply change your pattern once in a while (which also hinders ninjas peaking over your shoulder).

ars technica · CNET · Ubergizmo (image source)