Algoritmerna är våra nya lagar som påverkar vardagen

När du kollar på nätet för att veta om något viktigt hänt ser du förstås inte allt som hänt. Alla nyhetssajter anpassar sina flöden efter användarnas preferenser för att nyheterna som presenteras ska upplevas som så relevanta och intressanta som möjligt. Baksidan är att det bidrar till att skapa en filterbubbla, eftersom du bara ser sådant du redan gillar – allt annat är bortfiltrerat.

Det som får detta att hända är algoritmer, matematiska ekvationer som programmerats för att beräkna vilket innehåll som användaren kommer tycka mest om utifrån information som man redan har om användaren, eller data om vad andra användare klickat på.

Det varierar från aktör till aktör, men några vanliga faktorer kan vara vilka typer av inlägg du läst tidigare, vilken tid på dagen det är, vilken telefon du använder, hur gammal du är, vilken plats du befinner sig på eller vilka sajter du besökt tidigare.

algoritmTips-to-Leverage-LinkedIn’s-Algorithm-for-Results

Andra typer av kunddata kan användas för att låta algoritmer räkna ut hur man bäst tillfredsställer kundernas behov och maximerar företagets vinst. Uber använder algoritmer för att förutspå var behovet av bilar kommer att vara störst i en stad vid en given tidpunkt, och låter dem styra den dynamiska prissättningen; när algoritmerna upptäcker att efterfrågan är hög ökar priset. Effekten av detta är att sannolikheten för att hitta en Uber är betydligt mindre i fattiga områden som Rosengård än i rika områden som i Bellevue.

Å ena sidan kan algoritmer filtrera bort perspektiv, vilket gör att människor hamnar i en filterbubbla. Å andra sidan kan de alltså filtrera bort möjligheten att använda vissa tjänster för vissa människor.

En annan typ av diskriminering kan uppstå om en algoritm är programmerad att ta hänsyn till genomsnittliga inkomstnivåer i olika områden i sina kalkyler. Det kan medföra att människor i Rosengård har svårare att få lån, när kreditanalysernas algoritmer drar alla i området över en kam. Och det kan göra att premien för hemförsäkringen varierar per stadsdel, trots att två lägenheter är identiska.

Algoritmisk diskriminering är ett nytt men säkerligen växande problem. Algoritmerna är våra nya lagar som påverkar vardagen, men utan några demokratiska möjligheter att påverka dem. Få företag redovisar idag vilka bevekelsegrunder deras algoritmer har, men sannolikt kommer det att ändras. På samma sätt som livsmedelsföretag behöver redovisa vilka ingredienser som ingår i en sås, och vilken av dem som är viktigast, vore det rimligt att ställa samma krav på företag, som konsumenter och som medborgare.

Publicerad i Sydsvenskan 30/6 2017.