Microsoft säger att ansiktsigenkänning behöver statlig reglering och uppmanar teknikföretag att vara etiska

Microsoft, WinBeta

Med ansiktsigenkänningsteknologi som används i ökad takt, både i företag, regeringar och konsumenter, har Microsofts president och Chief Legal Office, Brad Smith, uppmanat teknikföretag i branschen att följa sina etiska skyldigheter samt uppmanar till regeringar att skapa regler, med Microsoft som tror att detta kommer att skapa en friskare industri i en konkurrensutsatt miljö.

Diskuterade i Microsofts blogg 'On The Issues' , Beskriver Brad Smith sina och Microsofts tankar om ansiktsigenkänning och vad som behöver åtgärdas.

Smith tittade på de positiva effekter som framsteg inom ansiktsteknik kan leda till, till exempel att hitta ett saknat barn, eller att hjälpa polisen att identifiera en terrorist eller till och med hjälpa till i det dagliga livet genom att använda en smartphone och app för att hjälpa en blind person att veta vem som just har gått in i ett möte rum.

Vissa nya användningsområden är både positiva och potentiellt till och med djupgående. Föreställ dig att hitta ett ungt barn som saknas genom att känna igen henne när hon går ner på gatan. Tänk dig att hjälpa polisen att identifiera en terrorist som är benägen att förstöra när han går in på arenan där du deltar i ett sportevenemang. Föreställ dig en smarttelefonkamera och app som berättar för en person som är blind namnet på den person som just har gått in i ett rum att delta i ett möte.

Tekniken, som med de flesta saker, kommer dock med sina nackdelar, och det är här Smith vill att regeringen och teknikföretagen ska vidta åtgärder. Några av de frågor som kan hända, och i vissa fall redan händer, inkluderar:

• Regeringar som spelar in överallt där du går
• En databas över personer som deltog i ett politiskt möte
• Butiker som delar information om varje hylla du tittar på och de produkter du köper utan att fråga

Men andra potentiella applikationer är mer nykterande. Föreställ dig en regering som spårar överallt där du gick den senaste månaden utan din tillåtelse eller vetskap. Föreställ dig en databas över alla som deltog i ett politiskt möte som utgör själva kärnan i yttrandefriheten. Föreställ dig att butikerna i ett köpcentrum använder ansiktsigenkänning för att dela information med varandra om varje hylla som du bläddrar i och produkter du köper, utan att fråga dig först. Detta har länge varit saker av science fiction och populära filmer - som 'Minority Report', 'Enemy of the State' och till och med '1984' - men nu är det på väg att bli möjligt.

Företaget anser att ett ”gemensamt regelverk” behövs. Detta kommer att bidra till att skapa en sund industri, samtidigt som det säkerställs att etiska ansvar följs och skapa lika villkor för alla företag som känner till de regler de behöver följa, vilket i sin tur skulle skapa stabilitet för branschen. Skisserar några av de frågor som både regeringar och företag behöver ta itu med, säger Smith:

• Bör brottsbekämpande användning av ansiktsigenkänning vara föremål för mänsklig tillsyn och kontroller, inklusive begränsningar för användningen av tekniken för oigenkännlig ansiktsigenkänning som bevis på en individs skuld eller oskyldighet för ett brott?
• På samma sätt bör vi se till att det finns civil övervakning och ansvarsskyldighet för användningen av ansiktsigenkänning som en del av statlig nationell säkerhetsteknik?
• Vilka typer av rättsliga åtgärder kan förhindra användning av ansiktsigenkänning för rasprofilering och andra kränkningar av rättigheter samtidigt som teknologin tillåter nytta?
• Bör användning av ansiktsigenkänning av offentliga myndigheter eller andra vara föremål för minimala prestandanivåer för noggrannhet?
• Bör lagen kräva att återförsäljare lägger synliga meddelanden om att de använder ansiktsigenkänningsteknik i offentliga utrymmen?
• Borde lagen kräva att företag får förhandsgodkännande innan de samlar in enskildes bilder för ansiktsigenkänning? Om så är fallet, i vilka situationer och platser bör detta gälla? Och vad är det rätta sättet att be om och få sådant samtycke?
• Ska vi se till att individer har rätt att veta vilka bilder som har samlats in och lagrats som har identifierats med deras namn och ansikten?
• Ska vi skapa processer som ger juridiska rättigheter för individer som tror att de har identifierats felaktigt av ett ansiktsigenkänningssystem?

Microsofts problem med ansiktsigenkänningsteknik lyfts nyligen fram under separationen av invandrarbarnskandalen, där Microsoft anklagades för att hjälpa till med ansiktsigenkänningsteknik för ICE. Företaget har sagt att dess kontrakt inte inkluderar ansiktsigenkänningsteknik, och att det inte har hjälpt till att separera barn från invandrarfamiljer.