Goda nyheter för barn och föräldrar: Microsoft meddelade igår (jan. 9) att det kommer att jaga online-sexuella rovdjur med artificiell intelligens för att skanna chattar på jakt efter potentiell barnvård.

Barnvård är en metod som används för att locka potentiella offer. Rovdjuret pratar helt enkelt med ett riktat barn under en lång tid för att få barnet att känna sig trygg och bekväm. Om det lyckas kan grooming leda till sexuella övergrepp online, vilket kan innebära att barn tvingas skicka sexuella videor och träffa dem fysiskt.

Hur fungerar Microsofts strategi?

Project Artemis använder artificiell intelligens för att kontinuerligt övervaka chattar med barn för att upptäcka konversationer som kan tolkas som grooming.

Tekniken, säger Microsoft, "utvärderar och betygsätter konversationsegenskaper och tilldelar en övergripande sannolikhetsbedömning.

"Det här betyget kan sedan användas som en bestämmare, fastställd av enskilda företag som implementerar tekniken, när en flaggad konversation ska skickas till mänskliga moderatorer för granskning." 

Mänskliga moderatorer kunde sedan utvärdera innehållet och identifiera ”överhängande hot för hänvisning till brottsbekämpning, liksom incidenter av misstänkt sexuellt utnyttjande av barn till Nationellt centrum för saknade och exploaterade barn (NCMEC) ”.

Enligt Microsoft, "NCMEC, tillsammans med ECPAT International, INHOPPA och den Internet Watch Foundation (IWF), gav värdefull feedback under hela samarbetsprocessen. ”

Integritetsfrågor

Naturligtvis väcker denna mänskliga moderationsfaktor en oro för integritet. Det skulle inte vara första gången som verktyg som påstås användas för vår säkerhet missbrukas. Å andra sidan kan sådana känsliga frågor inte lämnas i händerna på en AI-algoritm.

Testar i flera år

Microsoft säger att det nya verktyget, kallat Project Artemis, har utvecklats under de senaste 14 månaderna i samarbete med The Meet Group, Roblox, Kik och Thorn, med början i november 2018 Microsoft “360 Cross-Industry Hackathon”, ett evenemang som sponsras av WePROTECT Global Alliance och den Child Dignity Alliance.

Programvarugiganten säger att den framgångsrikt har använt Project Artemis underliggande tekniker i Xbox Live "i flera år". Nu vill det integrera Project Artemis-verktyget i Skype, dess chattesystem med flera plattformar.

Ännu bättre är Project Artemis nu tillgängligt för alla företag som vill integrera sin programvara. Utvecklare som är intresserade av att licensiera denna teknik kan kontakta Tagg börjar idag 10 januari.

'På ingen sätt ett universalmedel'

Microsoft varnade för att Project Artemis inte skulle upphöra med barnmisshandel online.

”Project Artemis är ett viktigt steg framåt, men det är inte alls ett universalmedel”, säger företaget i sitt tillkännagivande. ”Sexuellt utnyttjande och missbruk av barn på nätet och upptäckt av barnvård online är viktiga problem. Men vi är inte avskräckta av komplexiteten och komplexiteten i sådana frågor. ” 

Tidigare denna vecka meddelade Apple vid en CES 2020sekretessbord att det skannar användarkonton för kända bilder av barnpornografi och barnmisshandel. Apples chef för sekretess, Jane Horvath, sa att om Apple hittar några sådana bilder flaggas användarkontona automatiskt, (London) Telegraph rapporterade.

Apple specificerade inte exakt hur det gör det, men dess egen beskrivning av processen verkar matcha en teknik som utvecklats gemensamt av Microsoft och Dartmouth College. PhotoDNA, som The Telegraph sa också används av Google, Facebook och Twitter. (PhotoDNA är också van vid spåra terrorismrelaterat innehåll.)

PhotoDNA jämför nya bilder med en databas med kända bilder av barnmissbruk som redan har upptäckts och flaggats av myndigheter. Det fungerar också med ljud och video i viss utsträckning. Men PhotoDNA kan inte förhindra grooming och framtida missbruk, som Project Artemis är utformat för att göra.

Få omedelbar tillgång till nyheter, de hetaste recensionerna, bra erbjudanden och hjälpsamma tips.

Tack för att du registrerade dig i Toms guide. Du kommer att få ett verifieringsmeddelande inom kort.

Det var ett problem. Uppdatera sidan och försök igen.

Ingen skräppost, vi lovar. Du kan när som helst avsluta prenumerationen så kommer vi aldrig att dela dina uppgifter utan ditt tillstånd.