Dobrá správa pre deti a rodičov: Spoločnosť Microsoft oznámila včera (jan. 9) že bude loviť online sexuálnych predátorov pomocou umelej inteligencie na skenovanie chatov pri hľadaní potenciálnej starostlivosti o deti.

Starostlivosť o deti je metóda používaná na prilákanie potenciálnych obetí. Predátor sa jednoducho dlho rozpráva s cieľovým dieťaťom, aby sa dieťa cítilo bezpečne a pohodlne. Ak bude starostlivosť úspešná, môže viesť k sexuálnemu zneužívaniu online, čo môže zahŕňať nútenie detí k sexuálnym videám a fyzickým stretnutiam.

Ako funguje prístup spoločnosti Microsoft?

Projekt Artemis využíva umelú inteligenciu na nepretržité sledovanie rozhovorov s deťmi, aby zistila konverzáciu, ktorú je možné interpretovať ako starostlivosť.

Táto technika, hovorí Microsoft, „hodnotí a hodnotí charakteristiky konverzácie a priraďuje celkové hodnotenie pravdepodobnosti.

„Toto hodnotenie je potom možné použiť ako určujúci prostriedok, stanovený jednotlivými spoločnosťami implementujúcimi túto techniku, pokiaľ ide o to, kedy by sa označená konverzácia mala poslať ľudským moderátorom na kontrolu.“ 

Ľudskí moderátori by potom mohli vyhodnotiť obsah a identifikovať „bezprostredné hrozby pre postúpenie orgánom činným v trestnom konaní, ako aj prípady podozrenia na sexuálne vykorisťovanie detí Národné centrum pre nezvestné a zneužívané deti (NCMEC) “.

Podľa spoločnosti Microsoft „NCMEC spolu s ECPAT International, NÁDEJ a Internet Watch Foundation (IWF), poskytol cennú spätnú väzbu počas celého procesu spolupráce. “

Ochrana súkromia

Tento ľudský moderačný faktor samozrejme vzbudzuje obavy o súkromie. Nebolo by to prvýkrát, čo by boli zneužité nástroje, ktoré sa údajne používajú na našu bezpečnosť. Na druhej strane, také citlivé záležitosti nemôžu zostať všetko v rukách algoritmu AI.

Testovanie roky

Microsoft hovorí, že nový nástroj s názvom Project Artemis, bol vyvinutý posledných 14 mesiacov v spolupráci so spoločnosťami The Meet Group, Roblox, Kik a Thorn, počnúc novembrom 2018 „360-odvetvový hackathon“ spoločnosti Microsoft, udalosť, ktorú sponzoruje WEPROTECT Global Alliance a Aliancia detskej dôstojnosti.

Softvérový gigant tvrdí, že „po celé roky“ úspešne používal základné techniky projektu Artemis v službe Xbox Live. Teraz sa snaží začleniť sadu nástrojov Project Artemis do Skype, svojho multiplatformného chatovacieho systému.

Ešte lepšie je, že Project Artemis je teraz k dispozícii pre každú spoločnosť, ktorá chce začleniť svoj softvér. Vývojári, ktorí majú záujem o licenciu na túto technológiu, sa môžu obrátiť Tŕň počnúc dneškom 10. januára.

„V žiadnom prípade nie je všeliekom“

Spoločnosť Microsoft varovala, že Project Artemis neskončí so zneužívaním detí online.

„Projekt Artemis je významným krokom vpred, ale v žiadnom prípade nejde o všeliek,“ uviedla spoločnosť vo svojom oznámení. „Sexuálne vykorisťovanie a zneužívanie detí online a detekcia starostlivosti o deti online sú vážnymi problémami. Nás však neodrádza zložitosť a zložitosť takýchto problémov. “ 

Začiatkom tohto týždňa spoločnosť Apple oznámila na CES 2020súkromný okrúhly stôl že skenuje v používateľských účtoch známe obrázky detskej pornografie a zneužívania detí. Jane Horvath, vedúca oddelenia ochrany osobných údajov spoločnosti Apple, uviedla, že ak Apple nejaké takéto obrázky nájde, používateľské účty sa automaticky označia ako (Londýn) Informoval telegraf.

Apple presne nešpecifikoval, ako to robí, ale zdá sa, že jeho vlastný popis procesu zodpovedá technológii, ktorú spoločne vyvinuli Microsoft a Dartmouth College s názvom PhotoDNA, ktoré podľa The Telegraph používajú aj Google, Facebook a Twitter. (PhotoDNA je tiež zvyknutá na sledovať obsah súvisiaci s terorizmom.)

Aplikácia PhotoDNA porovnáva nové obrázky s databázou známych obrázkov zneužívania detí, ktoré už orgány odhalili a označili. Do istej miery to funguje aj so zvukom a videom. Ale PhotoDNA nemôže zabrániť starostlivosti a budúcemu zneužívaniu, ako to projekt Artemis robí.

Získajte okamžitý prístup k najaktuálnejším novinkám, najaktuálnejším recenziám, skvelým obchodom a užitočným tipom.

Ďakujeme, že ste sa zaregistrovali do Tomovho sprievodcu. Čoskoro dostanete overovací e-mail.

Bol tu problém. Obnovte stránku a skúste to znova.

Žiadny spam, sľubujeme. Odber môžete kedykoľvek zrušiť a nikdy nebudeme zdieľať vaše podrobnosti bez vášho súhlasu.