Çocuklar ve ebeveynler için iyi haber: Microsoft duyurdu dün (Ocak. 9) potansiyel çocuk bakımı arayışında sohbetleri taramak için yapay zeka kullanarak çevrimiçi cinsel avcıları avlayacağını.

Çocuk bakımı, potansiyel kurbanları cezbetmek için kullanılan bir yöntemdir. Yırtıcı, çocuğu güvende ve rahat hissettirmek için uzun bir süre hedeflenen bir çocukla konuşur. Başarılı olursa, tımar çevrimiçi cinsel istismara yol açabilir ve bu da çocukları cinsel videolar göndermeye ve onlarla fiziksel olarak tanışmaya zorlamayı içerebilir.

Microsoft'un yaklaşımı nasıl işliyor?

Artemis Projesi, tımar olarak yorumlanabilecek konuşmaları tespit etmek için çocuklarla yapılan sohbetleri sürekli izlemek için yapay zeka kullanıyor.

Teknik, diyor Microsoft, "konuşma özelliklerini değerlendirip derecelendiriyor ve genel bir olasılık değerlendirmesi atıyor.

"Daha sonra bu derecelendirme, tekniği uygulayan bağımsız şirketler tarafından belirlenen ve işaretli bir görüşmenin gözden geçirilmek üzere insan moderatörlere ne zaman gönderilmesi gerektiğine dair bir belirleyici olarak kullanılabilir." 

İnsan moderatörleri daha sonra içerikleri değerlendirebilir ve “kolluk kuvvetlerine sevk için yakın tehditleri ve ayrıca çocuklara yönelik cinsel istismardan şüphelenilen olayları belirleyebilirler. Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezi (NCMEC) ”.

Microsoft'a göre "NCMEC, ECPAT Uluslararası, UMUTLA ve İnternet İzleme Vakfı (IWF), işbirliği süreci boyunca değerli geri bildirimler sağladı. "

Mahremiyet kaygısı

Tabii ki, bu insan ılımlılık faktörü, mahremiyet için bir endişe uyandırıyor. Güvenliğimiz için kullanıldığı iddia edilen araçların kötüye kullanılması ilk kez olmayacak. Öte yandan, bu tür hassas konuların tümü bir yapay zeka algoritmasının eline bırakılamaz.

Yıllarca test

Microsoft, Project Artemis adlı yeni aracın, Kasım 2018'den itibaren The Meet Group, Roblox, Kik ve Thorn ile birlikte son 14 aydır geliştirilmiştir. Microsoft "360 Sektörler Arası Hackathon"ortak sponsorluğunda bir etkinlik WePROTECT Global Alliance ve Çocuk Onuru İttifakı.

Yazılım devi, Project Artemis'in temel tekniklerini Xbox Live'da "yıllarca" başarıyla kullandığını söylüyor. Şimdi ise Project Artemis araç setini çok platformlu sohbet sistemi olan Skype'a dahil etmek istiyor.

Daha da iyisi, Project Artemis artık yazılımını dahil etmek isteyen her şirket tarafından kullanılabilir. Bu teknolojiyi lisanslamakla ilgilenen geliştiriciler iletişime geçebilir Diken bugün başlıyor, 10 Ocak.

'Hiçbir şekilde her derde deva'

Microsoft, Project Artemis'in çevrimiçi çocuk istismarına son vermeyeceği konusunda uyardı.

Şirket duyurusunda, "Artemis Projesi ileriye doğru önemli bir adım, ancak hiçbir şekilde her derde deva değil" dedi. "Çevrimiçi ortamda çocuk cinsel istismarı ve istismarı ve çevrimiçi çocuk bakımının tespiti önemli sorunlardır. Ancak bu tür sorunların karmaşıklığı ve karmaşıklığı bizi caydırmıyor. " 

Apple, bu haftanın başlarında CES 2020gizlilik yuvarlak masası kullanıcı hesaplarında bilinen çocuk pornografisi ve çocuk istismarı görüntülerini taradığını. Apple gizlilik baş sorumlusu Jane Horvath, Apple bu tür görüntüler bulursa, kullanıcı hesaplarının otomatik olarak işaretlendiğini söyledi. Telgraf bildirildi.

Apple bunu tam olarak nasıl yaptığını belirtmedi, ancak sürecin kendi açıklaması Microsoft ve Dartmouth College tarafından ortaklaşa geliştirilen bir teknolojiyle eşleşiyor gibi görünüyor: PhotoDNAThe Telegraph'ın söylediği gibi Google, Facebook ve Twitter da kullanılıyor. (PhotoDNA ayrıca terörizmle ilgili içeriği izlemek.)

PhotoDNA, yeni görüntüleri, yetkililer tarafından önceden tespit edilen ve işaretlenen çocuk istismarı görüntüleri veri tabanıyla karşılaştırır. Bir dereceye kadar ses ve video ile de çalışır. Ancak PhotoDNA, Project Artemis için tasarlandığı için tımarlamayı ve gelecekteki kötüye kullanımı engelleyemez.

Flaş haberlere, en yeni incelemelere, harika fırsatlara ve faydalı ipuçlarına anında erişin.

Tom's Guide'a kaydolduğunuz için teşekkür ederiz. Kısa süre içinde bir doğrulama e-postası alacaksınız.

Bir problem vardı. Lütfen sayfayı yenileyin ve tekrar deneyin.

Spam yok, söz veriyoruz. İstediğiniz zaman aboneliğinizi iptal edebilirsiniz ve izniniz olmadan bilgilerinizi asla paylaşmayız.