بشرى سارة للأطفال والآباء: أعلنت مايكروسوفت أمس (يناير. 9) أنها ستلاحق المحتالين الجنسيين عبر الإنترنت باستخدام الذكاء الاصطناعي لفحص الدردشات بحثًا عن رعاية الطفل المحتملة.

تعتبر العناية بالطفل طريقة تستخدم لجذب الضحايا المحتملين. يتحدث المفترس ببساطة مع طفل مستهدف على مدى فترة طويلة من الزمن ليجعل الطفل يشعر بالأمان والراحة. في حالة نجاح الاستمالة ، يمكن أن يؤدي الاستمالة إلى الاعتداء الجنسي عبر الإنترنت ، والذي قد يتضمن إجبار الأطفال على إرسال مقاطع فيديو جنسية ومقابلتهم جسديًا.

كيف يعمل نهج Microsoft؟

يستخدم Project Artemis الذكاء الاصطناعي لمراقبة الدردشات مع الأطفال باستمرار لاكتشاف المحادثة التي يمكن تفسيرها على أنها تهذيب.

تقول Microsoft إن هذه التقنية "تقيِّم خصائص المحادثة وتصنفها وتعطي تقييمًا إجماليًا للاحتمالية.

"يمكن بعد ذلك استخدام هذا التصنيف كمحدد ، تحدده الشركات الفردية التي تطبق التقنية ، فيما يتعلق بوقت إرسال محادثة تم الإبلاغ عنها إلى المشرفين البشريين لمراجعتها." 

يمكن للمشرفين البشريين بعد ذلك تقييم المحتويات وتحديد "التهديدات الوشيكة للإحالة إلى تطبيق القانون ، بالإضافة إلى حوادث الاستغلال الجنسي للأطفال المشتبه بهم إلى 

المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) ".

وفقا لمايكروسوفت ، فإن “NCMEC ، جنبا إلى جنب مع ECPAT الدولية, على امل و ال مؤسسة مراقبة الإنترنت (IWF) ، قدّم تعليقات قيّمة طوال العملية التعاونية ".

مخاوف الخصوصية

بالطبع ، يثير عامل الاعتدال البشري هذا قلقًا بشأن الخصوصية. لن تكون هذه هي المرة الأولى التي يتم فيها إساءة استخدام الأدوات المزعوم استخدامها لأمننا. من ناحية أخرى ، لا يمكن ترك مثل هذه الأمور الحساسة في أيدي خوارزمية الذكاء الاصطناعي.

اختبار لسنوات

وتقول مايكروسوفت إن الأداة الجديدة تسمى Project Artemis, تم تطويره على مدار الأربعة عشر شهرًا الماضية بالتعاون مع The Meet Group و Roblox و Kik و Thorn ، بدءًا من نوفمبر 2018 Microsoft "360 Cross-Industry Hackathon"، وهو حدث تشارك في رعايته نحن نحمي التحالف العالمي و ال تحالف كرامة الطفل.

تقول شركة البرمجيات العملاقة إنها استخدمت بنجاح التقنيات الأساسية لـ Project Artemis في Xbox Live "لسنوات". الآن يتطلع إلى دمج أداة Project Artemis المحددة في Skype ، نظام الدردشة متعدد الأنظمة الأساسية.

والأفضل من ذلك ، أن Project Artemis متاح الآن لأي شركة تريد دمج برامجها. يمكن للمطورين المهتمين بترخيص هذه التكنولوجيا الاتصال شوكة ابتداء من اليوم 10 يناير.

`` بأي حال من الأحوال حلا سحريا "

حذرت Microsoft من أن Project Artemis لن ينهي إساءة معاملة الأطفال عبر الإنترنت.

وقالت الشركة في إعلانها: "يعد مشروع أرتميس خطوة مهمة إلى الأمام ، لكنه ليس بأي حال من الأحوال حلاً سحريًا". "الاستغلال والاعتداء الجنسي على الأطفال عبر الإنترنت والكشف عن رعاية الأطفال عبر الإنترنت من المشاكل الكبيرة. لكننا لا نثني عن تعقيد وتعقيد مثل هذه القضايا ".

في وقت سابق من هذا الأسبوع ، أعلنت شركة Apple في a CES 2020مائدة مستديرة الخصوصية أنه يمسح حسابات المستخدمين بحثًا عن صور معروفة لمواد إباحية للأطفال وإساءة معاملة الأطفال. قالت جين هورفاث ، كبيرة مسؤولي الخصوصية في Apple ، إنه إذا عثرت Apple على أي من هذه الصور ، فسيتم وضع علامة على حسابات المستخدمين تلقائيًا ، (لندن) ذكرت تلغراف.

لم تحدد Apple بالضبط كيف تفعل ذلك ، ولكن يبدو أن وصفها الخاص للعملية يتطابق مع تقنية طورتها Microsoft بالاشتراك مع كلية دارتموث تسمى فوتودنا، والتي قالت صحيفة التلغراف إن جوجل وفيسبوك وتويتر تستخدمها أيضًا. (يستخدم PhotoDNA أيضًا في ملفات تتبع المحتوى المرتبط بالإرهاب.)

يقارن PhotoDNA الصور الجديدة بقاعدة بيانات لصور الاعتداء على الأطفال المعروفة التي تم الكشف عنها بالفعل من قبل السلطات. كما أنه يعمل مع الصوت والفيديو إلى حد ما. لكن PhotoDNA لا يمكنه منع الاستمالة وإساءة الاستخدام في المستقبل ، كما تم تصميم Project Artemis للقيام بذلك.

احصل على وصول فوري إلى الأخبار العاجلة وأحدث المراجعات والصفقات الرائعة والنصائح المفيدة.

شكرًا لك على الاشتراك في دليل Tom. سوف تتلقى رسالة بريد إلكتروني للتحقق قريبا.

كان هناك مشكلة. يرجى تحديث الصفحة وحاول مرة أخرى.

لا بريد مزعج ، نحن نعد. يمكنك إلغاء الاشتراك في أي وقت ولن نشارك بياناتك مطلقًا دون إذنك.