يستخدم TikTok الآن الذكاء الاصطناعي لانتهاكات المستخدم - وإليك ما يعنيه ذلك بالنسبة لك
ستستخدم TikTok الذكاء الاصطناعي للمساعدة في إزالة المحتوى المخالف على نظامها الأساسي ، لكن هل هذا كافٍ؟ لقد طلبنا من ثلاثة خبراء التفكير في الأمر.
TikTok يتطور ، المنصة الآن عمرها أربع سنوات فقط ولكن لديها أكثر من مليار مستخدم ومتاحة في أكثر من 150 دولة. حتى أنها تفوقت على Youtube و Instagram و WhatsApp و Facebook Messenger من حيث التنزيلات ، حيث حققت 33 مليونًا في ربع واحد في عام 2019 ، وفقًا لـ برج الاستشعار.
لذلك حتى لو لم تكن تستخدم TikTok ، فمن المحتمل أن يكون هناك شخص واحد تعرفه على الأقل. تابع القراءة لمعرفة كيف تتطلع المنصة إلى أن تصبح أكثر أمانًا لمستخدميها وما يعتقده الخبراء بشأن التغييرات الأخيرة.
أعلنت TikTok مؤخرًا أنها ستبدأ في استخدام التكنولوجيا لإزالة بعض أنواع الانتهاكات تلقائيًا المحتوى الذي سيتم تحديده عند تحميله ، بالإضافة إلى المحتوى الذي تمت إزالته يدويًا بواسطة أمانه فريق.
تدعي TikTok أنه سيتم حجز الأتمتة لفئات المحتوى حيث تتمتع تقنيتها بأعلى دقة وستبدأ الانتهاكات المتعلقة بسلامة القاصرين وعُري البالغين والأنشطة الجنسية والمحتوى العنيف والرسومات والأنشطة غير القانونية والمنظمة بضائع.
تدعي الشركة أيضًا أنها ستحاول الاستمرار في تحسين دقة التكنولوجيا لتجنبها عمليات الإزالة غير الصحيحة ، ومع ذلك ، يمكن لمنشئي المحتوى استئناف إزالة مقطع الفيديو الخاص بهم مباشرةً إذا شعروا أنه تم ذلك بشكل غير عادل.
يحسب النظام الجديد الانتهاكات التي يرتكبها المستخدم ، مع ملاحظة خطورة وتكرار أي انتهاكات. سيتم إخطار المستخدم بالعواقب ، والتي يمكن العثور عليها في قسم تحديثات الحساب في صندوق الوارد الخاص به.
سيؤدي الانتهاك الأول للمستخدم إلى تحذير ما لم يكن الانتهاك سياسة عدم التسامح مطلقًا ، وفي هذه الحالة سيتم حظره. بعد الانتهاك الأول ، سيتم تعليق حساب المستخدم لمدة 24 إلى 48 ساعة ، حسب على الخطورة ، حيث لن يتمكنوا في ذلك الوقت من تحميل الفيديو أو التعليق أو تعديل ملفات الملف الشخصي.
بعد عدة انتهاكات ، سيتم إخطار المستخدم بأن حسابه على وشك الحظر ، وإذا استمر السلوك ، فسيتم حذف الحساب نهائيًا.
"نعم. قبل ذلك ، كان على الوسطاء البشريين تأكيد الانتهاك قبل إزالة شيء ما. البشر بطيئون والقوى البشرية محدودة ، مما قد يسمح لجزء منتهك من المحتوى بالانتشار من قبل قال بول بيشوف ، محامي الخصوصية في شركة Comparitech ، لـ Trusted المراجعات.
"تعمل TikTok على إزالة عنق الزجاجة البشري من الحالات الأكثر وضوحًا والتي تكون فيها أنظمتها الآلية واثقة بشكل معقول من حدوث انتهاك."
سيكون نظام الذكاء الاصطناعي قادرًا على العمل بشكل أسرع من الفريق البشري ، ويعتقد كريس هوك أيضًا أن الأنظمة الآلية أكثر دقة.
"لا تخضع الأنظمة الآلية لخطأ بشري أو لإرهاق. يمكن أن يعمل النظام الآلي على مدار الساعة طوال أيام الأسبوع لإزالة جزء من المحتوى المخالف. من غير المحتمل أيضًا أن تزيل الأنظمة الآلية (أو لا تزيل) جزءًا من المحتوى ، وذلك ببساطة بسبب رأي الإنسان في أوضح كريس هوك ، بطل خصوصية المستهلك في Pixel Privacy ، لموقع Trusted المراجعات.
"حتما سوف. ستكون هناك بالتأكيد مشاكل في التسنين من شأنها أن تتسبب في تسرب بعض المحتوى العنيف وكذلك حدوث إيجابيات كاذبة. سوف يستغرق الأمر وقتًا حتى يتم تحسين خوارزميات TikTok بما يكفي لتجنب سوء تصنيف محتوى الفيديو هذا ، "قال توم جافني ، مستشار الأمن لشركة F-Secure ، لـ Trusted Reviews.
"على المدى الطويل ، سيكون من المثير للاهتمام معرفة كيفية تصنيف المحتوى في مناطق مختلفة. في هذه الحالة ، تم تجربة السياسة على استخدام مواضيع أمريكية وكندية ، لكن الأعراف الاجتماعية تختلف في جميع أنحاء العالم ، لذا ستكون هناك بعض الأخطاء. ومضى جافني ليقول إن لدي بعض التعاطف مع TikTok بشأن هذه المسألة لأنها كيان تجاري يُطلب منه "مراقبة" محتوى الإنترنت.
ليس من غير المعتاد أن تستخدم منصة التواصل الاجتماعي الذكاء الاصطناعي للمساعدة في إزالة المحتوى المخالف أو المسيء ، الحافة أبلغت عن استخدام Facebook للذكاء الاصطناعي لفرز المحتوى للإشراف بشكل أسرع في عام 2020.
ومع ذلك ، نظرًا لكون النظام الآلي جديدًا نسبيًا على TikTok ، وافق Bischoff على أن النظام الأساسي قد يواجه صعوبة في تحديد المحتوى الجدير بالإزالة بشكل صحيح.
"من المحتم أن يخطئ نظام آلي كهذا أحيانًا في تعريف شيء ما على أنه انتهاك. في ظل النظام الجديد ، يمكن إزالة المحتوى دون إشراف بشري. وأوضح بيشوف أن TikTok ستحاول التقليل من النتائج الإيجابية الزائفة إلى درجة معقولة ولا تزال تسمح باستئناف عمليات الإزالة التلقائية.
هل Instagram آمن؟ هذا ما يقوله الخبراء
تسرق تطبيقات Android هذه كلمة مرور Facebook الخاصة بك
هل Telegram آمن؟ طلبنا من ثلاثة خبراء أمنيين أن يفكروا في الأمر
يُعتقد أن النظام سيحتاج إلى "تعليم" ما يجب وما لا يجب إزالته ، على الرغم من أن هذه الأنظمة ليست دائمًا مثالية. أثناء الوباء ، كان YouTube مذنبًا بإزالة محتوى الفيديو الذي لا يتعارض مع سياسة الشركات ، حيث إن تدابير حماية الموظفين تعني أن الذكاء الاصطناعي لم يكن مدعومًا بالمراجعة البشرية ، مثل تم عمل تقرير بواسطة أزمة التكنولوجيا.
"يحتوي TikTok على عدد من الأدوات لمساعدة الآباء على الحد من تعرض الأطفال للمحتوى. يمكن للوالدين ضمان استخدام الأطفال للإعدادات العمرية المناسبة على التطبيق أو للحصول على أفضل استخدام للحماية "ميزة الاقتران" ، التي تسمح للآباء بمزيد من الضوابط الدقيقة "، أوضح جافني لـ Trusted المراجعات.
يدعي Hauk أيضًا أن الإبلاغ عن المحتوى الذي لا تريد التفاعل معه سيساعد الخوارزمية على فهم تفضيلاتك بشكل أفضل وما يجب وما لا يجب السماح به على الموقع.
"يجب على [المستخدمين] الإبلاغ عن المحتوى الذي يشعرون أنه ينتهك معايير مجتمع النظام الأساسي. على الرغم من أن المحتوى قد لا تتم إزالته على الفور ، إلا أن التقارير تساعد النظام الآلي على التعلم والتحسين.
يمكن للمستخدم الإبلاغ عن مقاطع الفيديو والحسابات على TikTok باتباع الإرشادات التالية:
للإبلاغ عن مقطع فيديو على TikTok:
- انتقل إلى الفيديو الذي تريد الإبلاغ عنه
- اضغط على زر مشاركة
- حدد إبلاغ واتبع التعليمات المتوفرة على الشاشة
للإبلاغ عن حساب على TikTok:
- انتقل إلى الملف الشخصي الذي تريد الإبلاغ عنه
- اضغط على النقاط الثلاث في الجانب الأيمن العلوي من الشاشة لرؤية المزيد من الخيارات
- اضغط على زر إبلاغ
- حدد تقرير الحساب من الخيارات
- اتبع التعليمات التي تظهر على الشاشة لوصف المشكلة
"بينما يجب أن تهتم جميع الشبكات الاجتماعية بالمحتوى المخالف ، يجب أن يكونوا حريصين على عدم تقييد حرية التعبير. يمكن أن تتحول الإجراءات الوقائية بسرعة إلى رقابة إذا لم تتم إزالة المحتوى بشكل عادل ودون تحيز "، علق هوك.
ادعى Bischoff أيضًا أن نظام التعليق الجديد يجب أن يكون فعالًا ، حتى إذا قام المستخدمون الموقوفون أو المحظورون بإنشاء حساب آخر.
"عمليات التعليق فعالة في بعض الحالات وهي جزء ضروري لمنع الأشخاص من إساءة استخدام المنصة. وأوضح بيشوف أنه على الرغم من أن بإمكان شخص ما إنشاء حساب جديد فقط ، فإنه لا يزال يتعين عليه إعادة بناء قاعدة أتباعه.
لم يعلق TikTok على أي ميزة من شأنها تعليق أو حظر الحسابات المرتبطة ببعضها البعض ، ومع ذلك ، سيضطر المستخدم إلى إعادة إنشاء ما يليه إذا اختار إنشاء حساب آخر بعد موقوف عن العمل.
"هذه خطوة استباقية جيدة جدًا من TikTok ، مما يجعلها متقدمة على العديد من شركات الوسائط الاجتماعية الأخرى. ومضى جافني يقول ربما يجب أن يكون السؤال "ما الذي يجب أن تفعله الحكومات أكثر لتمكين جميع شركات وسائل التواصل الاجتماعي من تقديم خدمات مماثلة؟".
"لقد اتخذت TikTok شيئًا من زمام المبادرة هنا ، ولكن من الجنون إلى حد ما أننا نطلب من الشركات التجارية تحديد المحتوى الآمن على الإنترنت."
ومع ذلك ، جادل Gaffney أيضًا بأنه يمكن عمل المزيد للمساعدة في حماية المستخدمين الأصغر سنًا للمنصة ، بالنظر إلى أن التركيبة السكانية الرئيسية لـ TikTok تقل عن 34 عامًا ، مع 32.5 ٪ من المستخدمين الذين تتراوح أعمارهم بين 10 و 19 عامًا ، وفقًا إلى الآونة الأخيرة الإحصاء.
"وتعليق عام من هذا الجانب ، هذه خطوة جيدة من TikTok للمستخدمين والعلاقات العامة الخاصة بها ، ولكن أمامها طريق طويل لنقطعه عندما يتعلق الأمر بالخصوصية. وأوضح جافني أن مصطلحات المستخدم العامة غامضة إلى حد كبير وهناك عدد من الدراسات الجيدة التي تبين أن جمعها للبيانات يفوق حتى تلك الخاصة بشركات التواصل الاجتماعي الأخرى.
"على الرغم من أن هذه النقطة الأخيرة قابلة للنقاش ، إلا أنها بالتأكيد أحد التطبيقات التي تعمل على تحديد ملامح شبابنا. إذا أرادت أن تخطو خطوة أخرى إلى الأمام ، فلماذا لا تضمن عدم جمع أي بيانات تعريف شخصية للمستخدمين الذين تقل أعمارهم عن 18 عامًا والسماح لهم بتجربة الإنترنت دون تسويقها؟ "
إذا كنت قلقًا بشأن بصمتك على الإنترنت ، فتحقق من اختياراتنا لـ أفضل VPN، مما سيساعدك على البقاء في مأمن من الهجمات الخارجية والحفاظ على تشفير جميع بياناتك بحيث تكون غير مرئي عند تصفح الويب.
