TikTok משתמש כעת ב- AI להפרות משתמשים - הנה המשמעות עבורכם

TikTok תשתמש ב- AI בכדי לסייע בהסרת תוכן מפר על הפלטפורמה שלה, אך האם זה מספיק? ביקשנו משלושה מומחים לשקול.

TikTok מתפתח, הפלטפורמה כיום בת ארבע בלבד, אך יש לה יותר ממיליארד משתמשים והיא זמינה ביותר מ -150 מדינות. זה אפילו ניצח את Youtube, Instagram, WhatsApp ו- Facebook Messenger מבחינת ההורדות, וצבר 33 מיליון ברבעון בודד בשנת 2019, על פי מגדל חיישן.

אז גם אם אתה לא ב- TikTok, סביר להניח שלפחות אדם אחד שאתה מכיר. המשך לקרוא כדי לגלות כיצד הפלטפורמה מחפשת להיות בטוחה יותר עבור המשתמשים שלה ומה מומחים חושבים על השינויים האחרונים.

לאחרונה הודיעה TikTok כי תחל להשתמש בטכנולוגיה להסרת סוגים מסוימים של הפרות באופן אוטומטי תוכן שיזהה עם העלאתו, בנוסף לתוכן שהוסר באופן ידני על ידי בטיחותו קְבוּצָה.

TikTok טוען כי האוטומציה תישמר לקטגוריות תוכן בהן הטכנולוגיה שלה היא בעלת הדיוק הגבוה ביותר ותחל הפרות הנוגעות לבטיחותם של קטינים, עירום של מבוגרים, פעילויות מיניות, תכנים אלימים וגרפיים ופעילויות בלתי חוקיות ומוסדרות סְחוֹרוֹת.

החברה טוענת גם כי תנסה להמשיך ולשפר את דיוק הטכנולוגיה כדי להימנע ממנה הסרות שגויות, עם זאת, יוצרים יכולים לערער ישירות על הסרת הווידיאו שלהם אם הם מרגישים שזה נעשה באופן לא הוגן.

המערכת החדשה סופרת הפרות שביצע משתמש, ומציינת את חומרת ההפרות ותדירותן. המשתמש יקבל הודעה על ההשלכות, אשר ניתן למצוא בסעיף עדכוני חשבון בתיבת הדואר הנכנס שלו.

הפרה ראשונה של משתמש תביא לאזהרה אלא אם כן ההפרה היא מדיניות אפס סובלנות, ובמקרה זה היא תיאסר. לאחר ההפרה הראשונה, המשתמש יושהה את חשבונו למשך 24 עד 48 שעות, בהתאם על החומרה, ובאותה שעה הם לא יוכלו להעלות וידאו, להגיב או לערוך את הסרטונים שלהם פּרוֹפִיל.

לאחר מספר הפרות, המשתמש יקבל הודעה כי חשבונו קרוב לאיסור, ואם ההתנהגות תימשך, החשבון יוסר לצמיתות.

"כן. לפני כן נאלצו המנחים האנושיים לאשר הפרה לפני שמשהו הוסר. בני האדם הם איטיים וכוח האדם מוגבל, מה שעשוי לאפשר להפיץ פיסת תוכן לפני כן זה מוסר, או בכלל לא מוסר ", אמר פול בישוף, עו"ד פרטיות ב- Comparitech, ל- Trusted ביקורות.

"TikTok מסיר את צוואר הבקבוק האנושי ממקרים ברורים יותר בהם המערכות האוטומטיות שלה בטוחים באופן סביר שהתרחשה הפרה."

מערכת AI תוכל לעבוד מהר יותר מצוות אנושי, וכריס האוק גם מאמין שמערכות אוטומטיות מדויקות יותר.

"מערכות אוטומטיות אינן נתונות לטעויות אנושיות או לעייפות. מערכת אוטומטית יכולה לעבוד 24/7 להסרת פיסת תוכן מפרה. גם מערכות אוטומטיות אינן צפויות להסיר (או לא להסיר) פיסת תוכן, פשוט בגלל דעתו של האדם באשר מה עשוי או לא מפר את הסטנדרטים ", הסביר כריס האק, אלוף פרטיות הצרכנים בפיקסל פרטיות, ל- Trusted ביקורות.

"באופן בלתי נמנע זה יהיה. יהיו בוודאות בעיות בקיעת שיניים שיגרמו לתוכן אלים לחמוק ולעבור גם תוצאות חיוביות כוזבות. ייקח זמן עד שאלגוריתמי TikTok יתעדנו מספיק בכדי למנוע סיווג שגוי של תוכן הווידאו הזה ", אמר טום גפני, יועץ האבטחה של F-Secure, ל- Trusted Reviews.

"לטווח הארוך יותר, יהיה מעניין לראות כיצד תוכן מסווג באזורים שונים. במקרה זה, המדיניות נוסתה על שימוש בנושאים אמריקאים וקנדיים, אך הנורמות החברתיות שונות בכל העולם ולכן יהיו טעויות. יש לי הזדהות מסוימת עם TikTok בעניין זה מכיוון שהם ישות מסחרית שמתבקשת "למשטרה" תכני אינטרנט, "המשיך גפני ואמר.

אין זה יוצא דופן שפלטפורמת מדיה חברתית משתמשת ב- AI בכדי לסייע בהסרת תוכן פוגעני או פוגעני, The Verge דיווחה על השימוש של פייסבוק ב- AI למיון תכנים להתמודדות מהירה יותר בשנת 2020.

עם זאת, מכיוון שהמערכת האוטומטית הייתה חדשה יחסית עבור TikTok, בישוף הסכים כי הפלטפורמה עשויה להיאבק בזיהוי נכון של תוכן הראוי להסרה.

"זה בלתי נמנע שמערכת אוטומטית כזו תזהה מדי פעם משהו כהלכה. במערכת החדשה, ניתן להסיר תוכן ללא פיקוח אנושי. TikTok תנסה למזער תוצאות חיוביות שגויות במידה סבירה ועדיין מאפשרת לערער על הסרות אוטומטיות ", הסביר בישוף.

הוא האמין כי יהיה צורך 'ללמד' את המערכת מה עליה ואסור להסיר, אם כי מערכות אלו אינן תמיד מושלמות. במהלך המגפה, YouTube היה אשם בהסרת תוכן וידאו שלא נוגד את מדיניות החברות, מכיוון שאמצעים להגנת הצוות הביאו לכך ש- AI לא נעזר בביקורת אנושית, כמו דווח על ידי קראנץ 'טק.

"ל- TikTok יש מספר כלים שיעזרו להורים להגביל את החשיפה של הילדים לראות את התוכן. הורים יכולים להבטיח שילדים משתמשים בהגדרות הגיל המתאימות באפליקציה או לשימוש בהגנה הטובה ביותר "תכונת הזיווג", המאפשרת להורים שליטה פרטנית יותר ", הסביר גפני ל- Trusted ביקורות.

Hauk גם טוען שדיווח על תכנים שאינך רוצה לקיים אינטראקציה איתם יעזור לאלגוריתם להבין טוב יותר את ההעדפות שלך ומה אסור ואסור לאפשר באתר.

"[על המשתמשים] לדווח על תוכן שלדעתם מפר את תקני הקהילה. למרות שהתוכן לא יכול להסיר באופן מיידי, הדיווחים עוזרים למערכת האוטומטית ללמוד ולהשתפר ", אמר האוק.

משתמש יכול לדווח על סרטונים וחשבונות ב- TikTok על ידי ביצוע ההוראות הבאות:

כדי לדווח על סרטון ב- TikTok:

• עבור לסרטון שאתה רוצה לדווח עליו
• הקש על הלחצן שתף
• בחר דווח ופעל לפי ההוראות המופיעות על המסך

כדי לדווח על חשבון ב- TikTok:

• עבור לפרופיל עליו אתה רוצה לדווח
• הקש על שלוש הנקודות בצד ימין עליון של המסך כדי לראות אפשרויות נוספות
• הקש על הלחצן דווח
• בחר באפשרות דווח חשבון מהאפשרויות
• פעל לפי ההוראות שעל המסך כדי לתאר מה הבעיה

"למרות שכל הרשתות החברתיות צריכות להיות מודאגות מתוכן מפר, עליהן להקפיד לא להגביל את חופש הביטוי. אמצעי הגנה יכולים להפוך במהירות לצנזורה אם הסרת תוכן לא מתבצעת בצורה הוגנת וללא דעות קדומות ", הגיב Hauk.

בישוף טען גם כי מערכת ההשעיה החדשה צריכה להיות יעילה, גם אם משתמשים מושעים או נאסרים יצרו חשבון אחר.

"השעיות יעילות בחלק מהמקרים והן חלק הכרחי במניעת אנשים להתעלל בפלטפורמה. למרות שמישהו יכול פשוט ליצור חשבון חדש, הוא עדיין יצטרך לבנות מחדש את בסיס העוקבים שלו ", הסביר בישוף.

TikTok לא הגיבה על שום תכונה שתשבית או תאסור חשבונות המקושרים זה לזה, עם זאת, משתמש יצטרך לבנות מחדש את הבאים אם יבחר ליצור חשבון אחר לאחר היותו מוּשׁהֶה.

"זהו צעד פרו-אקטיבי טוב למדי של TikTok, ומציב אותם לפני רבים מחברות המדיה החברתית האחרות. אולי השאלה צריכה להיות 'מה עוד על הממשלות לעשות כדי לאפשר לכל חברות המדיה החברתית להציע שירותים דומים?', המשיך גפני ואמר.

"TikTok לקחה כאן משהו, אבל זה קצת מטורף שאנחנו מבקשים מחברות מסחריות להחליט איזה תוכן בטוח באינטרנט."

עם זאת, גפני טען גם שניתן לעשות יותר כדי להגן על המשתמשים הצעירים יותר בפלטפורמה, בהתחשב בדמוגרפיה העיקרית של TikTok מתחת לגיל 34, עם 32.5% מהמשתמשים בגילאים 10-19 עד לאחרונה סטָטִיסטִיקָה.

"והערה כללית מהצד הזה, זהו מהלך טוב של TikTok, עבור המשתמשים ועבור יחסי הציבור שלה, אך יש לה דרך ארוכה לעבור בכל הנוגע לפרטיות. תנאי המשתמשים הכלליים די אטומים וישנם מספר מחקרים טובים המראים כי אוסף הנתונים שלה עולה על זה אפילו של חברות מדיה חברתית אחרות ", הסביר גפני.

"אמנם ניתן להתווכח על הנקודה האחרונה הזו אך בהחלט אפליקציה שמטפלת בצעירותנו. אם היא רצתה ללכת צעד אחד קדימה, מדוע שלא תבטיח לאסוף שום נתוני משתמש המאפשרים זיהוי אישי מתחת לגיל 18 ולאפשר להם לחוות את האינטרנט מבלי להיות ממוסחר? "

אם אתה מודאג לגבי טביעת הרגל המקוונת שלך, עיין בבחירות שלנו ל ה- VPN הטוב ביותר, שיעזרו לך להישאר מפני התקפות חיצוניות ולשמור על הצפנת כל הנתונים שלך כך שאתה לא נראה בעת הגלישה באינטרנט.