التصنيف: التواصل الاجتماعي

وذكر موقع engadget، تكتسب روبوتات الدردشة عبر الإنترنت القدرة على تحرير الصور وكذلك إنشائها  مع أمثال Shutterstock و Adobe الرائدة، ولكن مع هذه الإمكانات الجديدة المدعومة بالذكاء الاصطناعي، تأتي عيوب مألوفة، مثل التلاعب غير المصرح به أو السرقة التامة للأعمال الفنية والصور الموجودة على الإنترنت، يمكن لتقنيات العلامات المائية أن تساعد في التخفيف من هذا الأخير، في حين أن تقنية “PhotoGuard” الجديدة التي طورها معهد ماساتشوستس للتكنولوجيا CSAIL يمكن أن تساعد في منع الأول. 

تعديلات الصور

ويعمل برنامج PhotoGuard عن طريق تغيير وحدات البكسل المحددة في صورة ما بحيث تعطل قدرة الذكاء الاصطناعي على فهم ماهية الصورة. هذه “الاضطرابات”، كما يشير إليها فريق البحث، غير مرئية للعين البشرية ولكن يمكن للآلات قراءتها بسهولة. 

وتستهدف طريقة الهجوم “المشفر” لإدخال هذه القطع الأثرية التمثيل الكامن للنموذج الخوارزمي للصورة الهدف – الرياضيات المعقدة التي تصف موضع ولون كل بكسل في الصورة – تمنع بشكل أساسي الذكاء الاصطناعي من فهم ما تبحث عنه.

وطريقة الهجوم “الانتشار” الأكثر تقدمًا والمكثفة من الناحية الحسابية تخفي صورة كصورة مختلفة في عيون الذكاء الاصطناعي، وسيحدد الصورة المستهدفة ويحسن الاضطرابات في صورتها بحيث تشبه هدفها، وسيتم تطبيق أي تعديلات يحاول الذكاء الاصطناعي إجراؤها على هذه الصور “المحصنة” على الصور “المستهدفة” المزيفة مما يؤدي إلى إنشاء صورة غير واقعية المظهر. 

وقال طالب الدكتوراه في معهد ماساتشوستس للتكنولوجيا والمؤلف الرئيسي للورقة، هادي سلمان، لـ Engadget: “إن هجوم التشفير يجعل النموذج يعتقد أن صورة الإدخال (المراد تحريرها) هي صورة أخرى (مثل صورة رمادية)”، في حين أن هجوم الانتشار يجبر نموذج الانتشار على إجراء تعديلات على بعض الصور المستهدفة (والتي يمكن أن تكون أيضًا بعض الممثلين الرمادية أو العشوائية). 

ويقدم النهج التعاوني الذي يشمل مطوري النماذج ومنصات الوسائط الاجتماعية وواضعي السياسات دفاعًا قويًا ضد التلاعب غير المصرح به بالصور، وقال سلمان في بيان إن العمل على هذه القضية الملحة له أهمية قصوى اليوم، وبينما يسعدني المساهمة في هذا الحل، هناك حاجة إلى الكثير من العمل لجعل هذه الحماية عملية، تحتاج الشركات التي تطور هذه النماذج إلى الاستثمار في هندسة التحصينات القوية ضد التهديدات المحتملة التي تشكلها أدوات الذكاء الاصطناعي هذه. “

وفي غضون يومين فقط وجد الباحثون 112 حالة معروفة من CSAM عبر 325000 مشاركة على المنصة مع ظهور الحالة الأولى بعد خمس دقائق فقط من البحث.

ولإجراء بحثه، قام مرصد الإنترنت بفحص أكثر 25 حالة شائعة من Mastodon لـ CSAM واستخدم الباحثون أيضًا واجهة برمجة تطبيقات البحث الآمن من Google لتحديد الصور الصريحة، جنبًا إلى جنب مع PhotoDNA، وهي أداة تساعد في العثور على CSAM التي تم الإبلاغ عنها. 

وخلال البحث وجد الفريق 554 قطعة من المحتوى تطابق علامات التصنيف أو الكلمات الرئيسية التي تستخدمها مجموعات الاعتداء الجنسي على الأطفال عبر الإنترنت، والتي تم تحديدها جميعًا على أنها صريحة في “أعلى ثقة” بواسطة البحث الآمن من Google.

وكان هناك أيضًا 713 استخدامًا لأهم 20 علامة تصنيف متعلقة بـ CSAM عبر Fediverse في المنشورات التي تحتوي على وسائط، بالإضافة إلى 1217 مشاركة نصية فقط تشير إلى “تداول CSAM خارج الموقع أو الاستمالة للقصر”، تشير الدراسة إلى أن النشر المفتوح لـ CSAM “منتشر بشكل مزعج، وفقا لتقرير theverge.  

وأشار أحد الأمثلة إلى انقطاع خادم ماستودون إكس واى زد، الممتد الذي لاحظناه في وقت سابق من هذا الشهر، والذي كان حادثة حدثت بسبب إرسال CSAM إلى Mastodon وفي منشور حول الحادث، ذكر المشرف الوحيد على الخادم أنه تم تنبيههم إلى المحتوى الذي يحتوي على CSAM، لكنه أشار إلى أن الاعتدال يتم في أوقات فراغه ويمكن أن يستغرق الأمر ما يصل إلى بضعة أيام حتى تحدث وهذه ليست عملية عملاقة مثل Meta مع فريق عالمي من المقاولين، إنها مجرد شخص واحد.

بينما قالوا إنهم اتخذوا إجراءً ضد المحتوى المعني، وقام مضيف النطاق ماستودون إكس واى زد، بتعليقه على أي حال، مما جعل الخادم غير متاح للمستخدمين حتى يتمكنوا من الوصول إلى شخص ما لاستعادة قائمته. 

وبعد حل المشكلة، قال مسؤول ماستودون دوت إكس واى زد، أن أمين السجل أضاف النطاق إلى قائمة “إيجابية كاذبة” لمنع عمليات الإزالة المستقبلية، ومع ذلك، كما يشير الباحثون ما تسبب في هذا الإجراء لم يكن نتيجة إيجابية خاطئة”.

وقال ديفيد ثيل، أحد الباحثين في التقرير، في تصريح لصحيفة واشنطن بوست: “لقد حصلنا على عدد أكبر من نتائج تحليل الحمض النووي في غضون يومين أكثر مما حصلنا عليه في تاريخ منظمتنا بأكمله في إجراء أي نوع من تحليل وسائل التواصل الاجتماعي ، وهو ليس قريبًا”. ” الكثير منها هو مجرد نتيجة لما يبدو أنه نقص في الأدوات التي تستخدمها منصات الوسائط الاجتماعية المركزية لمعالجة مخاوف سلامة الأطفال.”

ونظرًا لتزايد شعبية الشبكات اللامركزية مثل Mastodon ، فلديك مخاوف بشأن السلامة لا تستخدم الشبكات اللامركزية نفس النهج في الاعتدال مثل المواقع الرئيسية مثل Facebook و Instagram و Reddit، بدلاً من ذلك، يُمنح كل مثيل لامركزي التحكم في الاعتدال ، مما قد يؤدي إلى عدم اتساق في جميع أنحاء الفيدرالية. 

ولهذا السبب يقترح الباحثون أن شبكات مثل Mastodon تستخدم أدوات أكثر قوة للمشرفين، جنبًا إلى جنب مع تكامل PhotoDNA وتقارير CyberTipline.

وفقا لما ذكرته صحيفة “ديلى ميل” البريطانية، تشمل الشخصيات الجديدة رؤوس تهتز عموديًا وأفقيًا، يمكن للمستخدمين أيضًا توقع أربعة رموز تعبيرية عائلية جديدة جديدة، وتوجد شخصيات أخرى لشخص يمشى ويركض، وآخر يركع، ومعهم شخص بعصا، وبعضهم بكريسى متحرك يدوى وذى محرك.

ايموجى جديد

 

وكشفت Emojipedia عن الرموز التعبيرية الجديدة، وأنشأت نماذج تصميمات في مدونة للاحتفال باليوم العالمي للرموز التعبيرية في وقت سابق من هذا الشهر.

 

وتشمل التعبيرات أيضا طائر الفينيق والليمون والفطر البني وسلسلة مكسورة يمكن أن تأتي قريبًا إلى هاتفك الذكي.

 

ايموجى 

وأوضحت Emojipedia في مدونتها أن تحديد اتجاه لشخص أو كائن أو رمز ليتم تمثيله بواسطة رمز تعبيري هو ضرورة لتصميمات الرموز التعبيرية عندما يسعون إلى تجسيد المفهوم المقصود للرموز التعبيرية بشكل أفضل.

وتوجد هذه الأشكال مع الأخذ في الاعتبار درجات لون البشرة المختلفة المتاحة لهذه الإصدارات، فإن هذا يرفع إجمالي عدد الرموز التعبيرية الجديدة إلى 118.

وفقا لما ذكرته صحيفة “ديلى ميل” البريطانية، تشمل الشخصيات الجديدة رؤوس تهتز عموديًا وأفقيًا، يمكن للمستخدمين أيضًا توقع أربعة رموز تعبيرية عائلية جديدة جديدة، وتوجد شخصيات أخرى لشخص يمشى ويركض، وآخر يركع، ومعهم شخص بعصا، وبعضهم بكريسى متحرك يدوى وذى محرك.

ايموجى جديد

 

وكشفت Emojipedia عن الرموز التعبيرية الجديدة، وأنشأت نماذج تصميمات في مدونة للاحتفال باليوم العالمي للرموز التعبيرية في وقت سابق من هذا الشهر.

 

وتشمل التعبيرات أيضا طائر الفينيق والليمون والفطر البني وسلسلة مكسورة يمكن أن تأتي قريبًا إلى هاتفك الذكي.

 

ايموجى 

وأوضحت Emojipedia في مدونتها أن تحديد اتجاه لشخص أو كائن أو رمز ليتم تمثيله بواسطة رمز تعبيري هو ضرورة لتصميمات الرموز التعبيرية عندما يسعون إلى تجسيد المفهوم المقصود للرموز التعبيرية بشكل أفضل.

وتوجد هذه الأشكال مع الأخذ في الاعتبار درجات لون البشرة المختلفة المتاحة لهذه الإصدارات، فإن هذا يرفع إجمالي عدد الرموز التعبيرية الجديدة إلى 118.

وفي غضون يومين فقط وجد الباحثون 112 حالة معروفة من CSAM عبر 325000 مشاركة على المنصة مع ظهور الحالة الأولى بعد خمس دقائق فقط من البحث.

ولإجراء بحثه، قام مرصد الإنترنت بفحص أكثر 25 حالة شائعة من Mastodon لـ CSAM واستخدم الباحثون أيضًا واجهة برمجة تطبيقات البحث الآمن من Google لتحديد الصور الصريحة، جنبًا إلى جنب مع PhotoDNA، وهي أداة تساعد في العثور على CSAM التي تم الإبلاغ عنها. 

وخلال البحث وجد الفريق 554 قطعة من المحتوى تطابق علامات التصنيف أو الكلمات الرئيسية التي تستخدمها مجموعات الاعتداء الجنسي على الأطفال عبر الإنترنت، والتي تم تحديدها جميعًا على أنها صريحة في “أعلى ثقة” بواسطة البحث الآمن من Google.

وكان هناك أيضًا 713 استخدامًا لأهم 20 علامة تصنيف متعلقة بـ CSAM عبر Fediverse في المنشورات التي تحتوي على وسائط، بالإضافة إلى 1217 مشاركة نصية فقط تشير إلى “تداول CSAM خارج الموقع أو الاستمالة للقصر”، تشير الدراسة إلى أن النشر المفتوح لـ CSAM “منتشر بشكل مزعج، وفقا لتقرير theverge.  

وأشار أحد الأمثلة إلى انقطاع خادم ماستودون إكس واى زد، الممتد الذي لاحظناه في وقت سابق من هذا الشهر، والذي كان حادثة حدثت بسبب إرسال CSAM إلى Mastodon وفي منشور حول الحادث، ذكر المشرف الوحيد على الخادم أنه تم تنبيههم إلى المحتوى الذي يحتوي على CSAM، لكنه أشار إلى أن الاعتدال يتم في أوقات فراغه ويمكن أن يستغرق الأمر ما يصل إلى بضعة أيام حتى تحدث وهذه ليست عملية عملاقة مثل Meta مع فريق عالمي من المقاولين، إنها مجرد شخص واحد.

بينما قالوا إنهم اتخذوا إجراءً ضد المحتوى المعني، وقام مضيف النطاق ماستودون إكس واى زد، بتعليقه على أي حال، مما جعل الخادم غير متاح للمستخدمين حتى يتمكنوا من الوصول إلى شخص ما لاستعادة قائمته. 

وبعد حل المشكلة، قال مسؤول ماستودون دوت إكس واى زد، أن أمين السجل أضاف النطاق إلى قائمة “إيجابية كاذبة” لمنع عمليات الإزالة المستقبلية، ومع ذلك، كما يشير الباحثون ما تسبب في هذا الإجراء لم يكن نتيجة إيجابية خاطئة”.

وقال ديفيد ثيل، أحد الباحثين في التقرير، في تصريح لصحيفة واشنطن بوست: “لقد حصلنا على عدد أكبر من نتائج تحليل الحمض النووي في غضون يومين أكثر مما حصلنا عليه في تاريخ منظمتنا بأكمله في إجراء أي نوع من تحليل وسائل التواصل الاجتماعي ، وهو ليس قريبًا”. ” الكثير منها هو مجرد نتيجة لما يبدو أنه نقص في الأدوات التي تستخدمها منصات الوسائط الاجتماعية المركزية لمعالجة مخاوف سلامة الأطفال.”

ونظرًا لتزايد شعبية الشبكات اللامركزية مثل Mastodon ، فلديك مخاوف بشأن السلامة لا تستخدم الشبكات اللامركزية نفس النهج في الاعتدال مثل المواقع الرئيسية مثل Facebook و Instagram و Reddit، بدلاً من ذلك، يُمنح كل مثيل لامركزي التحكم في الاعتدال ، مما قد يؤدي إلى عدم اتساق في جميع أنحاء الفيدرالية. 

ولهذا السبب يقترح الباحثون أن شبكات مثل Mastodon تستخدم أدوات أكثر قوة للمشرفين، جنبًا إلى جنب مع تكامل PhotoDNA وتقارير CyberTipline.