الذكاء الاصطناعي فخ السلامة الرقمية

بعد انتشار ترند صور الطفولة، المولد بالذكاء الصناعي من خلال تطبيق جيمني، لم تستطع رزان العمر التي تبلغ 25 عاماً، كبح فضولها بتجربة التطبيق، في محاولة منها لتشكيل صورة عائلية تجمعها مع والدها المتوفي، فهي لا تعرفه إلا في ألبومات صور قديمة رافقتها لسنوات، في محاولة منها لاستحضار الماضي من خلال خوارزمية جمعت بين ملامحها ووجه والدها.

رزان هي واحدة من آلاف الحالات التي  شاركت بتحويل صورها على الذكاء الصناعي، و تعج وسائل التواصل كل يوم في طلبات أوامر متنوعة تجعل كل مستخدم يتقمص أدوار تجمعه بفنانين أو أقارب أو أحباب، وذلك لم يتوقف عند هذا الحد، فقد تمت ملاحظة تبدل العديد من الصورة الشخصية في الحسابات الرسمية مما عكس قبول واضح لدى شريحة كبيرة من المستخدمين.

وفي إحاطة لعدد المستخدمين حول العالم وبحسب بيانات نشرها موقع  TechCrunch، في مايو 2025، فقد بلغ عدد المستخدمين النشطين شهريًا لتطبيق Gemini حوالي 400 مليون مستخدم نشط شهريًا. وبحسب تقريرآخر نشره  Google في سياق قضية مكافحة الاحتكار أفاد بأن عدد المستخدمين النشطين شهريًا في مارس 2025 هو 350 مليون، وعدد المستخدمين النشطين يوميًا حوالي 35 مليون.

المخاطر واستغلال الصور

بما يتعلق بإستخدام الصور المولدة باستخدام الذكاء الصناعي نشرت  منار الزبيدي صحفية وباحثة عراقية على صفحتها الشخصية  تشتكي من استخدام صورتها دون موافقتها، لتكتشف لاحقاً ان المصدر الذي استخدم صورتها كان قد حصل على الصورة من  خلال مقترح من الذكاء الصناعي، مع بعض التعديلات البسيطة وتم استخدامها دون معرفة بوجود صاحبة الصورة.

تقول منار: مع تزامن الحملات الانتخابية في البصرة تم استخدام صورتي الشخصية في الصور الدعائية للحملة، وتابعت الموضوع حينها أخبرني الفريق الإعلامي المسؤول أنه طلب من الذكاء الصناعي تصميم صورة تضم مختلف الفئات الاجتماعية في العراق، وتم استخدام الصورة دون علمهم أنها لشخصية حقيقية مع العلم أن الصورة ذاتها كانت منشورة على وسائل التواصل الاجتماعي .

وتتابع منار استخدام صورتي الشخصية يضعني في كفة الترويج لعملية انتخابية وحزب سياسي

معين،  وحينما طالبت بإزالة الصورة تأخروا بالاستجابة مما دفعني إلى تقديم بلاغ لمفوضية الانتخابات وتم حذف الصورة من مواقع التواصل الاجتماعي، مع نشر فيديو  يوضح استخدام الذكاء الصناعي والإحاطة  بعدم دعمي الحزب والعملية الانتخابية وعدم ارتباطي بهم.

تضيف الأخصائية الرقمية حنين  السيد: إن سهولة الوصول للأدوات المجانية وسرعة إنتاج الصور بشكل ملفت وجاذب هو المساهم الأكبر لانتشار التطبيق وتحويله لترند بين المجتمع،  بالاضافة  لان  هذه الترندات تنتشر بسرعة بناء على الخوارزميات والتوصية المقدمة من منصات التواصل الاجتماعي، وغياب الوعي  عند المستخدمين حول مخاطر الخصوصية و الملكية وحقوق الاستخدام وخاصة  في سوريا

بالاضافة لكون منشأ الاداة يساهم في تحقيق الأهداف الترويجية والتجارية لجذب الناس وتبني الترندات لأغراض تسويقية تعود بالفائدة على التجار و التأثير التقني وتصميم المنصات وتحليل سلوك المستخدمين تلك الأدوات تستخدم لتسريع الانتشار و الترندات هي الجزئية سهلة  الاستخدام.

بعض المزودين يمتلكون سياسات وقيود على إجراءات الخصوصية لكن تكون بشكل متدرج، فيما يتعلق بالتخزين تختلف بعض الخدمات من حيث تخزين البيانات ومشاركتها لتحسين النماذج، لكن بالمجمل لا يوجد معايير عالمية تضمن سلامة خصوصية بيانات المشارك، مثل عدم بيع الصور واستخدامها، وهناك دعاوى تم تقديمها من قبل فنانين ومحامين للضغط على الشركات توضيح السياسات لكن لم توضح الصورة للان.

وبحسب موقع سلامتك للسلامة الرقمية نزود الذكاء الصناعي ببيانات وجهنا عندما نتيح للتطبيق الوصول إلى صورنا الخاصة مما يمكنه من استخدام هذه الصور لإنشاء مقاطع فيديو وصور مزيفة قد تستخدم للتشهير أو التضليل لمحاولات الاحتيال  وأشهر هذه التطبيقات هو (Deepfake) يمكن للمحتالين استخدام الصور المولدة بالذكاء الاصطناعي لانتحال شخصيتنا على الإنترنت، أو استخدامها لإنشاء حسابات وهمية، أو خداع معارفنا لطلب أموال أو معلومات.

• هجمات التصيّد (Phishing)، بعض المتصيدين يستغلون الترندات الرائجة من خلال ارسال الروابط المزيفة التي تدعي المساعدة في إنجاز الترند وتطلب من المستخدم “رفع صورته” ثم تطلب بيانات بريده الإلكتروني أو حساب فيسبوك لسرقتها. كل صورة تتم مشاركتها تزيد من الأثر الرقمي على الإنترنت، ما يسهّل رسم صورة دقيقة عن حياة المستخدمين (الموقع الجغرافي، نمط الملابس، مستوى المعيشة…) هذا قد يُستخدم في الاحتيال بطرق الهندسة الاجتماعية.
• في أسوأ السيناريوهات، يمكن استخدام صور الوجه لإنتاج محتوى خادش للحياء مزيف دون موافقة الشخص، مما يسبب ضرراً نفسياً واجتماعياً بالغاً، فضلاً عن احتمال استخدامه في الابتزاز.

 مساحات غير آمنة للاحتيال

 الذكاء الاصطناعي يسهل عملية الهجمات الاختراق، سابقا كانت رسائل التصيد والاختراق سهلة الكشف بناء على أخطاء إملائية أو  بناء على طريقه غير مقنعة بالاحتيال لكن في الوقت الحالي الذكاء الاصطناعي ساهم في إنشاء محتوى مقنع بالإضافة لوجود الصور والصوت من خلال استخدام استنساخ الصوت مما يجعل عملية الإقناع سهلة لضحايا الابتزاز.

وتروي حنين عن الأساليب الشائعة التي شهدتها مؤخراً في عمليات احتيال تم انتحال شخصيات عامة كأطباء أو أفراد بمكانه اجتماعية، من خلال طلب مبلغ مالي مع التأكيد على اعادته لاحقا بعدما تتم عملية التحويل يكتشف الضحية أن الشخص الموثوق كان منتحل  من خلال ارسال تسجيل صوتي كدلالة على الثقة مستخدما أساليب مقنعة وواقعية يصعب كشفها

وجاء في تقرير صادر عن موقع NDTV  يوضح خطورة ارسال الصور للذكاء الصناعي

حيث أن يمكن للذكاء الاصطناعي توليد صور مزيفة عميقة ومقنعة باستخدام صورك، مما قد يؤدي إلى سرقة الهوية أو المضايقة أو الإضرار بالسمعة. ويزداد هذا الخطر خطورةً مع تزايد التوجهات مثل صور Gemini و nana banana المُولّدة بالذكاء الاصطناعي.

 فقدان السيطرة على صورتك: عند تحميل صورك إلى مُولّدات الذكاء الاصطناعي، قد تفقد السيطرة على كيفية استخدامها. تستطيع أنظمة الذكاء الاصطناعي استخراج معلومات من صورك، بما في ذلك بيانات الموقع والتفاصيل الشخصية والعلاقات الاجتماعية.  بمجرد رقمنتها، يُمكن تكرار صورتك وتعديلها دون موافقتك. يُمكن للذكاء الاصطناعي إدخال وجهك في سياقات صريحة أو عنيفة أو مُضللة.

. تراجع مصداقية الصور: مع تزايد انتشار الصور المُولّدة بالذكاء الاصطناعي، قد يزداد صعوبة التمييز بين الصور الحقيقية والمزيفة. قد يكون لهذا آثارٌ بالغة على الصحافة والإعلان والقطاعات الأخرى التي تعتمد على المحتوى المرئي.

. الاستخدام التجاري دون موافقة: قد تستخدم منصات الذكاء الاصطناعي صورك المحمّلة لأغراض تجارية دون علمك أو موافقتك. قد يشمل ذلك إنشاء إعلانات أو مجموعات بيانات تدريبية لنماذج ذكاء اصطناعي أخرى.

. انتهاكات الخصوصية وإساءة استخدام البيانات: عند تحميل صورك إلى خدمات الذكاء الاصطناعي، غالبًا ما تمنح الوصول إلى بياناتك البيومترية، بما في ذلك ملامح الوجه وتعابير الوجه وحتى الموقع. قد تخزن الشركات هذه البيانات أو تشاركها أو تبيعها لأطراف ثالثة، مما يؤدي إلى مراقبة غير مصرح بها أو سرقة هوية.

. تضخيم التحيز والتمييز: ترث أنظمة الذكاء الاصطناعي التحيزات المجتمعية من بيانات تدريبهم، مما يُقلل من تمثيل فئات معينة أو يُصنّفها في قوالب نمطية. إذا كانت صورتك تُغذّي نماذج معيبة، فقد تُعزز نتائج تمييزية، مثل التنميط العرقي في التعرف على الوجوه أو معايير الجمال المُشوّهة في عمليات التحرير

توصيات للحماية 

وتختم السيد حديثها بالتأكيد على  اختيار مزود موثوق وفهم وقراءة سياسة الخصوصية في المنصات والتطبيقات بالاضافة لاستخدام خدمات تبقى نسبة الفائدة فيها أكبر من نسبة الضرر، والحرص على عدم مشاركة صور حساسة أو وثائق شخصية مهمة او بيانات مرتبطة بالعمل مع وضع احتمال أن البيانات يمكن أن تستخدم في انتهاك الخصوصية.

الاطلاع على شروط الخصوصية بتمعن من خلال النظر لحفظ المعلومات وفهم ماهية حقوق التطبيق او المنصة بالاضافة لضبط اعدادات الخصوصية وفي حال اضطررنا لاستخدام الصور المولدة بالذكاء الصناعي نوضح أنه تم توليدها لتجنب القضايا والدعاوى الحقوقية.