من التزييف العميق إلى الاستدراج، تحذيرات أممية من مخاطر الذكاء الاصطناعي المتزايدة على الأطفال
وتضمن بيان أصدرته مجموعة من الوكالات الأممية – من بينها الاتحاد الدولي للاتصالات – مجموعة كبيرة من الطرق التي يتم بها استهداف الأطفال تمتد من الاستدراج الجنسي إلى التزييف العميق، وتضمين ميزات ضارة، والتنمر الإلكتروني، والمحتوى غير اللائق. كما اشتمل البيان على مبادئ توجيهية وتوصيات للتعامل مع هذه التهديدات.
وقال كوزماس زافازافا، مدير مكتب تطوير الاتصالات في الاتحاد الدولي للاتصالات: "لقد رأينا، خلال جائحة كـوفيد-19، أن العديد من الأطفال، وخاصة الفتيات والشابات، تعرضوا لسوء المعاملة عبر الإنترنت، وفي كثير من الحالات، ترجم ذلك إلى أضرار جسدية".
تفيد المنظمات المدافعة عن حقوق الأطفال بأن المعتدين يمكنهم استخدام الذكاء الاصطناعي لتحليل سلوك الطفل عبر الإنترنت وحالته العاطفية واهتماماته لتصميم استراتيجية الاستدراج الجنسي الخاصة بهم.
كما يُمكّن الذكاء الاصطناعي المجرمين من إنشاء صور مزيفة فاضحة لأطفال حقيقيين، مما يؤدي إلى شكل جديد من الابتزاز الجنسي.
وجد معهد تشايلدلايت العالمي لسلامة الأطفال (The Childlight Global Child Safety Institute) – وهو معهد عالمي مستقل تأسس لجمع أكثر البيانات موثوقية المتاحة حول الاستغلال والاعتداء الجنسي على الأطفال – في تقرير صدر عام 2025 أن حالات إساءة معاملة الأطفال التي سهلتها التكنولوجيا في الولايات المتحدة زادت من 4,700 حالة في عام 2023 إلى أكثر من 67,000 حالة في عام 2024.
أستراليا في المقدمة
تتخذ الدول الأعضاء في الأمم المتحدة تدابير أكثر صرامة، تزامنا مع إدراكها المتزايد لنطاق هذه المشكلة وخطورتها. في نهاية عام 2025، أصبحت أستراليا أول دولة في العالم تحظر حسابات وسائل التواصل الاجتماعي للأطفال دون سن 16 عاما، على أساس أن المخاطر الناجمة عن المحتوى الذي يشاركونه تفوق بكثير الفوائد المحتملة.
استشهدت الحكومة هناك بتقرير كانت قد كلفت بإعداده، والذي أظهر أن ما يقرب من ثلثي الأطفال الذين تتراوح أعمارهم بين 10 و 15 عاما شاهدوا محتوى متعلقا بالكراهية أو عنيفا أو مُقلقا، وتعرض أكثر من نصفهم للتنمر الإلكتروني. وقد شوهد معظم هذا المحتوى على منصات التواصل الاجتماعي.
يبدو أن العديد من الدول الأخرى – من بينها ماليزيا والمملكة المتحدة وفرنسا وكندا – ستحذو حذو أستراليا، حيث تُعد لوائح وقوانين لحظر أو قيود مماثلة.
الأمية في مجال الذكاء الاصطناعي
وفي بداية عام 2026، وقّعت مجموعة واسعة من هيئات الأمم المتحدة المعنية بسلامة الأطفال على بيان مشترك بشأن الذكاء الاصطناعي وحقوق الطفل، نُشر في 19 كانون الثاني/يناير، والذي سلط الضوء على المخاطر وعجز المجتمع الجماعي عن التعامل معها.
ويشير البيان إلى نقص الوعي بالذكاء الاصطناعي بين الأطفال والمعلمين وأولياء الأمور ومقدمي الرعاية، فضلا عن نقص في التدريب التقني لصانعي السياسات والحكومات بشأن أطر عمل الذكاء الاصطناعي وأساليب حماية البيانات وتقييمات تأثيرها على حقوق الطفل.
مسؤولية عمالقة التكنولوجيا
كما أن شركات التكنولوجيا معنية بالأمر. فالبيان يقول إن معظم الأدوات المدعومة بالذكاء الاصطناعي التي تصنعها – إلى جانب نماذجها وتقنياتها وأنظمتها الأساسية – غير مصممة حاليا لمراعاة الأطفال ورفاهيتهم.
يقول السيد زافازافا: "نحن قلقون للغاية، ونود أن يشارك القطاع الخاص، وأن ينخرط، وأن يكون جزءا من القصة التي نكتبها مع وكالات الأمم المتحدة الأخرى والجهات الفاعلة الأخرى التي تؤمن بأن التكنولوجيا يمكن أن تكون عامل تمكين، ولكنها يمكن أن تكون أيضا عامل تدمير".
ومع ذلك، فإن المسؤول الأممي رفيع المستوى واثق من أن هذه الشركات ملتزمة بجعل أدواتها أكثر أمانا: "في البداية، شعرنا أنهم قلقون بشأن خنق الابتكار، لكن رسالتنا واضحة للغاية: مع النشر المسؤول للذكاء الاصطناعي، لا يزال بإمكانكم تحقيق الربح، ولا يزال بإمكانكم ممارسة الأعمال التجارية، ولا يزال بإمكانكم الحصول على حصة في السوق. القطاع الخاص شريك، ولكن علينا أن نحذر عندما نرى شيئا سيؤدي إلى نتائج غير مرغوب فيها. لدينا اجتماعات منتظمة نتحدث فيها عن مسؤولياتهم، وبعضهم لديه بالفعل بيانات حول كيفية حماية السكان والأطفال.
وأكد السيد زافازافا أن من واجب الجميع محاربة المشاكل التي تأتي مع التكنولوجيا.
قضية حقوق الطفل
بينما تُشدد هيئات الأمم المتحدة على ضرورة أن تضمن هذه الشركات تصميم منتجاتها بما يحترم حقوق الطفل، فإنها تدعو أيضا جميع أفراد المجتمع إلى تحمل المسؤولية عن كيفية استخدام هذه المنتجات.
ليست هذه المرة الأولى التي تُثار فيها مخاوف من منظور حقوقي: ففي عام 2021، أُضيفت بنود جديدة إلى اتفاقية حقوق الطفل – وهي حجر الزاوية في القانون الدولي لحقوق الطفل وأكثر معاهدات حقوق الإنسان تصديقا في التاريخ – لتعكس مخاطر العصر الرقمي.
ولكن مع ذلك، ترى هيئات الأمم المتحدة أن هناك حاجة إلى مزيد من التوجيهات لمساعدة الدول على التنظيم بشكل أكثر فعالية، وقد أصدرت قائمة شاملة من التوصيات.
يقول السيد زافازافا: "يدخل الأطفال إلى عالم الإنترنت في سن مبكرة، ويجب حمايتهم. لذلك وضعنا هذه المبادئ التوجيهية لحماية الأطفال عبر الإنترنت. يتناول الجزء الأول من المبادئ التوجيهية الآباء، والجزء الثاني للمعلمين، والجزء الثالث للمنظمين، والجزء الرابع يتعلق بالصناعة والقطاع الخاص".
توصيات موجزة
⬅️ينبغي للدول تعزيز أطر حوكمة الذكاء الاصطناعي لدعم وحماية حقوق الطفل.
⬅️على المنظمات العالمية دمج حقوق الطفل في جميع السياسات والاستراتيجيات المتعلقة بالذكاء الاصطناعي.
⬅️يجب على الحكومات والشركات ضمان شفافية أنظمة الذكاء الاصطناعي ومساءلتها وتصميمها لحماية الأطفال.
⬅️ينبغي للدول منع ومعالجة العنف والاستغلال ضد الأطفال الذي يُمكّنه أو يُضخّمه الذكاء الاصطناعي.
⬅️هناك حاجة إلى تدابير أقوى لحماية البيانات تركز على الطفل لضمان الخصوصية في أنظمة الذكاء الاصطناعي.
⬅️يجب أن تُعطي القرارات القائمة على الذكاء الاصطناعي الأولوية للمصالح الفضلى والتنمية الشاملة لكل طفل.
⬅️يُعدّ الذكاء الاصطناعي الشامل والخالي من التحيز ضروريا لضمان استفادة جميع الأطفال على قدم المساواة من التقنيات الجديدة.
⬅️يجب أن تُؤخذ آراء الأطفال وتجاربهم في الاعتبار بشكل فعّال عند وضع سياسات الذكاء الاصطناعي وتصميم أنظمته.
⬅️يجب أن يدعم تطوير الذكاء الاصطناعي الاستدامة البيئية مع تقليل الأضرار البيئية طويلة الأجل للأجيال القادمة.
وكالات الأمم المتحدة التي أصدرت البيان
⬅️الاتحاد الدولي للاتصالات
⬅️لجنة الأمم المتحدة لحقوق الطفل
⬅️منظمة الأمم المتحدة للطفولة (اليونيسف)
⬅️منظمة العمل الدولية
⬅️الاتحاد البرلماني الدولي
⬅️منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو)
⬅️معهد الأمم المتحدة الأقاليمي لبحوث الجريمة والعدالة
⬅️مكتب الأمم المتحدة لشؤون نزع السلاح
⬅️مفوضية الأمم المتحدة السامية لحقوق الإنسان
⬅️الممثل الخاص للأمين العام للأمم المتحدة المعني بالأطفال والنزاع المسلح
⬅️الممثل الخاص للأمين العام للأمم المتحدة المعني بالعنف ضد الأطفال
⬅️المقرر الخاص للأمم المتحدة المعني ببيع الأطفال واستغلالهم الجنسي والاعتداء عليهم جنسيا
⬅️منصة "Safe Online" (منصة استثمارية مدعومة من اليونيسف لإزالة المواد المتعلقة بالاعتداء الجنسي على الأطفال عبر الإنترنت).