توسّع Meta AI من آليات السلامة لتقديم إشعارات للأهل المشرفين لدى انعكاس محادثات تتضمن مخاطر محتملة، مع مراجعات بشرية وتوجيهات لدعم
أعلنت شركة Meta توسعة نظام السلامة على إنستغرام ليشمل إشعارًا موجهًا للأهل المشرفين عندما تشير محادثات مع Meta AI إلى احتمال أن يواجه المراهق مخاطر تتعلق بالتفكير في الانتحار أو إيذاء النفس. يأتي ذلك كتوسع في أدوات الرقابة الأبوية القائمة على المنصة، مع تزويد الأهل بإرشادات مدعومة من خبراء الصحة النفسية حول كيفية مناقشة المسألة ودعم الطفل.
وفي إطار هذه الخطة، لا يعتمد النظام فقط على الأتمتة؛ فكل محادثة تُعلِّمها AI تخضع لمراجعة بشرية قبل إرسال الإشعار إلى الأهل. وتُراعى حذرًا إضافيًا في حالات عدم وضوح نية المراهق، إذ قد يؤدي الغموض إلى إصدار إشعار في بعض الحالات.
آلية الإشعار والمراجعة البشرية
عند رصد لغة قد تشير إلى احتمال التفكير بالانتحار أو إيذاء النفس، يتم إرسال إشعار إلى الأهل المشرفين مع توجيهات مبنية على خبرة متخصصة. كما تؤكد Meta أن آلية الكشفطُوِّرت بمشاركة أطباء صحة نفسية وأهالي وخبراء شباب، وتُنفَّذ مراجعات يدوية قبل الإرسال لضمان الدقة والحساسية.
التوافر والتوسع العالمي
المزايا الجديدة متاحة حاليًا لمستخدمي الرقابة الأبوية على إنستغرام في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، مع خطة لإطلاقها عالميًا قبل نهاية 2026.
إجراءات سلامة إضافية قيد التطوير
تعمل الشركة على تقنية قد تُ notify خدمات الطوارئ إذا أشارت المحادثة مع Meta AI إلى وجود خطر وشيك. وتُعتبر هذه الخطوة توسعةً للإطار الحالي للتدخل في حالات الانتحار عبر فيسبوك وإنستغرام، حيث كانت هناك أكثر من 19 ألف إحالةطوارئ عالميًا خلال العام الماضي.
التعاون مع خبراء الصحة النفسية وتدعيم الحوار
ذكرت Meta أنها تعاونت مع أكثر من 75 أخصائي صحة نفسية لمراجعة مئات المحادثات المرتبطة بالانتحار وإيذاء النفس، وأن ملاحظاتهم تُستخدم لجعل Meta AI أكثر تعاطفًا وتفهّماً للمشاعر، مع تشجيع المستخدمين علىطلب المساعدة دون قطع الحوار فجأة.
إجراءات أمان إضافية للمراهقين
إلى جانب الإشعارات، سيتم توسيع إعداد المحتوى المحدود ليشمل محادثات Meta AI. فبتمكين الوضع الأكثر صرامة، يقيد الأهل أنواع الأسئلة التي يمكن لـ AI الإجابة عنها، بهدف توفير تجارب آمنة وخاضعة لعمر المستخدم مع زيادة وضوح الرؤية أمام الأهل عند وجود مخاوف صحية جدية.
