-“أنثروبيك” رصدت تهديداً بإطلاق النار وأحالته إلى مراجعة بشرية قبل إبلاغ السلطات
أعادت واقعة توقيف امرأة في ولاية فلوريدا الأميركية، على خلفية محادثة أجرتها مع روبوت الدردشة “كلود” التابع لشركة “أنثروبيك”، الجدل حول خصوصية محادثات المستخدمين مع تطبيقات الذكاء الاصطناعي وحدود تدخل الشركات عند رصد تهديدات محتملة بالعنف.
وأوقفت السلطات كارلي ميشيل هيلر، من مدينة بونيتا سبرينغز، بعدما تضمنت محادثاتها مع “كلود” تهديداً بإطلاق النار على مكتب شريف مقاطعة لي، وفق تقارير إعلامية أميركية.
ووُجهت إلى هيلر تهمة توجيه تهديد مكتوب بالعنف، وهي جناية من الدرجة الثانية في فلوريدا، بعدما رصدت أنظمة السلامة لدى “أنثروبيك” المحادثة وأحالتها إلى مراجعة بشرية.
وبعد مراجعة المحادثات، خلصت الشركة إلى أن محتواها يستدعي إبلاغ السلطات، لتتواصل مع جهات إنفاذ القانون المحلية التي باشرت التحقيق في الواقعة.
وقال شريف مقاطعة لي كارمين مارسينو إن هيلر أقرت باستخدام “كلود” باعتباره أشبه بـ”مذكرات شخصية”، فيما أثارت القضية تساؤلات بشأن مدى إدراك المستخدمين لإمكان إخضاع بعض المحادثات للمراجعة عند رصد أنظمة السلامة محتوى ينطوي على مخاطر محتملة.
وتسلط الواقعة الضوء على التوازن بين حماية خصوصية المستخدمين ومسؤولية شركات الذكاء الاصطناعي في التعامل مع التهديدات التي قد تشير إلى خطر حقيقي ووشيك.
وتأتي القضية بعد أشهر من حادث إطلاق النار في تامبلر ريدج بكندا في فبراير 2026، الذي أعاد بدوره النقاش بشأن تعامل شركات الذكاء الاصطناعي مع المحادثات التي تتضمن إشارات إلى العنف.
وكانت “أوبن إيه آي” قد أكدت أن حساباً مرتبطاً بمنفذة الهجوم رُصد قبل أشهر من الحادث بسبب نشاط متعلق بالعنف وأُغلق في يونيو 2025، لكنها لم تبلغ السلطات آنذاك بعدما خلصت مراجعتها إلى أن النشاط لم يبلغ معيار وجود تهديد وشيك وموثوق.
وعقب الهجوم، تواصلت الشركة مع الشرطة الملكية الكندية، وأعلنت لاحقاً تعزيز إجراءات السلامة والتعامل مع الحالات التي تنطوي على مخاطر محتملة، موضحة أن السلوك نفسه كان سيؤدي، وفق معاييرها الجديدة، إلى إبلاغ جهات إنفاذ القانون.
وتبرز الواقعتان تحدياً متزايداً أمام شركات الذكاء الاصطناعي في الموازنة بين خصوصية المحادثات من جهة، ورصد التهديدات الخطرة والتدخل لمنع أضرار محتملة من جهة أخرى.
المصدر: جريدة السياسة