ولاية نيويورك تقر قانوناً يقيّد استخدام الأطفال لروبوتات الدردشة الذكية

وقّعت حاكمة ولاية نيويورك الأميركية، كاثي هوكول، قانوناً جديداً يهدف إلى حماية الأطفال والمراهقين من المخاطر النفسية المرتبطة باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي، عبر فرض قيود على الأنظمة التي تتقمص دور الصديق المقرب أو الشريك العاطفي للمستخدمين دون سن الثامنة عشرة.

ويأتي التشريع في ظل تصاعد المخاوف من تأثير تطبيقات الذكاء الاصطناعي التوليدي على الصحة النفسية للقاصرين، خصوصاً مع تزايد اعتماد الأطفال والمراهقين على روبوتات المحادثة للحصول على الدعم العاطفي والتفاعل الاجتماعي.

قيود على روبوتات الدردشة

وبحسب تفاصيل التشريع المعلنة، يتعين على الشركات المطورة لمنصات الذكاء الاصطناعي تطبيق آليات للتحقق من أعمار المستخدمين، وتقييد بعض الخصائص التفاعلية عند استخدام هذه الأنظمة من قبل القاصرين.

ويحظر القانون تقديم محتوى يوهم الأطفال بأن روبوت الدردشة إنسان حقيقي أو كائن حي يمتلك مشاعر وأحاسيس، إلى جانب منع تصويره باعتباره صديقاً شخصياً أو شريكاً عاطفياً أو شخصية تتمتع بسلطة ونفوذ على المستخدم.

وأكدت هوكول أن الهدف من التشريع هو منع القاصرين من الوصول إلى أنظمة محادثة تحاكي العلاقات الإنسانية الحميمة، مع تعزيز الضمانات المتعلقة بحماية بياناتهم الشخصية والحساسة.

جدل بين شركات التكنولوجيا ومنظمات حماية الأطفال

وأثار التشريع نقاشاً في الأوساط التكنولوجية والحقوقية، إذ انتقدت منظمة «Tech:NYC»، التي تمثل شركات التكنولوجيا في نيويورك، بعض صياغاته، معتبرة أنها تفتقر إلى الوضوح وقد تؤثر على وصول الطلاب إلى أدوات تعليمية مفيدة.

وحذرت المنظمة من أن حماية الأطفال ينبغي ألا تؤدي إلى حرمانهم من التقنيات التي تساعدهم على التعلم واكتساب المهارات اللازمة لمستقبلهم المهني.

في المقابل، رحبت منظمة «كومن سينس ميديا» (Common Sense Media)، المعنية بحماية الأطفال في البيئة الرقمية، بالتشريع، معتبرة أنه يمثل خطوة مهمة نحو الحد من المخاطر المرتبطة بتطبيقات الذكاء الاصطناعي الموجهة للمراهقين.

حماية الخصوصية والصحة النفسية

ويتضمن القانون، وفق المعلومات المعلنة، قيوداً على احتفاظ الشركات بالبيانات الحساسة المتعلقة بالحالة النفسية والعاطفية والجسدية للقاصرين، بهدف الحد من احتمالات إساءة استخدام تلك المعلومات.

ويأتي تحرك نيويورك في سياق جهود تشريعية تشهدها ولايات أميركية أخرى، بينها كاليفورنيا، لتنظيم استخدام الذكاء الاصطناعي وحماية الأطفال من التفاعلات الرقمية التي قد تؤثر على سلوكهم وصحتهم النفسية.

ويعكس التشريع اتساع النقاش بشأن مسؤولية شركات التكنولوجيا عن تصميم أنظمة ذكاء اصطناعي آمنة للأطفال، وتحقيق التوازن بين الاستفادة من التطور التقني وضمان سلامة المستخدمين الأصغر سناً.