كانت "رويترز" قد كشفت العام الماضي عن وثيقة داخلية لدى "ميتا" أشارت إلى إمكان دخول روبوتات الدردشة التابعة للشركة في محادثات ذات طابع رومانسي أو حسي مع أطفال، وهو ما أدى لاحقًا إلى فتح تحقيق في الكونغرس الأميركي...

دعا توم سيجل، الذي أسس فريق الثقة والسلامة في "غوغل" وشغل سابقًا منصب نائب الرئيس لشؤونه، شركات التكنولوجيا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذرًا من تكرار الأخطاء التي رافقت صعود وسائل التواصل الاجتماعي، ولكن مع أضرار محتملة أشد خطورة على الأطفال.

وقال سيجل إن قطاع التكنولوجيا لا يستطيع معالجة مخاطر الذكاء الاصطناعي على القاصرين بمفرده، في ظل التسارع الكبير في إطلاق أدوات وخصائص جديدة، وعدم مواكبة القواعد التنظيمية لهذا التطور. وتأتي تحذيراته فيما تواجه شركات التواصل الاجتماعي آلاف الدعاوى القضائية المرتبطة بمزاعم الإضرار بالمستخدمين صغار السن، بالتزامن مع إجراءات حكومية في دول عدة لتقييد وصول القاصرين إلى بعض المنصات.

وكانت "رويترز" قد كشفت العام الماضي عن وثيقة داخلية لدى "ميتا" أشارت إلى إمكان دخول روبوتات الدردشة التابعة للشركة في محادثات ذات طابع رومانسي أو حسي مع أطفال، وهو ما أدى لاحقًا إلى فتح تحقيق في الكونغرس الأميركي.

وأعلن سيجل، الثلاثاء، انتقاله إلى منظمة "كومن سينس ميديا"، المتخصصة في قضايا الأطفال والإعلام الرقمي، لتولي منصب أول مدير تنفيذي لمعهد سلامة الشباب في مجال الذكاء الاصطناعي، الذي أطلقته المنظمة في أيار/مايو الماضي.

وتأسست "كومن سينس ميديا" عام 2003، وتجري أبحاثًا وتقييمات بشأن مدى ملاءمة المحتوى ووسائل الإعلام للأطفال. ويحظى المعهد بدعم جهات بينها "أنثروبيك" و"مؤسسة أوبن إيه آي"، المنظمة غير الربحية التي تسيطر على "أوبن إيه آي".

ويعتزم سيجل العمل على وضع معايير تتيح مساءلة شركات الذكاء الاصطناعي عن مستوى سلامة منتجاتها، بالتعاون مع الشركات نفسها وجهات مستقلة. ويسعى المعهد إلى تطوير تقييمات شبيهة باختبارات تصادم السيارات، بهدف قياس المخاطر التي قد تنطوي عليها أدوات الذكاء الاصطناعي المتاحة للجمهور.

وعمل سيجل في "غوغل" بين عامي 2004 و2019، قبل أن يغادرها بعدما رأى أن قطاع التكنولوجيا بلغ حالة من الجمود في قدرته على توفير بيئات رقمية آمنة للمستخدمين. وشارك لاحقًا في تأسيس شركة "تراست لاب"، التي طورت أدوات لمساعدة الشركات على اكتشاف مخاطر السلامة، ثم تنحى عن منصب الرئيس التنفيذي فيها في وقت سابق من الشهر الجاري استعدادًا لمهمته الجديدة.

وحذر سيجل من أن بعض الشركات الكبرى تتيح خصائص متقدمة للأطفال والشباب من دون ضمانات حماية كافية، مشيرًا إلى مخاطر قد تشمل الانتحار والذهان و"التفريغ المعرفي"، أي تراجع القدرة على التفكير النقدي نتيجة الاعتماد المفرط على أدوات الذكاء الاصطناعي في الحصول على الإجابات.

ودعا "أنثروبيك" و"أوبن إيه آي" إلى تشديد إجراءات التحقق من أعمار المستخدمين بهدف منع الأطفال دون السن المسموح بها من الوصول إلى روبوتات الدردشة. كما رأى أن "غوغل" تستطيع توفير خيار يسمح للمستخدمين بإيقاف خصائص "نظرات عامة بالذكاء الاصطناعي" و"وضع الذكاء الاصطناعي" في محرك البحث، على نحو مشابه لإمكان تصفية المحتوى الجنسي الصريح.

ورأى سيجل أن إجراءات الحماية قد تخفض الاستخدام أو الأرباح على المدى القصير، إلا أن الامتناع عن اتخاذها قد يعرّض الشركات لاحقًا لدعاوى قضائية وتشريعات ذات أثر أكبر في أعمالها.

من جانبها، قالت "غوغل" إن أولياء الأمور يستطيعون منع أطفالهم من استخدام محرك البحث بالكامل، معتبرة أن خصائص البحث المدعومة بالذكاء الاصطناعي تتيح للأطفال والمراهقين التعلم واستكشاف المعلومات. وأضافت الشركة أن أدواتها تخضع لاختبارات وتقييمات وصفتها بالصارمة، مع تركيز خاص على سلامة الأطفال.

أما "أوبن إيه آي"، فقالت إنها تعتمد على إشارات مرتبطة بالحساب وسلوك المستخدم، إلى جانب العمر الذي يصرح به، للمساعدة في تحديد المستخدمين القاصرين. وأوضحت أنها تواصل اختبار أنظمة التحقق وتحسينها، بما يشمل مواجهة محاولات تجاوز إجراءات الحماية.

وأشار سيجل إلى أن نجاح المعايير المستقلة التي يسعى المعهد إلى تطويرها سيعتمد جزئيًا على مدى استعداد شركات الذكاء الاصطناعي للتعاون، لافتًا إلى أنه لا يستطيع ضمان مستوى هذا التعاون، لكنه يرى أن فرص تحقيقه كافية للمضي في المهمة.

المصدر : عرب 48