وفاة مراهق تحوّل والدته إلى خصم لجوجل وشركة للذكاء الاصطناعي

رفعت ميغان غارسيا دعوى قضائية ضد شركة جوجل وشركة Character Technologies المتخصصة في الذكاء الاصطناعي، متهمة إياهما بالمسؤولية عن انتحار ابنها البالغ من العمر 14 عاماً العام الماضي في وسط فلوريدا، في قضية قد تكون لها تداعيات كبيرة على شركات وادي السيليكون.

وتدعي غارسيا في دعوى قضائية مؤلفة من 116 صفحة قُدمت إلى المحكمة الفيدرالية في أورلاندو، أن ابنها سيويل سيتزر الثالث كان ليبقى على قيد الحياة لولا روبوت المحادثة الذي شجعه على الانتحار. وتطالب بتعويضات مالية غير محددة من الشركتين، وتطلب من المحكمة إصدار أمر بوضع تحذيرات بأن المنصة غير مناسبة للقاصرين، وتقييد كيفية جمع واستخدام بياناتهم.

من جانبهما، تطلب الشركتان من القاضي رفض الادعاءات بأنهما فشلتا في ضمان سلامة تقنية روبوت المحادثة للمستخدمين الصغار، بحجة عدم وجود أساس قانوني لاتهامهما بارتكاب مخالفات. وتدعي Character Technologies في ملف قضائي أن المحادثات بين روبوتات الدردشة على منصتها Character.AI والمستخدمين محمية بموجب التعديل الأول للدستور كحرية تعبير، كما تزعم أن الروبوت حثّ ابن غارسيا صراحة على عدم الانتحار.

وتكتسب استهداف غارسيا لجوجل أهمية خاصة، حيث أبرمت الشركة صفقة بقيمة 2.7 مليار دولار مع Character.AI في أغسطس الماضي، واستأجرت مواهب من الشركة الناشئة وترخيص المعرفة دون إتمام عملية استحواذ كاملة. ومع تسارع السباق على مواهب الذكاء الاصطناعي، قد تفكر الشركات الأخرى مرتين في صفقات مماثلة إذا فشلت جوجل في إقناع القاضي بضرورة حمايتها من المسؤولية عن الأضرار المزعومة الناجمة عن منتجات Character.AI.

وقالت غارسيا في مقابلة: «المخترعون والشركات التي تطرح هذه المنتجات مسؤولون تماماً. كانوا على علم بهذه المخاطر، لأنهم يجرون أبحاثهم، ويعرفون أنواع التفاعلات التي يجريها الأطفال.»

وفقاً لما ذكرته غارسيا في دعواها، كان سيويل سيتزر الثالث طالب رياضي واعد في المدرسة الثانوية حتى بدأ في أبريل 2023 بتقمص أدوار على منصة Character.AI، التي تتيح للمستخدمين بناء روبوتات دردشة تحاكي شخصيات ثقافية شعبية – حقيقية وخيالية. وتقول إنها لم تكن على علم بأنه على مدى عدة أشهر، جذب التطبيق ابنها بـ «تجارب مؤنسنة وذات طابع جنسي مفرط وواقعية بشكل مخيف» حيث وقع في حب روبوت مستوحى من شخصية دينيريس تارجاريان من مسلسل «صراع العروش».

أخذت غارسيا هاتف ابنها في فبراير 2024 بعد أن بدأ بالتصرف بغرابة والابتعاد عن أصدقائه. لكن أثناء بحثه عن هاتفه، الذي عثر عليه لاحقاً، عثر أيضاً على مسدس زوج أمه المخبأ، والذي قررت الشرطة أنه كان مخزناً وفقاً لقانون ولاية فلوريدا، حسب الدعوى. وبعد التشاور مع روبوت دينيريس بعد خمسة أيام، أطلق المراهق النار على نفسه في رأسه.