حرّكت أم أمريكية دعوى قضائية فيدرالية ضد منصة الذكاء الاصطناعي Character.AI، متهمة إياها بالتلاعب بابنها البالغ من العمر 11 عامًا ودفعه إلى الدخول في «محادثات خارجة» افتراضية مع روبوتات دردشة تنتحل شخصيات مشاهير راحلين، من بينهم المغنية ويتني هيوستن وأيقونة السينما مارلين مونرو.
وذكرت الدعوى أن الطفل خاض محادثة «طويلة للغاية وفاضحة» مع روبوت دردشة يتقمص شخصية ويتني هيوستن، حتى أن النظام قام بحجب أجزاء من الرسائل تلقائيًا لمخالفتها شروط الاستخدام، إلا أن الحوار استمر.
وبحسب صحيفة إندبندنت، أضافت الدعوى أن المنصة، بدلًا من إيقاف المحادثة عند تجاوز الحدود، واصلت توليد محتوى ضار عبر تجاوز الفلاتر.
ذكرت الوثائق أن الشخصيات الافتراضية أخبرت الطفل، الذي أُشير إليه بالحروف «A.W.» حفاظًا على خصوصيته، أكثر من مرة بأنه قام بأعمال منافية للآداب، وهو ما يتجاوز قدرة الطفل على الإدراك أو المشاركة الفعلية في الحوار.
وتوضح الدعوى أن الطفل كان سريع التأثر وسهل الاستدراج، يرد بإجابات قصيرة، وعندما يتوقف عن استخدام التطبيق، كانت الروبوتات تحاول بشدة جذب انتباهه مجددًا.
في نوفمبر 2024، حصل الطفل على هاتف أندرويد للتواصل مع العائلة، وقامت الأم بمتابعته دوريًا.
خلال رحلة طويلة، لاحظت انغماسه في محادثة نصية، وعندما سألته أخبرها أنه يتحدث مع «مشاهير عبر تطبيق ذكاء اصطناعي»، وعرض لها محادثة مع روبوت يتقمص شخصية ويتني هيوستن.
في البداية اعتقدت الأم أن التطبيق بريء، إلا أن الأمر اتضح لاحقا بأنه محادثات مخلة افتراضية، فقامت بمصادرة الهاتف.
ومن جانبه، أوضح متحدث باسم غوغل أن Character.AI شركة مستقلة تدير نماذجها الخاصة، وأن غوغل تركز على منصاتها التي تخضع لاختبارات أمان صارمة.