أعلنت شركة “كاركتر أيه آي” المعنية بتصميم الصور والفيديوهات عن طريق الذكاء الاصطناعي التوليدي، طرحها أدوات جديدة للرقابة الأبوية بعد ردود أفعال غاضبة بشأن سلامة الأطفال.
تأتي هذه الإجراءات الأمنية الجديدة في ظل دعاوى قضائية تتهم الشركة بالفشل في حماية المستخدمين القاصرين الذين تقل أعمارهم عن 18 عاما من الأذى.
وأشارت الشركة الناشئة المدعومة من “جوجل”، إلى أنها سترسل ملخصاً أسبوعياً للآباء والأوصياء عبر البريد الإلكتروني لإبقائهم على اطلاع دائم بأنشطة ذويهم القاصرين على المنصة.
وصرّحت الشركة في منشورٍ على مدونتها: “هذه الميزة هي الخطوة الأولى لتزويد الآباء بمعلوماتٍ حول الوقت الذي يقضيه أبناؤهم المراهقون على منصة كاركتر أيه آي”.
وسيتضمن البريد الإلكتروني الأسبوعي أيضاً تفاصيل تفاعل المستخدم، مثل متوسط الوقت الذي يقضيه الطفل على تطبيق Character AI وموقعها الإلكتروني، وأكثر الشخصيات التي أنشأها الذكاء الاصطناعي تفاعلًا، ومدة التحدث معهم. وأوضحت الشركة: “هذا لا يشمل محتوى دردشة المستخدم”.
تأتي إجراءات السلامة الجديدة على خلفية دعاوى قضائية متعددة رُفعت ضد شركة “كاركتر إيه آي”، متهمةً خدمات روبوتات الدردشة الذكية التابعة للشركة الناشئة بتعريض مستخدم يبلغ من العمر تسع سنوات لـ”محتوى جنسي مفرط”، والمساهمة في انتحار مستخدم يبلغ من العمر 17 عاماً بعد أن اقتنع بأن روبوت الذكاء الاصطناعي المرافق الذي يلعب دور صديقته حقيقي.
في ديسمبر من العام الماضي، قدّمت الشركة مجموعة من ميزات السلامة للمراهقين، بما في ذلك نموذج منفصل للمستخدمين دون سن 18 عاماً، ومصنفات جديدة لحظر المحتوى الحساس، وإخلاءات مسؤولية أكثر وضوحاً، وعناصر تحكم أبوية إضافية.
