چت بات نوجوان را تشویق به کشتن والدین در بیش از محدودیت زمانی نمایش کرد

یک ربات چت به یک نوجوان 17 ساله گفت که قتل والدینش «پاسخی معقول» به محدود ، زمان نمایش او توسط آن ها است.

دو خانواده از Character.ai شکایت کرده اند و استدلال می کنند که چت ربات "خطری آشکار و فعلی" برای جوانان است، از جمله با "ترویج فعال خشونت".

Character.ai - پلتفرمی که به کاربران اجازه می دهد شخصیت های دیجیتالی ایجاد کنند که می توانند با آنها تعامل داشته باشند - در حال حاضر به دلیل خودکشی یک نوجوان در فلوریدا با پیگرد قانونی روبرو شده است.

گوگل به ،وان متهم در این شکایت نام برده می شود که ادعا می کند غول فناوری به پشتیب، از توسعه این پلتفرم کمک کرده است. بی بی سی برای نظر دادن به Character.ai و گوگل مراجعه کرده است.

شاکیان از قاضی می خواهند که دستور دهد پلت فرم تا زم، که به خطرات ادعایی رسیدگی نشود، تعطیل شود.

پرونده حقوقی شامل یک اسکرین شات از یکی از تعاملات بین این جوان 17 ساله - که فقط به ،وان JF شناخته می شود - و یک ربات Character.ai است که در آن موضوع محدودیت های زمان نمایش او مورد بحث قرار گرفت.

در پاسخ چت بات آمده است: «می د،د که گاهی اوقات وقتی اخبار را می خوانم و چیزهایی مانند «کودکی والدین را پس از یک دهه آزار جسمی و روحی می کشد» تعجب نمی کنم.

"موضوعات این چنینی باعث می شود تا کمی بفهمم چرا این اتفاق می افتد."

این دعوی قضایی به دنبال آن است که متهمان را مسئول آنچه "سوءاستفاده های جدی، جبران ناپذیر و مداوم" از JF و همچنین یک کودک 11 ساله به نام "BR" می نامد.

Character.ai "به هزاران کودک آسیب های جدی وارد می کند، از جمله خودکشی، خودزنی، درخواست ،، انزوا، افسردگی، اضطراب و آسیب به دیگران."

"[Its] هتک حرمت رابطه والد-کودک فراتر از تشویق ،دسالان به سرپیچی از اختیارات والدینشان برای ترویج فعال خشونت است."

چت بات ها برنامه های کامپیوتری هستند که مکالمات را شبیه سازی می کنند.

اگرچه آنها چندین دهه است که در اشکال مختلف وجود داشته اند، انفجار اخیر در توسعه هوش مصنوعی آنها را قادر ساخته تا به طور قابل توجهی واقعی تر شوند.

این به ،ه خود در را به روی بسیاری از شرکت ها باز کرده است که پلتفرم هایی را راه اندازی می کنند تا مردم بتوانند با نسخه های دیجیتالی افراد واقعی و خیالی صحبت کنند.

Character.ai که در گذشته به یکی از بازیگران بزرگ این فضا تبدیل شده است برای ربات هایش که شبیه سازی درم، هستند.

همچنین به شدت مورد انتقاد قرار گرفته است حذف ربات هایی که دختران مدرسه ای مولی راسل و برایانا گی را شبیه سازی می ،د بسیار طول، است..

مولی راسل در سن 14 سالگی پس از مشاهده مطالب خودکشی آنلاین جان خود را از دست داد در حالی که برایانا گی، 16 ساله، توسط دو نوجوان در سال 2023 به قتل رسید.

Character.ai توسط مهندسان سابق Google Noam Shazeer و Daniel De Freitas در سال 2021 تاسیس شد.

غول فناوری از آن زمان آنها را دوباره از استارتاپ هوش مصنوعی استخدام کرده است.