شرکت Character.AI که به‌خاطر توسعه سامانه‌های گفتگوی هوش مصنوعی خود مشهور است، به تازگی اعلام کرده است که چت با کاربران زیر ۱۸ سال را محدود خواهد کرد. این تصمیم پس از شکایت‌های قانونی به‌دنبال مرگ یک نوجوان به‌دلیل استفاده از این پلتفرم اتخاذ شده است.
بر اساس آخرین گزارش‌ها، این نوجوان که به‌دلایل نامعلومی جان خود را از دست داده، در زمان استفاده از این پلتفرم با محتوای نامناسب و بحث‌های تحریک‌آمیز مواجه شده بوده است. در پی این ماجرا، خانواده‌اش به استناد به این که پلتفرم نتوانسته از ایمنی فرزندشان محافظت کند، اقدام به شکایت کرد.
با توجه به این حوادث، Character.AI به‌سرعت اقدام به بررسی پروتکل‌های ایمنی خود کرده و تصمیم به محدود کردن دسترسی کاربران زیر ۱۸ سال به چت‌های غیررسمی و گفتگوهای آزاد گرفته است. هدف این تغییرات، محافظت از نوجوانان در برابر محتوای خطرناک و سوءاستفاده‌های احتمالی است.
مدیرعامل این شرکت اظهار داشته است که امنیت و رفاه کاربران جزو اولویت‌های اصلی آن‌هاست و این تغییرات یکی از اقدامات جدی در راستای تضمین ایمنی جوانان تلقی می‌شود.
در حال حاضر، پلتفرم‌های مشابه نیز تحت فشار قرار دارند تا راهکارهایی برای حفاظت از کاربران جوان خود توسعه دهند. این امر می‌تواند تاثیر بزرگی بر روی کارایی و عملکرد آینده این خدمات بگذارد.
حدود دو سال پیش، زمانی که فناوری AI و ربات‌های گفتگو به سرعت در حال توسعه بودند، بسیاری از رسانه‌ها بر این نکته تأکید کردند که این فناوری‌ها نیاز به نظارت دقیق‌تری دارند. حالا با توجه به این حوادث، نگرانی‌های بیشتری در مورد ایمنی کاربران به‌ویژه نوجوانان مطرح شده است.
پس زمینه
مفاهیم مرتبط با ایمنی آنلاین و حفظ حریم خصوصی، به‌ویژه در دوران مدرن، به شدت توجهات را به خود جلب کرده است. با گسترش فناوری‌های نوین، کمبودهایی در ایمنی کاربران به ویژه کاربران جوان بیشتر مورد توجه قرار گرفته است. سازمان‌های مختلف همواره به دنبال راهکارهای بهتر برای مقابله با تهدیدات آنلاین و حفاظت از هویت کاربران هستند. در سال‌های اخیر، چندین مورد از تهدیدات مجازی که منجر به آسیب‌های جدی به کاربران، به‌ویژه جوانان شده، خبرساز شده است.
برنامه‌های مداخله و حمایتی از جوانان در این زمینه در حال حاضر در حال اجرا هستند. در این راستا، مدارس و نهادهای اجتماعی، برنامه‌های آموزشی پیرامون استفاده امن از اینترنت و رسانه‌های اجتماعی را طراحی و ارائه می‌دهند. همچنین، خانواده‌ها نیز نقش کلیدی در تربیت و آموزش فرزندان خود به‌ویژه در حوزه‌های مرتبط با فضای مجازی دارند.
بدون شک، این تصمیمات به عبارت دیگر نشانه‌ای از اولویت دادن به ایمنی کاربران در جامعه فناوری‌های نوین به شمار می‌رود. این تغییرات نشان‌دهنده آگاهی روزافزون نسبت به خطرات فضای آنلاین و همچنین پاسخگویی به نیازهای کاربران جوان‌تر است. اقدامات مشابه ممکن است به دیگر پلتفرم‌ها کمک کند تا شیوه‌های بهتری را برای محافظت از کاربران خود در پیش بگیرند.