بر اساس گزارش‌های جدید، شرکت فناوری Character.AI تصمیم به ممنوعیت گفتگو نوجوانان با ربات‌های چت خود گرفته است. این تصمیم بخشی از تلاش‌های این شرکت برای ایجاد یک محیط امن‌تر برای کاربران جوان‌تر است. ربات‌های چت به دلیل ویژگی‌های تعامل انسانی و هوش مصنوعی خود در میان جوانان محبوبیت زیادی پیدا کرده‌اند، اما نگرانی‌هایی در مورد تأثیرات منفی آنها بر سلامتی و وضعیت روانی نوجوانان وجود دارد.
این ممنوعیت به نوجوانان زیر 13 سال اجازه نمی‌دهد تا با ربات‌ها تعامل کنند. این تصمیم به خواست والدین و نظرات کارشناسان در زمینه روانشناسی و فناوری اتخاذ شده است. مدیران این شرکت بر این باورند که امنیت و سلامت کاربران مهم‌ترین اولویت آن‌هاست و این اقدام در راستای محافظت از نوجوانان و کاهش خطرات ناشی از تعامل آنها با ربات‌های چت انجام می‌شود.
به طور مشخص، این ممنوعیت به کاربران تنها اجازه می‌دهد تا با چت‌بات‌هایی که وضعیت کاربری‌شان تأیید شده است، گفتگو کنند. این به معنی این است که کاربران بالای 13 سال که بتوانند هویت خود را ثابت کنند، می‌توانند به استفاده از این خدمات ادامه دهند. به عنوان بخشی از این اقدام امنیتی، شرکت Character.AI همچنین به توسعه الگوریتم‌های یادگیری ماشین برای شناسایی و جلوگیری از رفتارهای نامناسب پرداخته است.
در این راستا، این شرکت همچنین اقدام به ارائه مشاوره‌های آموزشی برای والدین و معلمان کرده تا آنها بتوانند نوجوانان را در استفاده ایمن و مؤثر از فناوری راهنمایی کنند. مهم‌ترین هدف این تمهیدات، انجام گفتگوهای مفید و سالم برای نوجوانان و ایجاد فضایی برای رشد مثبت آنها از طریق استفاده از فناوری‌های جدید است.
پس زمینه: متن‌ها و اطلاعات مربوط به ربات‌های چت نشان دهنده ازدیاد روزافزون استفاده از این نوع فناوری‌ها در میان سنین مختلف است. با این حال، با پیشرفت روزافزون هوش مصنوعی، نگرانی‌هایی نسبت به تبدیل این ربات‌ها به ابزارهای بالقوه آسیب‌زا یا مقوله‌های مضر نیز وجود دارد. در سال‌های اخیر، تعدادی از شرکت‌های فناوری بر روی ایجاد پلتفرم‌هایی کار کرده‌اند که پیشنهاداتی برای افزایش ایمنی ارائه دهند و در راستای ساماندهی این حوزه گام‌های مؤثری بردارند. ممنوعیت‌ها و قوانین وضع شده می‌تواند به مانند یک استاندارد جدید در صنعت فناوری تبدیل شود که هدف آن حفاظت از نسل آینده و ایجاد محیطی امن است.