در سال‌های اخیر، با پیشرفت سریع فناوری‌های هوش مصنوعی، به ویژه در زمینه چت‌بات‌ها، نگرانی‌ها در مورد امنیت و استفاده نادرست از این تکنولوژی‌ها افزایش یافته است. به ویژه، چت‌بات‌های هوش مصنوعی به دلیل توانایی‌های بالای خود در مکالمه با کاربران و پردازش زبان طبیعی، جذابیت زیادی برای نوجوانان و جوانان پیدا کرده‌اند.
قانون دوحزبی GUARD (حفاظت از کاربران در برابر خطرات دیجیتال) به تازگی به کنگره ایالات متحده ارائه شده است. هدف این قانون، ایجاد محدودیت‌های سنی و مقررات خاصی برای استفاده از چت‌بات‌های هوش مصنوعی است. پیشنهاد‌دهندگان این قانون معتقدند که نوجوانان به دلیل عدم تجربه و آگاهی کافی، ممکن است به‌راحتی قربانی سوءاستفاده‌ها و خطرات ناشی از تعامل با این سیستم‌ها شوند.
قانون GUARD شامل موارد زیر است:
- محدودیت سن برای کاربران چت‌بات‌های هوش مصنوعی با هدف حفاظت از جوانان.
- لزوم دریافت تأیید والدین برای کاربران زیر سن معین.
- نظارت و ارزیابی مستمر بر عملکرد چت‌بات‌ها برای جلوگیری از محتوای نامناسب.
- تدوین و انتشار گزارش‌های دوره‌ای درباره تأثیر چت‌بات‌ها بر روی رفتار و روان کاربران جوان.
یکی از موارد مهمی که در این قانون به آن اشاره شده، تأسیس یک نهاد مستقل برای نظارت بر چت‌بات‌های هوش مصنوعی است. این نهاد مسئولیت دارد که بر فعالیت‌های چت‌بات‌ها نظارت کرده و اطمینان حاصل کند که تمامی محتواهایی که در این سیستم‌ها تولید می‌شود، مطابق با استانداردهای اخلاقی و قانونی بوده و به حقوق کاربران احترام بگذارد.
نقش والدین و نهادهای آموزشی نیز در این قانون برجسته است. والدین می‌توانند با کمک ابزارهای خاصی که در نظر گرفته شده، نظارت بیشتری بر فعالیت‌های آنلاین فرزندان خود داشته باشند. همچنین برنامه‌های آموزشی نیز برای آشنایی نوجوانان با خطرات احتمالی استفاده از فناوری‌های هوش مصنوعی طراحی خواهد شد.
علاوه بر محدودیت‌های سنی، این قانون همچنین بر روی توسعه ابزارهای فناوری برای کمک به کاربران تمرکز خواهد کرد. این ابزارها می‌توانند شامل نرم‌افزارهایی باشند که به نوجوانان هشدار دهند در صورت مواجهه با محتوای مضر یا نادرست.
منتقدان این قانون اعلام کرده‌اند که ممکن است این نوع مقررات باعث محدود شدن آزادی‌های آنلاین کاربران شود و همچنین ممکن است تولیدکنندگان چت‌بات‌ها را به تحمل شرایط دشوارتر در بازار وادار کند. اما طرفداران قانون GUARD معتقدند که این اقدام به عنوان یک ضروری برای حفاظت از نسل جوان در عصر دیجیتال به شمار می‌آید.
این اقدام نیز در راستای دیگر قوانین بین‌المللی مرتبط با حفاظت از داده‌های کاربران و ترقیب به استفاده مسئولانه از فناوری‌های نوین در نظر گرفته می‌شود. به عنوان مثال، بسیاری از کشورها در اروپا اقداماتی مشابه برای محدود کردن دسترسی به محتواهای مضر برای جوانان انجام داده‌اند.
پس زمینه
در سال‌های اخیر، افزایش استفاده از چت‌بات‌ها در حوزه‌های مختلف از جمله خدمات مشتری، مشاوره‌های حقوقی و حتی آموزش، باعث شده است که توجه بیشتری به این فناوری‌ها جلب شود. با این حال، عدم وجود قوانین کافی و نظارت مؤثر در این زمینه می‌تواند منجر به استفاده‌های نادرست و سوءاستفاده شود.
آیندگان با چالش‌های بی‌شماری در دنیای دیجیتال روبرو خواهند بود و نیاز است که قانون‌گذاران با نگرش و عزم جدی اقداماتی را برای حفاظت از کاربران انجام دهند. فناوری‌های هوش مصنوعی می‌توانند با وجود تمام مزایای خود، اگر به درستی کنترل نشوند، عواقب ناخوشایندی نیز به همراه داشته باشند.