استیو وازنیاک، یکی از بنیانگذاران اپل، و پرنس هری به همراه 800 نفر دیگر در یک نامه عمومی از رهبران جهانی خواسته‌اند که برای جلوگیری از توسعه ابرهوش مصنوعی (superintelligence) اقدام کنند. این درخواست به منظور افزایش آگاهی درباره خطرات بالقوه‌ای است که این فناوری می‌تواند به همراه داشته باشد. ابرهوش مصنوعی به معنای هوش مصنوعی است که دارای توانایی‌های پیشرفتهای فراتر از توانایی‌های ذهن انسانی است.
در این نامه، آنها به این نکته اشاره کرده‌اند که توانایی‌های ابرهوش مصنوعی می‌تواند به شکل‌گیری سیستم‌هایی منجر شود که بر زندگی روزمره مردم تأثیر می‌گذارند و حتی ممکن است تهدیدی برای امنیت و حیات انسان‌ها باشند. به همین دلیل، این گروه درخواست کرده‌اند که کشورهای مختلف تا زمانی که قوانین و مقررات مؤثر به تصویب نرسیده‌اند، از توسعه ابرهوش مصنوعی خودداری کنند.
وزیر امور خارجه ایالات متحده و کارشناسان فناوری نیز در پاسخ به این درخواست، معیارهایی را برای کنترل و نظارت بر توسعه هوش مصنوعی پیشنهاد کرده‌اند. آنها معتقدند که باید قوانین شفاف و دقیقی برای ایمنی و امنیت استفاده از هوش مصنوعی تدوین شود و همچنین همکاری‌های بین‌المللی برای کاهش خطرات این فناوری ضرورت دارد.
در ادامه این بحث، مطرح شده است که آیا سازمان‌های بزرگ فناوری به تعهدات خود در برابر مسئولیت‌های اجتماعی پایبند خواهند بود یا خیر. این پرسش به‌ویژه در شرایطی طرح می‌شود که شرکت‌های فناوری با فشارهای اجتماعی و قانونی بیشتری مواجه می‌شوند.
این نامه توسط شخصیت‌های مشهور و متخصصانی از زمینه‌های مختلف امضا شده است و نشانه‌ای از نگرانی درباره مسیر آینده هوش مصنوعی در کنار پیشرفتهای سریع و قابل ملاحظه‌ی این فناوری‌هاست. امضاکنندگان این نامه به این نکته تاکید کرده‌اند که جامعه باید از خطرات بالقوه ابرهوش مصنوعی آگاه باشد و بدانیم که در چه مسیری حرکت می‌کنیم.
خطرات ابرهوش مصنوعی
- مسائل اخلاقی: نگرانی‌هایی در مورد تصمیم‌گیری‌ها و رفتارهای ناشی از ابرهوش مصنوعی وجود دارد.
- اعتماد: آیا ما می‌توانیم به سیستم‌های مبتنی بر ابرهوش مصنوعی اعتماد کنیم؟
- کنترل: آیا انسان‌ها قادر خواهند بود که بر ابرهوش مصنوعی نظارت داشته باشند؟
- مشکلات اقتصادی: ممکن است با پیشرفت ابرهوش مصنوعی، اشتغال در برخی حوزه‌ها تحت تأثیر قرار بگیرد.
- تأثیر بر دموکراسی: سیستم‌های هوش مصنوعی ممکن است بر تصمیم‌گیری‌های سیاسی و اجتماعی تأثیر بگذارند.
در انتها، این نامه تأکید می‌کند که گام‌های فوری باید برداشته شود تا اطمینان حاصل شود که فناوری‌های هوش مصنوعی به شکلی امن و مسئولانه توسعه می‌یابند.
پس زمینه
ابرهوش مصنوعی به عنوان یک مفهوم در دهه‌های اخیر مطرح شده است و به توانایی‌های هوش مصنوعی اشاره دارد که می‌توانند فراتر از قابلیت‌های انسان باشند. پیشرفت سریع در این زمینه، به ویژه با استفاده از یادگیری عمیق (deep learning) و دیگر تکنیک‌های پیشرفته، باعث شده است که برخی محققین و چهره‌های برجسته نسبت به عواقب این فناورینگرانی داشته باشند. بحث‌هایی همچون تبعات اخلاقی تصمیم‌گیری‌های هوش مصنوعی، خطرات امنیتی و تأثیرات اجتماعی و اقتصادی اهمیت دارند. دولت‌ها و نهادهای بین‌المللی نیز باید به توسعه سیاست‌ها و دستورالعمل‌های مرتبط با هوش مصنوعی توجه بیشتری داشته باشند. برگزاری کنفرانس‌ها و گردهمایی‌ها در این خصوص گویای نیاز به همکاری‌های بین‌المللی در این زمینه است.