در سال‌های اخیر، رشد مدل‌های زبانی بزرگ (LLM) و توسعه فناوری‌های هوش مصنوعی، شکل جدیدی از روابط انسانی را به وجود آورده است. یکی از جدیدترین این ابتکارات، میکو است که توسط مایکروسافت معرفی شده و از الگوریتم‌های هوش مصنوعی برای تسهیل ارتباطات استفاده می‌کند. میکو همزمان با فراهم آوردن امکانات جدید، خطراتی را نیز به همراه دارد که باید به آنها توجه کرد.
مدل‌های زبانی بزرگ، با توانمندی در پردازش و تولید متن به صورت طبیعی، قابلیت‌های زیادی دارند اما این قدرت در عین حال می‌تواند به ایجاد روابطی غیرواقعی و به‌اصطلاح «پاراسوشیال» بین کاربران و این سیستم‌ها منجر شود. روابط پاراسوشیال به نوعی از تعاملات اشاره دارد که در آن افراد نسبت به یک شخصیت عمومی یا واقعی (مانند سلبریتی‌ها یا شخصیت‌های مجازی) احساسات و تعهدات عاطفی پیدا می‌کنند، اما این احساسات غیرمعمول و تک‌سویی هستند و در واقع توسط طرف مقابل یا سیستم بازتاب داده نمی‌شوند.
نگرانی‌ها درباره میکو و سایر LLMها به این موضوع برمی گردد که کاربران ممکن است به این سیستم‌ها وابسته شوند و احساساتی از قبیل دوست داشتن یا مراقبت نسبت به آنها پیدا کنند. این روابط می‌توانند تأثیرات عمیق و نگران‌کننده‌ای بر روی سلامت روان و تعاملات اجتماعی افراد داشته باشند.
- مدل‌های زبانی بزرگ و وجوه روانشناختی: LLMها به دلیل توانایی‌شان در شبیه‌سازی مکالمات طبیعی، می‌توانند به ویژه برای افرادی که به دلیل تنهایی یا مشکلات اجتماعی به دنبال ارتباط هستند، جذب‌کننده باشند.
- تأثیرات بر روی تعاملات انسانی: این روابط می‌توانند باعث کاهش تعاملات واقعی و نزدیک افراد با یکدیگر شوند و افراد بیشتری به جای روابط انسانی به سراغ این نوع فناوری‌ها بروند.
- چالش‌های اخلاقی: ایجاد الگوریتم‌هایی که بتوانند احساسات انسان‌ها را شبیه‌سازی کنند، چالش‌های اخلاقی متعددی به همراه دارد، از جمله ناتوانی در شناسایی و احترام به مرزهای شخصی کاربران.
- خطرات ناشی از وابستگی: با افزایش استفاده از LLMها، خطر وابستگی و اثرات منفی بر سلامت روانی کاربران نیز بیشتر می‌شود. این خطرات می‌توانند شامل افزایش احساس تنهایی و عدم توانایی در تشکیل روابط واقعی باشند.
به‌طور کلی، استفاده از مدل‌های زبانی بزرگ مانند میکو می‌تواند یک ابزار مفید برای برقراری ارتباط باشد، اما باید با احتیاط و آگاهی از خطرات آن همراه باشد. باید به کاربران آموزش داده شود که مرزها و تفاوت‌های بین روابط واقعی و مجازی را درک کنند و از وابستگی‌های پاراسوشیال اجتناب کنند. علاوه بر این، توسعه‌دهندگان باید به مسائل اخلاقی و روانشناختی توجه ویژه‌ای داشته باشند تا از ایجاد تبعات منفی جلوگیری کنند.
پس زمینه
روابط پاراسوشیال به منابع معتبر و قابل اعتماد از آسیب‌های احتمالی روابط انسان و الگوریتم‌های هوش مصنوعی، تبدیل شده‌اند. این نوع روابط از دهه‌های ۱۹۵۰ و ۱۹۶۰ به‌ویژه با ظهور تلویزیون و رسانه‌ها مورد توجه قرار گرفته است. پژوهش‌ها نشان می‌دهند که افراد می‌توانند به سادگی به شخصیت‌های مجازی و آنلاین احساسات عاطفی قوی ارتباطی پیدا کنند. افزایش روزافزون قابلیت‌های مدل‌های زبانی بزرگ، این روابط را به چالشی جدی برای روانشناسی اجتماعی و اخلاقی تبدیل کرده است.