OpenAI، شرکت پیشرو در زمینه هوش مصنوعی، به تازگی به بررسی و کنترل تولیدات deepfake تحت عنوان Sora 2 پرداخته است. این تصمیم در پی فشارهای مربوط به حقوق هنرمندان و نگرانی در مورد اثرات منفی که این فناوری می‌تواند بر روی صنعت سرگرمی بگذارد، اتخاذ شده است. برایان کرانستون، بازیگر مشهور و رئیس انجمن SAG-AFTRA، که نمایندگی اعضای خود را بر عهده دارد، یکی از افرادی است که به وضوح از احیای این فناوری ابراز نگرانی کرده است.
تکنولوژی deepfake، خود به مفهوم استفاده از الگوریتم‌های هوش مصنوعی برای ساخت محتوای ویدیویی که در آن یک شخص به طور واقعی به جای شخص دیگر مشاهده می‌شود، برمی‌گردد. این فناوری می‌تواند به شیوه‌ای ممکن و قانع‌کننده از چهره و صدا افراد مشهور استفاده کند، بنابراین در صورت سوءاستفاده، می‌تواند پیامدهای جدی برای زندگی حرفه‌ای و شخصی افرادی که به طور ناخواسته در این محتواها نمایش می‌یابند، به همراه داشته باشد.
فشارهای اخیر برایان کرانستون بر روی OpenAI به دلیل این است که وی اعتقاد دارد هرگونه استفاده نادرست از این فناوری می‌تواند به تخریب اعتبار و موقعیت هنرمندان منجر شود. دیپ‌فیک‌ها در دنیای رسانه‌های اجتماعی به شدت مورد استفاده قرار می‌گیرند و در صورت عدم کنتر، می‌توانند به دروغگویی و ایجاد اخبار جعلی دامن بزنند.
در راستای همین موضوع، SAG-AFTRA، اتحادیه‌ای که نماینده بازیگران و دیگر هنرمندان است، خواستار ایجاد تدابیر جدی‌تری در زمینه تصویب و کنترل استفاده از تکنولوژی‌های جدید و به‌ویژه deepfakeها شده است. این اتحادیه همچنین از OpenAI خواسته‌است که شفافیت بیشتری در مورد نحوه استفاده از فناوری‌های خودش فراهم کند.
OpenAI در پاسخ به این فشارها، اقدامات جدی‌تری را برای بررسی روش‌های تولید Sora 2 و جلوگیری از استفاده نادرست از این فناوری اعلام کرده است. این اقدام می‌تواند به عنوان گامی موثر در راستای حفظ حقوق هنرمندان و همچنین جلوگیری از سوءاستفاده‌های احتمالی در فضای مجازی تلقی شود. کارشناسان بر این باورند که با توجه به افزایش نگرانی‌ها درباره استفاده نادرست از تکنولوژی‌های پیشرفته، اینگونه اقدامات می‌تواند الگویی برای سایر شرکت‌های فناوری باشد.
با این وجود، برخی نیز نگرانند که ایجاد محدودیت‌ها ممکن است خلاقیت و نوآوری را در حوزه‌های مختلف فناوری محدود کند. بنابراین، تعادل بین حفاظت از حقوق افراد و تشویق به پیشرفت در زمینه فناوری‌های نوین، امری ضروری و پیچیده است.
پس زمینه
تکنولوژی deepfake به سرعت در حال گسترش است و استفاده از آن در صنایع مختلف در حال افزایش است. این فناوری می‌تواند در مواردی مثبت، مانند تولید محتوا در سینما و تلویزیون یا آموزش‌های تعاملی، مورد استفاده قرار گیرد، اما در عین حال می‌تواند برای اهداف منفی نیز به کار رود. به همین دلیل، ضرورت بررسی و تدوین قوانین مشخص در زمینه استفاده و کنتر روی این تکنولوژی، مورد توجه اقشار مختلف جامعه قرار گرفته است.
به عنوان مثال، برخی کشورها قوانین سخت‌گیرانه‌ای را برای جلوگیری از سوءاستفاده از محتوای دیجیتال تصویب کرده‌اند. همچنین، به تبع آن، اتحادیه‌های کارگری مانند SAG-AFTRA بر این نکته تأکید دارند که باید از هنرمندان در برابر تولیدات نادرست و غیرقانونی داده‌های خود محافظت شود. در نتیجه، توجه به ابعاد اخلاقی و اجتماعی استفاده از deepfakeها امری ضروری به شمار می‌رود.