در حالی که سرگرمی را فعال می کند، فناوری تعویض چهره هوش مصنوعی می تواند منجر به انتشار اطلاعات نادرست و اخبار جعلی نیز شود.
در اوایل سال جاری، شکایتی در ایالات متحده علیه برنامه تعویض چهره ویروسی Reface به دلیل سوء استفاده تجاری از عکس های افراد مشهور تشکیل شد. برنامه Reface از هوش مصنوعی (AI) برای ایجاد تعویض چهره فوق واقعی استفاده می کند. این برنامه به هر کسی اجازه می‌دهد تا به صورت دیجیتالی عکسی از چهره هر فرد را روی عکس یا ویدیوی فرد دیگری بچسباند. چندین برنامه از این دست به صورت رایگان در فروشگاه های برنامه وجود دارد.
در حالی که برنامه‌های تعویض چهره برای سرگرمی بی‌ضرر طراحی شده‌اند، تهدیدات بالقوه آن در اوایل سال جاری زمانی که یک کلاهبردار از این فناوری برای جعل هویت دوست نزدیک قربانی استفاده کرد و بیش از 4.3 میلیون یوان (تقریباً 5 کرور) او را فریب داد، آشکار شد.
در اینجا برخی از خطرات فناوری تعویض چهره هوش مصنوعی آورده شده است:
افزایش اطلاعات نادرست: یکی از مهم ترین خطرات تعویض چهره هوش مصنوعی، انتشار اطلاعات نادرست و اخبار جعلی است. این برنامه ها با موفقیت ویدیوها و تصاویر را دستکاری می کنند و محتوایی را ایجاد می کنند که به نظر واقعی می رسد.
دسترسی به داده های حساس: با جعل هویت دیگران، کلاهبرداران می توانند به راحتی به داده های حساس دسترسی غیرمجاز داشته باشند و با استفاده از هویت شخص دیگری مرتکب جرم شوند.
آزار و اذیت سایبری: این امکان وجود دارد که زورگویان سایبری تصاویر و فیلم های افراد را دستکاری کرده و آنها را مورد آزار و اذیت قرار دهند.
پورن انتقام جویانه: مجرمان می توانند از تعویض چهره با هوش مصنوعی برای ایجاد محتوای صریح با چهره افراد نارضایتی استفاده کنند که باعث آسیب عاطفی و روانی شود.
این خطرات بر اهمیت استفاده اخلاقی و مسئولانه از فناوری تعویض چهره هوش مصنوعی و همچنین نیاز به مقررات و تدابیر قوی برای کاهش اثرات منفی آن تاکید می کند.
برنامه‌های تعویض چهره هوش مصنوعی، که اغلب برای سرگرمی بی‌ضرر استفاده می‌شوند، می‌توانند تهدیدها و خطرات خاصی را برای کاربران ایجاد کنند:
نگرانی‌های مربوط به حفظ حریم خصوصی: وقتی افراد برای سرگرمی از برنامه‌های تعویض چهره با هوش مصنوعی استفاده می‌کنند، ممکن است سهواً تصاویر یا ویدیوهای خود یا دیگران را بدون رضایت به اشتراک بگذارند و این موضوع مشکلات حریم خصوصی را ایجاد می‌کند.
احتمال سوء استفاده: افراد ممکن است از برنامه‌های تعویض چهره برای ایجاد محتوای توهین‌آمیز، مضر یا بی‌احترامی برای دیگران استفاده کنند، حتی اگر به عنوان شوخی باشد.
از دست دادن کنترل: اشتراک‌گذاری تصاویر یا ویدیوها با برنامه‌های تعویض چهره هوش مصنوعی در پلتفرم‌های رسانه‌های اجتماعی به معنای کنار گذاشتن کنترل بر نحوه استفاده یا سوء استفاده از آن محتوا توسط دیگران است.
استفاده مسئولانه از چنین فناوری و احترام به حریم خصوصی و رضایت افراد برجسته در محتوا مهم است.
