تولید تصاویر غیراخلاقی از خواننده مشهور با هوش مصنوعی جنجالی شد

پس از اینکه عکس‌های جعلی و مستهجن تیلور سوییفت میلیون‌ها بار در فضای مجازی دیده شد و جنجال بسیاری به پا کرد، سیاستمداران آمریکایی را به این فکر انداخت که قوانین جدیدی برای جرم‌انگاری ایجاد جعل عمیق (دیپ فیک) تصویب کنند.

تصاویر جعلی تیلور سوییفت در شبکه‌های اجتماعی از جمله تلگرام و ایکس (توییتر) منتشر شده بود. شبکه اجتماعی ایکس در بیانیه‌ای اعلام کرد که این تصاویر را حذف و حساب‌های مرتبط با آن‌ها را محدود کرده است.

این در حالی است که بر اساس برخی آما تصاویر جعلی تیلور سوییفت پیش از حذف شدن، میلیون‌ها بار دیده شده‌اند و یکی از این تصاویر پیش از حذف ۴۷ میلیون بار توسط کاربران گزارش شده است.

در دیپ‌فیک از هوش مصنوعی (AI) برای ساختن ویدیو یا تصویر از فرد با دستکاری صورت یا بدن او استفاده می‌شود.

طبق گزارش State of Deepfakes که در سال گذشته منتشر شد، محتوای جنسی اکثریت قریب به اتفاق دیپ فیک‌های پست شده آنلاین را تشکیل می‌دهد و زنان 99 درصد از کسانی را تشکیل می دهند که در چنین محتواهایی هدف قرار می گیرند.

ایوت دی کلارک، نماینده دموکرات، در این رابطه در توییتر نوشت: «آنچه برای تیلور سوئیفت رخ داده است، چیز جدیدی نیست. زنان سال‌ها هدف این فناوری قرار گرفته‌اند و حالا با پیشرفت‌های هوش مصنوعی، ساختن دیپ‌فیک آسان‌تر و ارزان‌تر شده است.»

سوئیفت به طور علنی در مورد این تصاویر صحبت نکرده است، اما دیلی میل گزارش داد که تیم او در حال بررسی اقدامات قانونی علیه سایتی است که تصاویر تولید شده توسط هوش مصنوعی را منتشر کرده است.

نگرانی ها در مورد محتوای تولید شده توسط هوش مصنوعی با رای دادن میلیاردها نفر در انتخابات امسال در سراسر جهان افزایش یافته است.

این هفته، تماس‌های گرفته شده از سوی یک شماره‌گیر کامپیوتری، آن هم با صدای جعلی رئیس جمهوری ایالات متحده آمریکا باعث شد تا یک پرونده تحقیق و تفحص در مورد این موضوع در یکی از ایالت‌های آمریکا باز شود و نگرانی‌ها در مورد اثرات هوش مصنوعی بر انتخابات ریاست جمهوری سال ۲۰۲۴ در این کشور را افزایش دهد.