زنگ خطر دیپ‌فیک؛ کنگره آمریکا وارد عمل شد

به گزارش نگاه فناوری:در اقدامی بی‌سابقه، گروهی از اعضای کنگره ایالات متحده با ارسال نامه‌ای رسمی به مدیران ارشد شرکت‌های بزرگ فناوری، نگرانی عمیق خود را نسبت به افزایش روزافزون تصاویر جعلی و دستکاری‌شده (دیپ‌فیک) ابراز کرده‌اند. این نامه به ویژه خطاب به مدیرعاملان شرکت‌هایی مانند اپل، گوگل، مایکروسافت، متا، تیک‌تاک، اسنپ و ایکس ارسال شده است.

دیپ‌فیک؛ تهدیدی جدی برای جامعه

با پیشرفت روزافزون فناوری هوش مصنوعی، تولید تصاویر و ویدیوهای جعلی که به واقعیت بسیار شباهت دارند، به امری آسان و در دسترس تبدیل شده است. این تصاویر جعلی که به عنوان دیپ‌فیک شناخته می‌شوند، می‌توانند برای اهداف مختلفی از جمله تخریب چهره افراد، انتشار اخبار دروغ و ایجاد آشوب در جامعه استفاده شوند. به همین دلیل، کنگره آمریکا بر آن شده است تا با دخالت مستقیم، شرکت‌های فناوری را ملزم به اتخاذ تدابیر جدی برای مقابله با این پدیده خطرناک کند.

سوالات کلیدی کنگره از شرکت‌های فناوری

در نامه ارسالی به مدیرعامل اپل، تیم کوک، کنگره سوالات مهمی را مطرح کرده است. از جمله این سوالات می‌توان به برنامه‌های اپل برای مقابله فعالانه با انتشار دیپ‌فیک در پلتفرم‌های خود، زمان‌بندی اجرای این برنامه‌ها و نقش افراد و سازمان‌های مختلف در توسعه این طرح‌ها اشاره کرد. همچنین، کنگره خواستار ارائه اطلاعاتی در مورد نحوه رسیدگی اپل به گزارش‌های مربوط به تصاویر جعلی و نظارت بر عملکرد این سیستم‌ها شده است.

به طور مشابه، کنگره از مدیرعاملان مایکروسافت و گوگل نیز سوالاتی در مورد نقش محصولات و خدمات آن‌ها در تولید و انتشار تصاویر دیپ‌فیک پرسیده است. به عنوان مثال، از مایکروسافت درباره نقش نرم‌افزار Microsoft Designer در تولید تصاویر جعلی از افراد مشهور سوال شده است و از گوگل نیز درباره سیاست‌های این شرکت در خصوص اجازه دادن به برنامه‌های کاربردی برای تبلیغ قابلیت‌های ساخت دیپ‌فیک پرسیده شده است.

اقدامات قبلی اپل و خواسته‌های کنگره

اپل تاکنون اقداماتی را برای مقابله با انتشار تصاویر دیپ‌فیک انجام داده است. به عنوان مثال، این شرکت از تولید تصاویر برهنه یا مستهجن با استفاده از سرویس هوش مصنوعی خود جلوگیری کرده و همچنین امکان ورود کاربران با استفاده از شناسه اپل به وب‌سایت‌هایی که به تولید تصاویر جعلی اختصاص دارند را مسدود کرده است. با این حال، کنگره بر این باور است که این اقدامات کافی نیست و از اپل خواسته است تا اقدامات گسترده‌تری را برای مقابله با این پدیده انجام دهد.

اهمیت مقابله با دیپ‌فیک

گسترش تصاویر دیپ‌فیک تهدیدی جدی برای امنیت و حریم خصوصی افراد، سلامت دموکراسی و ثبات جامعه است. به همین دلیل، مقابله با این پدیده به همکاری همه جانبه دولت‌ها، شرکت‌های فناوری و جامعه مدنی نیاز دارد. کنگره آمریکا با طرح این موضوع، گامی مهم در جهت مقابله با این تهدید برداشته است و انتظار می‌رود که سایر کشورها نیز به این موضوع توجه جدی کنند.