تشخیص عکس هوش مصنوعی، ویدیو و صدای جعلی؛ راهنمای کاربردی

ساختن عکس، صدا و ویدیوی باورپذیر با هوش مصنوعی کار چند دقیقه شده است و هر روز در گروه‌های خانوادگی و شبکه‌های اجتماعی دست‌به‌دست می‌شود. تشخیص عکس هوش مصنوعی و ویدیوی جعلی با یک نگاه ممکن نیست، اما با چند عادت ساده می‌شود جلوی باور کردن و بازنشر بیشتر آن‌ها را گرفت. این راهنما همان عادت‌ها را قدم‌به‌قدم مرور می‌کند؛ از نگاه دقیق به جزئیات تا جست‌وجوی معکوس تصویر و یک کلمه رمز خانوادگی برای تماس‌های مشکوک.

در یک نگاه

• ظاهر را ببینید: دست و انگشت، دندان، چشم، عینک و جواهر، سایه‌ها و حرکت‌های غیرطبیعی سرنخ‌های رایج‌اند؛ اما نبودشان چیزی را ثابت نمی‌کند.
• منشأ را پیدا کنید: با Google Lens یا TinEye ببینید عکس پیش‌تر کجا و از چه زمانی دیده شده است.
• برچسب‌ها را بخوانید: برچسب اعتبار محتوا (Content Credentials) و واترمارک نامرئی گوگل (SynthID) می‌توانند تاریخچه فایل را نشان دهند.
• به صدا اعتماد نکنید: در تماس‌های اضطراری که پول می‌خواهند، تلفن را قطع کنید و خودتان با شماره همیشگی تماس بگیرید.
• ابزارها کامل نیستند: هیچ ابزار تشخیصی صددرصد دقیق نیست.

چرا تشخیص سخت‌تر شده است؟

پلیس فدرال آمریکا (FBI) در هشداری عمومی درباره کلاه‌برداری با هوش مصنوعی مولد نوشته است که تشخیص محتوای ساخته‌شده با هوش مصنوعی می‌تواند دشوار باشد. به گفته همین هشدار، این ابزارها حتی خطاهای انسانی را که قبلاً نشانه کلاه‌برداری بود، مثل غلط املایی و دستوری، اصلاح می‌کنند.

FBI نمونه‌های رایج سوءاستفاده را هم برشمرده است: عکس پروفایل جعلی برای شبکه‌های اجتماعی، مدارک شناسایی تقلبی، عکس ساختگی از بلایای طبیعی برای جمع کردن کمک مالی، و کلیپ کوتاهی با صدای یکی از اعضای خانواده که از گرفتاری خبر می‌دهد و پول می‌خواهد.

تشخیص عکس هوش مصنوعی از روی ظاهر

اولین قدم، نگاه دقیق است. FBI این نشانه‌ها را در عکس و ویدیو برشمرده است:

• دست یا پای کج و ناجور، یا تعداد انگشت عجیب
• دندان یا چشم غیرواقعی
• چهره مبهم یا نامتقارن
• عینک، گوشواره و جواهری که با بقیه تصویر جور نیست
• سایه‌هایی که با جهت نور نمی‌خواند
• واترمارک، یعنی نشانه یا نوشته کم‌رنگ روی تصویر
• در ویدیو: تأخیر، هماهنگ نبودن صدا با حرکت لب و حرکت‌های غیرطبیعی

نکته مهم: مدل‌های تازه هوش مصنوعی بسیاری از این خطاها را دیگر ندارند. اگر عکسی هیچ‌کدام از این نشانه‌ها را نداشت، به معنای واقعی بودنش نیست. نگاه دقیق فقط نقطه شروع است.

اول بپرسید: این تصویر از کجا آمده؟

بیشتر عکس‌ها و ویدیوهای فریبنده، بدون منبع روشن پخش می‌شوند. قبل از هر چیز این سؤال‌ها را بپرسید:

• چه کسی اولین بار آن را منتشر کرده است؟ یک خبرگزاری شناخته‌شده یا حسابی بی‌نام؟
• آیا رسانه‌های معتبر هم همین رویداد را گزارش کرده‌اند؟
• عکس واقعاً مال همان زمان و مکانی است که ادعا می‌شود؟
• آیا متن همراهش شما را به عجله، خشم یا ترس می‌کشاند؟ این حس، خودش یک زنگ خطر است.

جست‌وجوی معکوس تصویر با Google Lens و TinEye

جست‌وجوی معکوس تصویر (Reverse image search) یعنی به‌جای کلمه، خود عکس را جست‌وجو کنید تا ببینید کجاهای اینترنت منتشر شده است.

Google Lens

طبق راهنمای گوگل، نتیجه جست‌وجو با تصویر می‌تواند تصویرهای مشابه و وب‌سایت‌هایی را نشان دهد که همان عکس یا عکس مشابهش را دارند. روی رایانه:

1. به google.com بروید.
2. نماد جست‌وجو با تصویر (Search by image) را بزنید و عکس را بارگذاری کنید، یا نشانی عکس را در کادر مخصوص بچسبانید.
3. در مرورگر کروم هم می‌توانید روی هر عکس در صفحه وب کلیک راست کنید و گزینه Search with Google Lens را بزنید.

راهنمای گوگل برای گوشی‌های اندروید و آیفون هم مراحل جداگانه دارد.

TinEye

TinEye یک موتور جست‌وجوی معکوس تصویر است. می‌توانید عکس را بارگذاری کنید، نشانی‌اش را بدهید یا آن را روی صفحه بکشید و رها کنید. TinEye برنامه موبایل ندارد، اما سایتش روی گوشی هم کار می‌کند و به گفته خودش عکس‌های بارگذاری‌شده را به فهرست خود اضافه نمی‌کند.

مفیدترین ترفند TinEye مرتب کردن نتیجه‌ها بر اساس «قدیمی‌ترین» (Oldest) است. TinEye خودش مثال می‌زند: اگر عکسی ادعا می‌کند مال رویدادی تازه است، اما TinEye آن را سال‌ها پیش دیده، کسی دارد شما را فریب می‌دهد. فقط دقت کنید که تاریخ «اولین بار پیدا شده» (first found) تاریخ دیده شدن عکس به دست TinEye است، نه لزوماً اولین انتشار آن در اینترنت.

برای ویدیو، از یکی دو صحنه واضح اسکرین‌شات بگیرید و همان را جست‌وجو کنید.

برچسب اعتبار محتوا: شناسنامه دیجیتال فایل

ائتلاف اعتبار و منشأ محتوا (C2PA) گروهی از شرکت‌های فناوری و رسانه است که استانداردی باز به نام «اعتبار محتوا» (Content Credentials) ساخته است. خود C2PA این برچسب را به برچسب ارزش غذایی روی بسته‌های خوراکی تشبیه می‌کند: نشان می‌دهد فایل چطور ساخته شده، با چه ابزاری و چه ویرایش‌هایی روی آن انجام شده است. این اطلاعات با امضای دیجیتال محافظت می‌شود و به گفته C2PA، هر دست‌کاری در فایل یا در خود برچسب، این امضا را باطل می‌کند.

برای بررسی، فایل را در صفحه Verify سایت Content Credentials بارگذاری کنید. این صفحه قالب‌های رایجی مثل JPEG، PNG، WebP، HEIC، MP4، MOV، MP3 و WAV را می‌پذیرد. روی برخی سایت‌ها و برنامه‌ها هم نشانه کوچکی کنار تصویر می‌بینید که با زدنش اطلاعات منشأ نمایش داده می‌شود.

دو محدودیت را جدی بگیرید:

• خود سایت Content Credentials می‌گوید این برچسب هنوز در حال گسترش است و ممکن است فایل شما اصلاً اطلاعاتی برای نمایش نداشته باشد.
• C2PA تأیید می‌کند که این اطلاعات ممکن است ناخواسته یا عمدی از فایل حذف شود.

پس نبودن برچسب، دلیل جعلی بودن نیست؛ بودنش اما سرنخ ارزشمندی است.

SynthID: واترمارک نامرئی گوگل

SynthID ابزار واترمارک گوگل دیپ‌مایند است. به گفته گوگل، این ابزار در لحظه ساخت محتوا با هوش مصنوعی گوگل، نشانه‌ای نامرئی در عکس، ویدیو، صدا یا متن می‌گذارد که با چشم دیده نمی‌شود و در عکس و ویدیو طوری طراحی شده که در برابر برش، فیلتر و فشرده‌سازی دوام بیاورد.

برای بررسی، می‌توانید عکس، ویدیو یا فایل صوتی را در Gemini بارگذاری کنید و بپرسید آیا با هوش مصنوعی گوگل ساخته یا ویرایش شده است. گوگل یک درگاه جداگانه به نام SynthID Detector هم دارد. توجه: Gemini به‌طور رسمی در ایران ارائه نمی‌شود.

محدودیت روشن است: SynthID فقط نشانه‌ای را پیدا می‌کند که گوگل یا شرکت‌های همکارش گذاشته باشند. اگر فایل با ابزار دیگری ساخته شده باشد، نبودن واترمارک چیزی درباره واقعی بودنش نمی‌گوید.

صدای جعلی و کلاه‌برداری تلفنی

جعل صدا (Voice cloning) یعنی ساختن صدایی شبیه صدای یک فرد واقعی با هوش مصنوعی. FBI هشدار داده است که کلاه‌برداران کلیپ‌های کوتاهی با صدای یکی از عزیزان شما می‌سازند که از یک موقعیت اضطراری خبر می‌دهد و فوراً پول یا باج می‌خواهد. چنین پیامی ممکن است به‌صورت تماس تلفنی یا پیام صوتی در پیام‌رسان برسد.

توصیه‌های FBI برای این موقعیت:

• به لحن و انتخاب کلمات دقت کنید؛ آیا واقعاً شبیه حرف زدن همیشگی اوست؟
• تلفن را قطع کنید و خودتان با شماره‌ای که از قبل دارید با همان فرد یا سازمان تماس بگیرید.
• به کسی که فقط تلفنی یا آنلاین می‌شناسید، پول، کارت هدیه یا رمزارز نفرستید.
• تا جای ممکن، عکس و صدای خود را کمتر به‌صورت عمومی منتشر کنید و حساب‌های شبکه اجتماعی را خصوصی نگه دارید.

کلمه رمز خانوادگی

FBI توصیه می‌کند با خانواده یک واژه یا عبارت رمز بسازید تا هویت یکدیگر را در تماس‌های مشکوک بسنجید. چند نکته برای انتخابش:

• چیزی باشد که در هیچ پست، عکس یا پروفایلی پیدا نشود؛ نه اسم حیوان خانگی، نه تاریخ تولد.
• رودررو قرارش را بگذارید، نه در گروه پیام‌رسان.
• به پدربزرگ‌ها و مادربزرگ‌ها هم یادش بدهید و بگویید کجا به کارش ببرند.
• اگر تماس‌گیرنده رمز را نمی‌دانست یا طفره رفت، تلفن را قطع کنید و با شماره همیشگی همان عزیزتان تماس بگیرید.

ابزارهای تشخیص؛ کمک می‌کنند، حکم نمی‌دهند

سایت‌ها و برنامه‌های زیادی ادعا می‌کنند تصویر یا صدای ساخته‌شده با هوش مصنوعی را تشخیص می‌دهند. هیچ‌کدام صددرصد دقیق نیستند: گاهی عکس واقعی را جعلی اعلام می‌کنند و گاهی جعلی را واقعی. نتیجه آن‌ها را یک نشانه در کنار بقیه بدانید، نه حکم نهایی.

چک‌لیست یک‌دقیقه‌ای قبل از باور یا بازنشر

• منبع اول را پیدا کرده‌ام و معتبر است.
• رسانه‌های شناخته‌شده هم همین را گزارش کرده‌اند.
• جست‌وجوی معکوس نشان نداده که عکس مال زمان یا مکان دیگری است.
• دست، صورت، سایه و حرکت‌ها را با دقت دیده‌ام.
• اگر برچسب اعتبار محتوا داشت، آن را بررسی کرده‌ام.
• اگر پیام یا تماسی پول می‌خواهد، از راه دیگری با خود فرد تماس گرفته‌ام.

اگر هنوز مطمئن نیستید، ساده‌ترین کار این است: بازنشر نکنید. یک پیام جعلی که پیش شما متوقف شود، دست‌کم از طریق شما به گروه دیگری نمی‌رسد.