امروز در دنیای تکنولوژی با واقعیتی تلخ روبهرو هستیم: هوش مصنوعی با سرعتی بسیار بیشتر از ابزارهای شناسایی و پاسخدهی نهادهای قانونی در حال پیشرفت است.
دموکراتیزه شدن جعل؛ ابزارهای نوین کلاهبرداری در دستان عموم
گزارش اخیر Resemble AI و یافتههای نشریه The Atlantic نشان میدهد که نسل جدید هوش مصنوعی نظیر ChatGPT Images ۲/۰ به طرز نگرانکنندهای در جعل اسناد دقیق عمل میکند:
- جعل هویت و کلاهبرداری: یک شهروند شیکاگویی مبلغ ۶۹ هزار دلار را به کلاهبرداری باخت که در یک تماس ویدیویی، نشان جعلی «مارشال ایالات متحده» را که توسط هوش مصنوعی ساخته شده بود، نمایش داد.
- زرادخانه جعل اسناد: بررسیهای لیلا شروف (Lila Shroff) فاش کرد که ابزار جدید OpenAI قادر است شناسنامههای جعلی، نسخههای پزشکی، رسیدهای بانکی و حتی اسکرینشاتهای خبری کاملاً واقعگرایانه تولید کند؛ موضوعی که سد دفاعی بانکها و بیمارستانها در برابر کلاهبرداری را عملاً فرو میریزد.
- نرمافزارهای تجاری دیپفیک: رسانه ۴۰۴ Media پرده از نرمافزار چینی Haotian AI برداشت که تنها با چند صد دلار، امکان «تغییر چهره آنی» در پلتفرمهایی مثل Microsoft Teams را فراهم میکند.
مرز باریک حقیقت و توهم؛ نفوذ دیپفیک به قلب سیاست و رسانه
دیپفیکها دیگر فقط در اتاقهای تاریک هکرها نیستند، بلکه به فضای عمومی و شبکههای اجتماعی سرازیر شدهاند:
- وایرال شدن با چاشنی جعل: ویدیوی ساخته شده با هوش مصنوعی از کاندیدای شهرداری، اسپنسر پرت، بیش از ۴/۱ میلیون بازدید در شبکه اجتماعی X داشت.
- حواشی دولتی: انتشار ویدیویی از سوی کاش پاتل، مدیر FBI، که از هوش مصنوعی برای بازسازی صحنههایی مشابه موزیک ویدیوهای معروف استفاده کرده بود، بحثهای گستردهای را درباره استانداردهای اخلاقی استفاده از AI در نهادهای دولتی برانگیخت.
بهشت کلاهبرداران سایبری؛ غارت داراییهای دیجیتال
بازار ارزهای دیجیتال به دلیل ماهیت بازگشتناپذیر تراکنشها، به بهشت کلاهبرداران دیپفیک تبدیل شده است. بر اساس دادههای Chainalysis:
- سود ۵ برابری کلاهبرداران: میانگین درآمد یک کلاهبرداری کریپتویی که از هوش مصنوعی کمک میگیرد، حدود ۳/۲ میلیون دلار است؛ یعنی ۴/۵ برابر بیشتر از روشهای سنتی کلاهبرداری!
- نفوذ هکرهای دولتی: گزارشها حاکی از آن است که اپراتورهای کره شمالی با استفاده از دیپفیکهای ویدیویی در پلتفرم Zoom، اقدام به نفوذ و سرقت داراییهای دیجیتال میکنند.
- جعل هویت چهرههای مشهور: تنها در یک مورد، مهاجمان با جعل هویت بنیانگذار پروژه Plasma موفق به سرقت ۲ میلیون دلار شدند.
افول اعتبار بصری؛ چرا سیستمهای دفاعی در برابر هوش مصنوعی تسلیم شدهاند؟
اخبار امروز زنگ خطری برای تمامی کاربران فضای دیجیتال است:
۱. دسترسی در سطح مصرفکننده: برخلاف گذشته، ابزارهای مخرب دیگر پیچیده نیستند. نرمافزارهای دیپفیک اکنون با قیمت یک اشتراک ماهانه ساده در دسترس همگان قرار دارند.
۲. شکاف میان تکنولوژی و قانون: سرعت بهبود کیفیت تصاویر و ویدیوهای AI بسیار بیشتر از واکنش نهادهای نظارتی است. این موضوع باعث شده است که بانکها و آژانسهای دولتی در نبردی نابرابر قرار بگیرند.
۳. پایان اعتبار بصری: ما در حال ورود به دورانی هستیم که دیگر «دیدن به معنای باور کردن نیست». در چنین فضایی، استفاده از پروتکلهای امنیتی چندمرحلهای (MFA) و تأیید هویتهای حضوری یا بیومتریکِ آفلاین، تنها راه نجات از دام کلاهبرداریهای مدرن خواهد بود.
