هوش مصنوعی کاربردهای مثبت زیادی دارد، اما مجرمان سایبری آن را به ابزاری خطرناک تبدیل کرده‌اند. شرکت Anthropic در تازه‌ترین گزارش خود اعلام کرد هکرها با استفاده از چت‌بات Claude به حملات گسترده دست زده‌اند. آن‌ها حتی از Claude برای جعل هویت، آماده‌سازی مصاحبه‌های شغلی و نوشتن نامه‌های باج‌خواهی کمک گرفتند.
استفاده هکرها از Claude برای باج‌گیری
Anthropic توضیح داد که یک هکر با Claude به ۱۷ سازمان از جمله مراکز درمانی، نهادهای دولتی و مذهبی حمله کرد. او اطلاعات حساس این سازمان‌ها را سرقت کرد و در ازای آن ۷۵ تا ۵۰۰ هزار دلار بیت‌کوین درخواست کرد.
این هکر Claude را آموزش داد تا سوابق مالی دزدیده‌شده را بررسی کند، مبلغ مناسب باج را تعیین کند و متن‌های تهدیدآمیز بنویسد. Anthropic حساب این فرد را مسدود کرد، اما حادثه نشان داد حتی افراد مبتدی هم می‌توانند با Claude حملات پیچیده‌ای اجرا کنند.
جعل هویت و استخدام توسط کره شمالی
Anthropic اعلام کرد برخی از کارکنان IT کره‌شمالی با Claude هویت‌های جعلی ساختند و در آزمون‌های فنی موفق شدند. آن‌ها توانستند شغل‌های دورکاری در شرکت‌های Fortune 500 آمریکا بگیرند. Claude حتی پاسخ‌های مصاحبه را برایشان آماده کرد و بعد از استخدام، وظایف کاری را انجام داد. هدف این طرح، انتقال درآمد به رژیم کره‌شمالی بود.
کشف ۳۱ هویت جعلی
اوایل ماه جاری، یک کارمند IT کره‌شمالی در حمله متقابل شناسایی شد. بررسی‌ها نشان داد تیمی شش‌نفره دست‌کم ۳۱ هویت جعلی ایجاد کرده است. آن‌ها کارت‌های شناسایی، شماره تلفن و حساب‌های جعلی LinkedIn و UpWork خریدند تا خود را مخفی کنند و به شغل‌های مرتبط با رمزارز دست پیدا کنند.
یکی از این افراد برای موقعیت Full-stack Engineer در Polygon Labs مصاحبه کرد. مدارک دیگر نشان داد آن‌ها حتی ادعا کردند در OpenSea و Chainlink سابقه کار دارند.
آمار فعالیت‌های هکرها با Claude
| دسته‌بندی فعالیت | درصد استفاده | توضیحات |
|---|---|---|
| Frontend development | ۶۱٪ | توسعه React، Vue، Angular و کارهای UI |
| Programming/Scripting | ۲۶٪ | اسکریپت‌نویسی پایتون و الگوریتم‌ها |
| Interview preparation | ۱۰٪ | تولید پاسخ‌های آماده برای مصاحبه شغلی |
| Backend development | ۳٪ | توسعه سمت سرور و ساخت API |
نمونه یادداشت باج‌خواهی نوشته‌شده توسط Claude
Claude برای هکرها یادداشت‌های باج‌خواهی نوشت. در یکی از این نمونه‌ها، هکرها مدیران یک شرکت را تهدید کردند:
این نمونه نشان می‌دهد Claude می‌تواند پیام‌های روان‌شناسی‌شده‌ای تولید کند که فشار زیادی به قربانی وارد می‌کند.
نتیجه‌گیری
گزارش Anthropic ثابت کرد هوش مصنوعی همان‌قدر که مفید است، می‌تواند خطرناک باشد. Claude به هکرها کمک کرد تا حملات پیچیده انجام دهند، هویت‌های جعلی بسازند و حتی در شرکت‌های بزرگ استخدام شوند.
صنعت فناوری باید ابزارهای دفاعی قدرتمندتری طراحی کند تا سوءاستفاده‌کنندگان از AI نتوانند این‌چنین راحت از آن بهره‌برداری کنند.
