توسعه یک “کرم رایانه ای” که از تکنیک های مدرن در هوش مصنوعی برای گسترش در بین رایانه ها استفاده می کند .
این کرم دستیارهای ایمیل مبتنی بر هوش مصنوعی را هدف قرار می دهد، داده های حساس را از ایمیل ها استخراج می کند و پیام های هرزنامه را برای حمله به سیستم های دیگر ارسال می کند .
این کرم می‌تواند از محرک‌های متخاصم برای وادار کردن کمک‌کنندگان ایمیل به افشای اطلاعات حساس، نشت‌های تهدیدآمیز و حملات سایبری پیچیده در آینده استفاده کند .
محققان کرم کامپیوتری را با استفاده از تکنیک های مدرن در زمینه هوش مصنوعی مولد ساخته اند که می تواند از یک کامپیوتر به کامپیوتر دیگر پخش شود. این پیشرفت‌ها علامت هشداری هستند مبنی بر اینکه این فناوری می‌تواند برای توسعه بدافزارهای پیچیده در آینده نزدیک مورد سوء استفاده قرار گیرد، در صورتی که این کار از قبل شروع نشده باشد.
طبق گزارش‌های Wired ، این کرم قادر است به دستیارهای ایمیل مبتنی بر هوش مصنوعی حمله کند تا داده‌های حساس را از ایمیل‌ها دریافت کند و پیام‌های هرزنامه ارسال کند که می‌تواند سیستم‌های دیگر را آلوده کند. بن ناسی، محقق Cornell Tech و یکی از نویسندگان مقاله ای در این زمینه ، می گوید در اصل، این به این معنی است که ما توانایی انجام نوع جدیدی از حمله سایبری را داریم که قبلاً ندیده ایم .
اگرچه محققان هنوز در عمل با کرم‌های مجهز به هوش مصنوعی مواجه نشده‌اند، اما هشدار می‌دهند که ظاهر آنها ممکن است فقط موضوع زمان باشد. در آزمایش خود که در یک محیط کنترل شده انجام شد، محققان دستیارهای ایمیلی را که از GPT-4 OpenAI، Google’s Gemini Pro و LLaVA که یک مدل زبان منبع باز بزرگ است، هدف گرفتند.
محققان از آنچه به نام محرک خصمانه خود تکراری نامیده می‌شود، استفاده کردند که مدل هوش مصنوعی را مجبور می‌کند تا ماشه دیگری را در پاسخ خود راه‌اندازی کند و مجموعه‌ای از خروجی‌ها را راه‌اندازی کند که می‌تواند این دستیارها را آلوده کند و در نتیجه اطلاعات حساس را استخراج کند.
ناسی به Wired توضیح داد که نام ها، شماره تلفن، شماره کارت اعتباری، شماره تامین اجتماعی یا هر اطلاعاتی که محرمانه تلقی می شود. به عبارت دیگر، از آنجایی که این دستیاران به مجموعه ای از داده های شخصی دسترسی دارند، می توان آنها را به راحتی متقاعد کرد که بدون در نظر گرفتن نرده های محافظ، از اسرار کاربر چشم پوشی کنند.
با استفاده از یک سیستم ایمیل تازه راه اندازی شده که قادر به ارسال و دریافت پیام بود، محققان توانستند به طور موثر پایگاه داده ایمیلی را که ارسال می شد مسموم کنند و هوش مصنوعی دریافت کننده را وادار کرد تا جزئیات حساس ایمیل ها را بدزدد. بدتر از آن، این فرآیند همچنین به کرم اجازه می دهد تا به دستگاه های جدید منتقل شود. به گفته ناسی، پاسخ حاوی اطلاعات حساس کاربر بعداً زمانی که برای پاسخ به ایمیل ارسال شده به مشتری جدید استفاده می شود، میزبان های جدید را آلوده می کند و سپس در پایگاه داده مشتری جدید ذخیره می شود. این تیم حتی موفق شد یک پیام مخرب را در یک تصویر جاسازی کند، که منجر به آلوده شدن بیشتر مشتریان ایمیل هوش مصنوعی شد.
