پیشنهادی فروشگاه فایل کارینت
خبرخوان

نشان داده شده است که حذف واترمارک روی محتوای هوش مصنوعی نسبتا آسان است

دانشمندان دانشگاه مریلند (ایالات متحده آمریکا) نتایج تحقیق را منتشر کردند که پیدا شد که واترمارک های معرفی شده توسط پلتفرم های هوش مصنوعی در طول تولید تصویر را می توان حذف کرد.

 Image source: arxiv.org

منبع تصویر: arxiv.org

تولیدکننده‌های تصویر هوش مصنوعی اکنون در دسترس عموم هستند و به طور فزاینده‌ای برای ایجاد «عکس‌ها» و حتی ویدیوهایی از چیزهایی که هرگز اتفاق نیفتاده‌اند استفاده می‌شوند. این آثار ممکن است یک شوخی به نظر برسند یا قصد دارند عمداً به دیگران اطلاعات نادرست بدهند – آنچه مهم است این است که آنها به اندازه کافی معتبر هستند که یک فرد را گمراه کنند. مقامات پیشنهاد می کنند که توسعه دهندگان سیستم های هوش مصنوعی چنین محتوایی را علامت گذاری کنند، اما در عمل ثابت می شود که این کار چندان آسان نیست.

محققان دانشگاه مریلند می‌خواستند اثربخشی تکنیک‌های تشخیص تصویر هوش مصنوعی را مطالعه کنند. همانطور که مشخص است، واترمارک های ایجاد شده در طول تولید تصویر را می توان به راحتی با استفاده از تمیز کردن انتشار یا یک حمله جایگزینی مدل حذف کرد. تمیز کردن انتشار، که شامل اضافه کردن نویز به یک تصویر و سپس حذف آن است، به شما امکان می دهد تا واترمارک هایی را که با استفاده از روش های کم نویز مانند RivaGAN و WatermarkDM قرار داده شده اند حذف کنید. روش‌های با درجه تداخل بالا، مانند StegaStamp، از یک حمله جایگزینی مدل استفاده می‌کنند – این سیستم‌های مورد استفاده برای تجزیه و تحلیل هوش مصنوعی را مجبور می‌کند تصاویر تولید شده را واقعی تشخیص دهند.

این خبر بدی برای آلفابت، آمازون، متا استمایکروسافت و OpenAI قبلاً متعهد شده‌اند که فناوری‌های برچسب‌گذاری محتوای هوش مصنوعی را برای مبارزه با اطلاعات نادرست توسعه دهند. از سوی دیگر، خود ایده برچسب گذاری تصاویر ایجاد شده توسط تولیدکنندگان هوش مصنوعی به معنای محافظت کامل در برابر اطلاعات نادرست نیست، زیرا آنها برای چشم نامرئی هستند و بعید است که کاربر عادی اینترنت هر تصویری را که با آن روبرو می شود برای صحت بررسی کند. این بدان معنی است که برچسب زدن فقط در صورتی معنا دارد که قبلاً مشکوک وجود داشته باشد.

منبع

مشاهده بیشتر

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا