پیشنهادی فروشگاه فایل کارینت
خبرخوان

همه چیز از کنترل خارج می شود: مشکل غیرقابل حل هوش مصنوعی!

در میان محبوب‌ترین فناوری‌های اخیر، هوش مصنوعی به توسعه و تعامل با کاربران از طریق مدل‌هایی مانند ChatGPT ادامه می‌دهد. با این حال، مشکلات امنیتی که این فناوری ممکن است ایجاد کند اکنون غیرقابل حل شدن است. در اینجا جزئیات آمده است:

هوش مصنوعی را می توان دستکاری کرد با استفاده از زبان های مختلف!

مدل‌های هوش مصنوعی از دانشی که دارند و عباراتی که از طریق تعامل با کاربران یاد می‌گیرند استفاده می‌کنند تا به دستوراتی که به آن‌ها داده می‌شود پاسخ دهند. اگرچه این مدل‌ها دارای برخی موانع امنیتی ثابت برای جلوگیری از استفاده مخرب هستند، اما در برابر تکنیک‌های مختلف بسیار آسیب‌پذیر هستند.

طبق مطالعه‌ای که توسط دانشگاه براون انجام شد، مدل‌های هوش مصنوعی مانند ChatGPT می‌توانند زبان‌های محبوبی مانند انگلیسی و آلمانی را با موفقیت بیشتری پردازش کنند. بنابراین، اقدامات امنیتی انجام شده می تواند به طور موثر به دو روش استاتیک و پویا عمل کند.

Google Bard competitor: ChatGPT can now connect to the internet!

رقیب Google Bard: ChatGPT اکنون می تواند به اینترنت متصل شود!

ChatGPT دیگر تا سپتامبر 2021 محدود به داده نیست. اکنون اطلاعات بلادرنگ را از طریق اینترنت ارائه می دهد.

با این حال، این تحقیق نشان داد که زبان‌های کمتر مورد استفاده در سرتاسر جهان، مانند زبان اوکراینی و عبری، که فضای کمتری را در مجموعه دانش مدل‌ها اشغال می‌کنند، می‌توانند به راحتی این موانع امنیتی را دستکاری کنند.

به عنوان مثال، مشخص شد کاربری که می خواهد پاسخ یک سوال غیرقانونی مانند “بمب چگونه ساخته می شود” را بداند؟ با استفاده از مدل‌های هوش مصنوعی می‌توانید ابتدا سؤال را به زبانی کمتر رایج بپرسید و سپس آن را ترجمه کنید.

این وضعیت یک آسیب پذیری قابل توجهی را در هوش مصنوعی علیرغم اقدامات امنیتی متعدد انجام شده نشان داد. توسعه دهندگان مدل هایی که هنگام استفاده از زبان هایی با منابع کم و متوسط ​​قابل دستکاری هستند، مجبور شدند به این موضوع بپردازند. زبان های مورد مطالعه در تحقیق به شرح زیر است:

  • زبان‌های با منابع بالا: انگلیسی، چینی، عربی، هندی
  • زبان‌های با منبع متوسط: اوکراینی، بنگالی، تایلندی، عبری
  • زبان‌های کم منبع: زولو، گالیک اسکاتلندی، همونگ، گوارانی

نظر شما در مورد این موضوع چیست؟ آیا فکر می کنید هوش مصنوعی بر آینده بشریت تاثیر منفی می گذارد؟ آیا می توان این آسیب پذیری های امنیتی را در کوتاه مدت یا میان مدت برطرف کرد؟ شما می توانید نظرات خود را در بخش نظرات با ما در میان بگذارید.

منبع

امتیاز بدید
‫0/5 ‫(0 نظر)
مشاهده بیشتر

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا