هشدار سازنده چت‌جی‌پی‌تی درباره مرورگرهای هوش مصنوعی

شرکت اپن‌ای‌آی اعلام کرد مرورگرهای مجهز به هوش مصنوعی حتی با تقویت امنیت همچنان آسیب‌پذیر هستند. مرورگر جدید این شرکت با نام «Atlas» نمونه‌ای از این آسیب‌پذیری‌هاست.

تاریخ انتشار: ۱۴:۴۸ - سه شنبه ۲ دی ۱۴۰۴
مدت زمان مطالعه: < 1 دقیقه
هشدار سازنده چت‌جی‌پی‌تی درباره مرورگرهای هوش مصنوعی

به گزارش اصفهان زیبا؛ شرکت اپن‌ای‌آی اعلام کرد مرورگرهای مجهز به هوش مصنوعی حتی با تقویت امنیت همچنان آسیب‌پذیر هستند. مرورگر جدید این شرکت با نام «Atlas» نمونه‌ای از این آسیب‌پذیری‌هاست. پژوهشگران امنیتی گفتند چند کلمه در یک سند آنلاین رفتار مرورگر را تغییر می‌دهد. این تغییر دستیار هوشمند را به اجرای دستورات مخرب وادار می‌کند.

اقدامات اپن‌ای‌آی برای تقویت امنیت هوش مصنوعی

اپن‌ای‌آی در یک پست وبلاگی نوشت: «جعل دستورات مانند کلاهبرداری و مهندسی اجتماعی در وب هرگز به‌طور کامل حل نمی‌شود.» این شرکت توضیح داد که برای مقابله با این تهدید چرخه‌های تست و پاسخ سریع را به کار می‌گیرد. اپن‌ای‌آی تأکید کرد باید دفاع‌ها را به‌طور مداوم تقویت کرد. این شرکت ابزارهایی توسعه می‌دهد که با شبیه‌سازی حملات، راهکارهای نوآورانه را آزمایش می‌کنند.

هشدارهای جهانی درباره تهدید پایدار 

شرکت Brave اعلام کرد حملات جعل دستور، به‌ویژه نوع غیرمستقیم، چالش سیستماتیک برای همه مرورگرهای هوش مصنوعی است. مرکز ملی امنیت سایبری بریتانیا هشدار داد این حملات ممکن است هرگز از بین نروند. این مرکز گفت سایت‌ها در معرض نقض داده‌ها قرار دارند. کارشناسان توصیه کردند به جای توقف کامل، باید ریسک و تأثیر این تهدیدها کاهش یابد.