به گزارش اصفهان زیبا؛ برای نخستینبار، یک نهاد ناظر اروپایی از نفوذ واقعی عامل هوش مصنوعی به یک سامانه خبر داد. براساس این گزارش، یک عامل هوش مصنوعی با دخالت محدود انسان توانست آسیبپذیری سامانه را شناسایی کند، وارد آن شود و به دادههای شخصی دسترسی پیدا کند.
آژانس حفاظت از دادههای اسپانیا اعلام کرد این عامل از یک مدل زبانی بزرگ استفاده کرده است. عامل هوش مصنوعی پس از ورود به سامانه هدف، ضعفهای نرمافزاری را بهصورت خودکار جستوجو کرد. سپس یک آسیبپذیری را پیدا کرد و از آن برای دسترسی به اطلاعات استفاده کرد.
این عامل همچنین برخی اطلاعات شخصی را تغییر داد و سوابق مربوط به صورتحسابها را مشاهده کرد. مقامهای اسپانیایی هنوز نام سازمان قربانی و مدل هوش مصنوعی مورد استفاده را اعلام نکردهاند. بررسی پرونده نیز ادامه دارد.
عامل هوش مصنوعی چگونه وارد سامانه شد؟
گزارش آژانس حفاظت از دادههای اسپانیا نشان میدهد عامل هوش مصنوعی چند مرحله از حمله سایبری را با مداخله محدود انسانی انجام داد.
این عامل ابتدا سامانه هدف را بررسی کرد. سپس آسیبپذیریهای نرمافزاری را جستوجو کرد و یکی از ضعفها را شناسایی کرد. در ادامه، عامل از این ضعف برای ورود به بخشهایی از سامانه استفاده کرد.
پس از ورود، عامل هوش مصنوعی برخی دادهها را تغییر داد و سوابق صورتحسابها را مشاهده کرد. این فرایند نشان میدهد عاملهای خودکار میتوانند چند مرحله از یک حمله سایبری را پشت سر هم اجرا کنند.
آیا مدل هوش مصنوعی هک شده است؟
مقامهای اسپانیایی تأکید کردند که استفاده از یک مدل زبانی در این حمله به معنای هک شدن خود مدل یا زیرساخت شرکت ارائهدهنده آن نیست.
آژانس حفاظت از دادههای اسپانیا نیز این فناوری را ذاتاً مخرب نمیداند. در این پرونده، عامل هوش مصنوعی از قابلیتهای خود برای اجرای بخشی از یک حمله علیه سامانه هدف استفاده کرد.
از سوی دیگر، مقامهای اسپانیایی میگویند یک پرونده بهتنهایی نمیتواند شکلگیری یک روند گسترده را ثابت کند. با این حال، ثبت این حادثه توجه بیشتری را به توانایی عاملهای هوش مصنوعی در حملات سایبری جلب کرده است.
هوش مصنوعی چگونه حملات سایبری را سریعتر میکند؟
آژانس حفاظت از دادههای اسپانیا معتقد است هوش مصنوعی الزاماً تهدید کاملاً جدیدی ایجاد نمیکند. با این حال، این فناوری میتواند سرعت و مقیاس روشهای مخرب موجود را افزایش دهد.
عاملهای هوش مصنوعی همچنین میتوانند در جریان حمله خود را با شرایط جدید تطبیق دهند. در نتیجه، مدافعان فرصت کمتری برای شناسایی و مهار حمله خواهند داشت.
به همین دلیل، سازمانهایی که دادههای شخصی را پردازش میکنند باید توان دفاعی خود را تقویت کنند. همچنین افزایش سرعت شناسایی تهدید و واکنش امنیتی اهمیت بیشتری پیدا میکند.
نهادهای نظارتی و امنیت سایبری در آمریکا و اروپا نیز توجه بیشتری به خطرات عاملهای هوش مصنوعی نشان میدهند. این پرونده یک تفاوت مهم با بسیاری از هشدارهای قبلی دارد؛ یک نهاد رسمی حفاظت از داده، یک حادثه واقعی با نقش عامل هوش مصنوعی را برای بررسی ثبت کرده است.
