گفت‌وگو با هوش مصنوعی ایمن نیست!

هوش مصنوعی حالا به سنگ صبوری تبدیل شده است که مشکلات و گلایه‌های خیلی از افراد را به خوبی می‌شوند و به آن‌ها راهکار ارائه می‌دهد؛ سنگ صبوری که بیم آن می‌رود در آینده‌ای نه چندان دور جای روان درمانگران را بگیرد.

به گزارش اصفهان زیبا؛ هوش مصنوعی حالا به سنگ صبوری تبدیل شده است که مشکلات و گلایه‌های خیلی از افراد را به خوبی می‌شوند و به آن‌ها راهکار ارائه می‌دهد؛ سنگ صبوری که بیم آن می‌رود در آینده‌ای نه چندان دور جای روان درمانگران را بگیرد؛ این درحالی است که بسیاری از متخصصان این حوزه می‌گویند گفت‌وگویی که در این فضا شکل می‌گیرد، امن نیست.

مسعود سلطانیان، کارشناس هوش مصنوعی در این باره در گفت‌وگو با «اصفهان زیبا» با اشاره به اینکه از سال 2003 به این سو، شاهد تحول عظیمی در تولید داده در سطح جهانی بوده‌ایم که با حجم انبوهی از اطلاعات همراه بوده است، می‌گوید: این روند منجر به ظهور مفهوم «کلان داده» (Big Data) شد. داده‌های حجیمی که تولید می‌کنیم، شامل متون، بازخوردهای ما در فضای مجازی و سایر فعالیت‌هایمان، همگی در پردازش کلان داده‌ها مورد استفاده قرار می‌گیرند.

به گفته او، این اطلاعات، حتی در مدل‌های زبانی مانند GPT نیز ذخیره شده و در آینده مورد بهره‌برداری قرار می‌گیرند و هیچ‌گونه امنیتی را تضمین نمی‌کنند.

نعمت‌الله طاهرپور، رئیس پلیس فتا استان اصفهان در گفت‌وگو با «اصفهان زیبا» با اشاره به اینکه سرورهای داخلی و خارجی قادر به ذخیره‌سازی تمامی اطلاعات مبادله شده هستند و منطق مدیریت سایت نیز حکم به ذخیره‌سازی آن‌ها می‌دهد، می‌گوید: حال با ظهور هوش مصنوعی، الگوریتم‌هایی طراحی شده‌اند که قادر به تحلیل این داده‌ها هستند.

این الگوریتم‌ها بر اساس اهداف مشخصی طراحی می‌شوند تا خصایص رفتاری کاربران را با حساب‌های کاربری مشخص تحلیل کنند؛ به عنوان مثال، کاربری که سال‌ها در حوزه هوش مصنوعی فعالیت کرده است، شخصیت‌شناسی شده و با توجه به انفعالات و پیام‌های ثبت‌شده، مورد تحلیل قرار می‌گیرد.

این تحلیل‌ها که بر اساس اهداف طراح الگوریتم صورت می‌گیرد، می‌تواند تا 95 درصد دقت داشته باشد که رقمی قابل توجه است.به گفته طاهرپور، در فضایی که اطلاعات در اینترنت منتشر می‌شود، صاحب اطلاعات باید مسئولیت اخلاقی نیز در قبال آن بپذیرد. به گفته او، این مسئولیت شامل رعایت ملاحظات اخلاقی در قبال کاربران است.

تجربیات گذشته که شاهد آن هستیم و همچنین وقایع ناگواری که در جنگ 12 روزه رخ داد، نشان می‌دهد که چگونه الگوریتم‌های مبتنی بر هوش مصنوعی با سوءاستفاده از اطلاعات، فجایع انسانی را رقم زده‌اند؛ چرا که دشمنان از این داده‌ها به منظور پیشبرد اهداف مخرب خود استفاده کرده‌اند.