به گزارش اصفهان زیبا؛ یک پژوهش جدید که توسط متخصصان برجسته حوزه هوش مصنوعی انجام شده، ادعا میکند مدلهای زبانی بزرگ (LLM) از نظر ریاضی دارای محدودیتهای ذاتی هستند و نمیتوانند وظایف محاسباتی و عاملمحور فراتر از سطحی خاص از پیچیدگی را انجام دهند.
ادعای اصلی پژوهش: یک سقف غیرقابل عبور
مقالهای که ویشال سیکا (از شاگردان جان مککارتی، پدر هوش مصنوعی) و پسرش نگاشتهاند، ادعا میکند مدلهای زبانی کنونی از پایه در انجام محاسبات پیچیده ناتوانند. سیکا صراحتاً اعلام کرده است: «هیچ راهی وجود ندارد که این مدلها قابلاعتماد باشند.» بر این اساس، او هشدار میدهد که نباید مدیریت سیستمهای حیاتی مانند نیروگاههای هستهای را به چنین عاملهای هوش مصنوعی سپرد.
تایید مشکلات از درون صنعت: مسئله توهمات (Hallucinations)
این ادعاها در خلأ مطرح نشدهاند. حتی محققان ارشد شرکتهای پیشرویی مانند OpenAI نیز به مشکلات ساختاری اعتراف کردهاند. آنها اعلام کردهاند که پدیده «توهمات» (ارائه اطلاعات نادرست با اطمینان بالا) یک مشکل فراگیر است و دقت این مدلها «هرگز» به ۱۰۰٬ درصد نخواهد رسید. تجربیات عملی برخی شرکتها برای جایگزینی نیروی انسانی با عاملهای هوش مصنوعی نیز به دلیل همین خطاهای مکرر، با شکست مواجه شده است.
آیا راه حلی وجود دارد؟ دیدگاههای مختلف
در برابر این محدودیتها، دو دیدگاه مطرح است:
-
راهکارهای بیرونی (Guardrails): بسیاری از رهبران صنعت معتقدند میتوان با ایجاد سامانههای نظارتی و فیلترینگ خارج از مدل اصلی (حفاظها)، بر برخی مشکلات مانند توهمات غلبه کرد. OpenAI نیز ایده «اجتنابناپذیری» توهمات را رد کرده و بر امکان خودداری مدل از پاسخ در صورت عدم اطمینان تاکید دارد.
-
بازتعریف انتظارات: ویشال سیکا، با وجود تاکید بر محدودیت ذاتی LLMهای «خالص»، با ایده ساخت اجزای کمکی برای جبران این کاستیها موافق است. این به معنای تغییر نگاه از «یک مدل همهکاره» به «یک بخش در یک سامانه مهندسیشده پیچیدهتر» است.
نتیجهگیری: این بحث، جدال بین خوشبینی تکنولوژیک و احتیاط علمی را نمایان میسازد. در حالی که تواناییهای هوش مصنوعی شگفتانگیز است، شناخت مرزهای نظری و عملی آن برای توسعه ایمن و واقعبینانه این فناوری حیاتی به نظر میرسد.
/منبع: Futurism
