موج تازه هشدار درباره هوش مصنوعی؛ چه کسی ترمز را می‌کشد؟

جمعی از ریاضیدانان هم نسبت به کاربست هوش مصنوعی هشدار داده‌اند. ۲۵ تن از برندگان جایزه «فیلدز» در بیانیه‌ای کاربست هوشواره در پهنه ریاضیات را ناهم‌راستا با تاریخ و شیوه ایده‌پردازی در این پهنه خوانده‌اند.

امضاکنندگان هشدار می‌دهند که مسابقه شرکت‌های هوش مصنوعی برای شکستن رکوردهای تبلیغاتی و استفاده از مسائل مشهور ریاضی به عنوان معیار سنجش مدل‌ها، با اهداف بنیادین علم و جامعه ریاضی هم‌راستا نیست و می‌تواند به زیست‌بوم تولید و انتقال دانش آسیب جدی بزند.

از نظر امضاکنندگان این بیانیه، در ریاضیات حل مسئله به خودی خود هدف نهایی نیست، بلکه ابزاری برای ایجاد درک مفهومی عمیق و توسعه روش‌های فکری جدید است. تولید انبوه و ماشینی گزاره‌های درست/نادرست بدون تبیین چرایی و ایجاد بینش قابل‌فهم برای انسان، ماهیت این علم را تضعیف می‌کند. سیستم‌های هوش مصنوعی بر پایه حجم عظیمی از دستاوردهای پیشین ریاضی‌دانان ساخته شده‌اند. انتشار شتاب‌زده ادعاهای حل مسئله توسط شرکت‌ها، فرصت مستندسازی دقیق، استخراج روش‌های نو و ارجاع‌دهی مناسب به پژوهشگران پیشین را از بین می‌برد.

مدام از این گونه بیانیه‌های هشداردهنده از زاویه مسائل حوزه‌های علمی و عملی منتشر می‌شوند. برخی توجه عمومی را برنمی‌انگیزند، چون تخصصی هستند یا دولت‌ها و قدرت‌ها می‌کوشند از انعکاس آنها در پهنه همگانی جلوگیری کنند، چون به موضوع استفاده از هوش مصنوعی در جنگ و سلاح‌های کشتار جمعی می‌پردازند.

در روزهای اخیر اظهارات مدیران شرکت‌های بزرگ آمریکایی هوش مصنوعی پربازتاب شده‌اند. داریو آمودی، رئیس توسعه دهنده هوش مصنوعی Anthropic خواستار کندی هماهنگ توسعه هوش مصنوعی شد. او هشدار داده که در شش تا دوازده ماه آینده، هوش مصنوعی می‌تواند کل اینترنت را در اختیار بگیرد و احتمالاً صدها میلیارد دلار خسارت وارد کند.

OpenAI شرکت توسعه دهنده ChatGPT، اعلام کرد که به دلیل نگرانی‌های امنیتی، عرضه اولیه سهام خود را به تعویق می اندازد. سم آلتمن، مدیر عامل این شرکت  امکان ساخت هوش مصنوعی فراتر از کنترل انسان را شدنی می‌داند. به گفته او هنوز کار زیادی برای برآورده کردن الزامات امنیتی باقی مانده است. آلتمن همچنین گفته که شرکت های پیشرو هوش مصنوعی ممکن است به توافقی برای کند کردن توسعه و همکاری برای مقابله با ریسک ها نزدیک شوند.

از شگفتی تا نگرانی

در ماه‌های اخیر، تلقی از هوش مصنوعی دگرگون شده است. اگر در سال‌های ۲۰۲۳ و ۲۰۲۴ بحث‌ها غالباً میان شگفتی‌های فناورانه و سناریوهای انتزاعی علمی-تخیلی در نوسان بود، اکنون هشدارهای نهادهای بین‌المللی، پژوهشگران پیشگام و بازیگران ژئوپلیتیک بر واقعیات و نگرانی‌های عینی و چالش‌های ساختاری تأکید می‌کنند. بیانیه‌های مکرر دانشمندان، نشست‌های اضطراری سازمان ملل و اجرای گام‌به‌گام قوانین نظارتی سخت‌گیرانه، همگی نشان از ورود جهان به مرحله‌ای تازه از مواجهه با هوش مصنوعی هستند.

نخستین اجماع پربازتاب جهانی درباره خطرات مدل‌های مرزی (Frontier Models) در اجلاس امنیت هوش مصنوعی بریتانیا شکل گرفت؛ جایی که ۲۸ کشور از جمله آمریکا و چین پذیرفتند مدل‌های پیشرفته می‌توانند تهدیداتی فاجعه‌بار در حوزه‌های امنیت زیستی و سایبری ایجاد کنند.

اتحادیه اروپا با تصویب و آغاز اجرای مرحله‌ای قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)، از سال ۲۰۲۵ و ۲۰۲۶ چارچوب‌های سخت‌گیرانه‌ای را برای مدل‌های پرریسک و شفافیت محتوا به مرحله اجرا گذاشت.

مجمع عمومی و شورای امنیت سازمان ملل با تشکیل پنل‌های علمی مستقل و کمپین‌هایی نظیر «خطوط قرمز هوش مصنوعی» (AI Red Lines)، موضوع هوش مصنوعی را در ردیف تهدیدات صلح و امنیت بین‌الملل قرار دادند.

دانشمندان برجسته‌ای چون یوشوا بنجیو تأکید دارند که با رشد مدل‌های دارای قابلیت استدلال و تصمیم‌گیری خودکار، کنترل‌پذیری این سامانه‌ها در صورت عدم هم‌راستایی با هنجارهای انسانی کاهش می‌یابد. تحلیل داریو آمودی در جستار دوران بلوغ فناوری و نوشته‌های دیگری در این ردیف، به خطرات سوءاستفاده‌های بیولوژیک، حملات سایبری خودکار و اختلال گسترده اقتصادی اشاره دارند.

گزارش‌های امنیتی، از جمله تحلیل گزارش امنیت سایبری Recorded Future، نشان می‌دهند که خطرات کوتاه‌مدت عمدتاً ناشی از کاهش شدید هزینه فریب، تولید انبوه جعل عمیق (Deepfake) و اختلال در اعتماد عمومی به داده‌ها و اسناد رسمی است.

در عرصه ژئوپلیتیک، هشدارها از ایجاد یک «استعمار نو فناورانه» و تعمیق شکاف میان کشورهای دارای انحصار زیرساخت پردازشی و سایر نقاط جهان حکایت دارد.

افزایش کمّی و کیفی این هشدارها را می‌توان نشانه نگرانی از این موضوع دانست که سرعت توانمندسازی مدل‌ها از ظرفیت قانون‌گذاران برای تدوین معیارهای فنی فراتر رفته است. هشدارها دیگر ماهیت انتزاعی ندارند، بلکه بیانگر هراس از تغییر توازن نظامی، قابلیت‌های جنگ سایبری و به خطر افتادن امنیت زیرساخت‌های حیاتی در صورت برتری انحصاری یک بازیگر هستند.

تا چه حد هشدارها جدی گرفته می‌شوند؟

با وجود هشدارهای دست‌اندرکاران و کارشناسان، ترامپ، رئیس جمهور آمریکا نگرانی های امنیتی درباره هوش مصنوعی را بلاموضوع می‌داند. او بر نقش پیشرو آمریکا در توسعه هوش مصنوعی تأکید کرده و خطرات رو به رشد هوشواره را انکار کرده است.

ترامپ در سفر اخیرش به ایرلند به خبرنگاران گفت که آمریکا در توسعه هوشواره جلوتر از چین است و باید همین طور باقی بماند. او هشدارها را بازدارنده می‌داند و آنها را به «نیروهای بسیار منفی» برمی‌گرداند که نگرانی‌هایی بی‌اساس را تقویت می‌کنند.

این موضوع که به هوش مصنوعی به عنوان یک ابزار قدرت، آن هم به صورت چیزی در ردیف موشک و جنگنده دورپرداز و بمب هسته‌ای، نگریسته می‌شود، باعث می‌شود این گمان تقویت شود که هشدارها در عمل نادیده گرفته می‌شوند. منطق سود و قدرت، با منطق امنیت جمعی و رشد سنجیده و در نظرگیرنده زندگی و آسایش عموم همخوان نیست.

هشدارها از میان شرکت‌های توسعه‌دهنده که گاه با ادبیاتی آخرالزمانی همراه است، این پرسش بنیادین را مطرح می‌کند: آیا صنعتی که بر پایه مدل‌های تجاری رقابتی، سودآوری تصاعدی و فشار سرمایه‌گذاران بنا شده، توان یا اراده واقعی برای کشیدن ترمز توسعه هوش مصنوعی را دارد؟

هشدارها یک چیز را می‌گویند، واقعیت میدان نبرد فنی و اقتصادی تصویر دیگری را نشان می‌دهد:

شرکت‌ها قراردادهای چند ده‌میلیارد دلاری برای ساخت دیتاسنترهای مگاواتی، خرید شتاب‌دهنده‌های Blackwell انویدیا و تأمین برق هسته‌ای منعقد کرده‌اند.

رویدادهای سال‌های گذشته، مشخصا در OpenAI، تردیدهای جدی درباره اولویت‌بندی واقعی ایمنی در برابر سرعت انتشار محصول ایجاد کرده‌اند.

هیچ بازیگری نمی‌تواند به تنهایی توسعه را متوقف کند. اگر OpenAI سرعت خود را کاهش دهد، Anthropic یا Google سهم بازار را تصاحب می‌کنند. فراتر از سطح شرکتی، رقابت ژئوپلیتیک میان ایالات متحده و چین مانع از هرگونه توقف یک‌جانبه می‌شود؛ استدلال واشنگتن همواره این بوده که توقف در غرب، صرفاً برتری فناورانه را به پکن واگذار خواهد کرد.

تعهد هیئت‌مدیره‌ها به بازگشت سرمایه صندوق‌های بزرگ و غول‌های فناوری اجازه کُند کردن فرایند درآمدزایی را نمی‌دهد. در عمل دیده می‌شود که ساختارهای انتفاعی و فشار تجاری در نهایت بر مکانیسم‌های نظارتی غیر انتفاعی غلبه می‌کنند.

در چنین وضعیتی تأکید تحلیل‌گران منتقد بر این است که تکیه بر خودتنظیمی داوطلبانه ساده‌لوحانه است. تا زمانی که قوانین الزام‌آور بین‌المللی، نظارت مستقل بر روند و اهداف توسعه و سازوکاری شفاف‌سازی برای عموم جایگزین بیانیه‌های رسانه‌ای نشوند، صداهای هشداردهنده در هیاهوی رقابت سرسام‌آور شرکت‌ها برای پیشی گرفتن از یکدیگر گم خواهند شد.