چرا یکی از پیشاهنگان عرصه‌ی هوش مصنوعی نگران نابودی بشریت است؟

از محصول‌های گوگل تا مایکروسافت تا چت‌جی‌پی‌تی، این روزها بازار هوش مصنوعی حسابی گرم است و سرعت رشد آن خیره‌کننده. شاید حتی بشود گفت که پس از اینترنت و شبکه‌های مجازی، هوش مصنوعی که حالا از محدوده آزمایشگاه‌های پژوهشگران و انحصار شرکت‌های عمده فن‌آوری خارج شده و در دسترس عموم جامعه قرار گرفته است، مهم‌ترین رویداد تاثیرگذار بر تمدن بشر باشد. روزی حتی ممکن است توسعه و عرضه هوش مصنوعی را با کشف آتش در گستره تاریخ بشر مقایسه کنند.

همان‌طور که اینترنت زندگی ما را به کل متفاوت ساخت، حالا هوش مصنوعی آمده تا این تغییرات را گسترده‌تر، متفاوت‌تر و هیجان‌انگیز‌تر کند. بر پایه تبلیغات شرکت‌های عمده فن‌آوری که باشد، آینده‌ای روشن در انتظار زندگی است، اما چرا پدر هوش مصنوعی نگران این آینده همراه با این فن‌آوری است؟

جفری هینتون (Geoffrey Hinton) یکی از سه نفری است که لقب «پدر هوش مصنوعی» را دریافت کرده‌اند. او در همین ماه مه میلادی یکی از بهترین مشاغل جهان در شرکت گوگل را ترک کرد تا بتواند آزادانه در مورد خطرات هوش مصنوعی هشدار دهد. دکتر هینتون برای «مغز گوگل» (Google Brain) کار می‌کرد اما این روزها از کاخ سفید و ایلان ماسک گرفته تا رسانه‌های جریان اصلی، همگی به دنبال نظر او در موضوع هوش مصنوعی هستند.

پیش از خروج او از گوگل، نامه‌ای سرگشاده با امضای چهره‌های سرشناس علمی، از شرکت‌های فن‌آوری می‌خواهد تا برای شش ماه عرضه و توسعه هوش‌های مصنوعی قدرتمندتر از ویرایش چهارم جی‌پی‌تی را متوقف کنند تا بتوان در این بازه خطرات بالقوه هوش مصنوعی را سنجید.

در کنار این هشدارها، رسانه‌های جهان از جمله شبکه‌های اجتماعی گام به گام به استفاده از هوش مصنوعی عادت می‌کند: از تصویرسازی و فیلم‌سازی گرفته تا نوشتن کتاب و ترجمه، از کدنویسی برای نرم‌افزار تا آواتارهای مجازی برای خواندن خبر، زندگی امروز همه ما در تغییرهایی غوطه‌ور است که هوش مصنوعی تنها در گذر چند هفته اخیر برایمان به ارمغان آورده است اما نگرانی‌ها از چیست؟

مشکل خبر جعلی در کوتاه‌مدت: واقعیت مشترک ما نابود خواهد شد

دکتر هینتون در گفت‌وگو با گاردین می‌گوید، بشریت در یک نقطه حساس تاریخ خود قرار گرفته است. حوزه آزمایشی (experimental) هوش مصنوعی از دید او پیش‌بینی‌ناپذیر است. از یک سو هوش مصنوعی می‌تواند اوج بگیرد و زندگی بشر را با تاثیرات مثبت خود به کل متفاوت کند، از سویی دیگر همین هوش مصنوعی می‌تواند ابتدا تمدن و سپس بشریت را نابود کند یا قدرت تصمیم‌گیری را از ما بگیرد.

نخستین تاثیر محسوس ارایه هوش مصنوعی به عموم جامعه، اوج‌گیری خبرهای جعلی و اطلاعات دروغین است که حالا از صرف متن خارج می‌شوند و با صدا و تصویر منتشر می‌شوند. نخستین نگرانی هینتون همین است که در آینده‌ای نزدیک دیگر نتوانیم واقعیت را از دروغ تشخیص دهیم و واقعیت مشترک ما در کنار آن نابود شود.

مثالی که او در گوگل یا دیگر شرکت‌های عمده فن‌آوری شاهدش بوده است، تلاش این شرکت‌ها برای جذب کلیک بیشتر و حضور فعال‌تر افراد در شبکه‌های اجتماعی و یوتیوب یا دیگر امکانات موجود فضای مجازی است. برای این منظور این شرکت‌ها سال‌هاست از الگوریتم‌هایی استفاده می‌کنند که با هوش مصنوعی مدیریت می‌شوند.

از این هوش‌های مصنوعی خواسته می‌شود تا حضور مخاطب را مثلا در یوتیوب تضمین کنند. یعنی مخاطب تا یک ویدیو را تمام کرد یا از آن خسته شد، بلافاصله بر یک ویدیوی دیگر کلیک کند و آن را تماشا کند. نتیجه اما این شد که شبکه‌هایی مانند یوتیوب یا فیسبوک یا تیک‌تاک به افراطی شدن مخاطب منتهی شدند.

یک مثال آن همین الان در دادگاه عالی آمریکا در حال بررسی است و متمرکز بر شکایتی است که می‌گوید پیروان داعش توسط شبکه یوتیوب به سمت اسلام افراطی سوق داده شده‌اند و خواستار پاسخگویی عملی این شرکت در این زمینه است. شکایت را خانواده نوئامی گونزالز به دادگاه برده‌اند. یک آمریکایی ۲۳ ساله که در میان ۱۳۰ نفری بود که در شش حمله در شهر پاریس در سال ۲۰۱۵ کشته شد.

اما این تنها نگرانی کوتاه‌مدت است. در میان‌مدت هوش مصنوعی می‌تواند به آشوب‌های خیابانی گسترده منجر شود.

معزل بیکاری در بلندمدت: وقتی دیگر نیازی به خدمات تو نیست

هوش مصنوعی می‌تواند قطار، اتوبوس، تریلی و تاکسی را بدون نیاز به آدمی براند. می‌تواند بدون نیاز حضور یک انسان، بسته‌های پستی را به مقصد برساند. می‌تواند به‌جای یک منشی یا دستیار عمل کند. به جای کارگر می‌تواند مزرعه را آبیاری کند و کود بدهد. می‌تواند بدون حضور آدمی محصول را برداشت کند. می‌تواند... هیچ محدودیتی بر این نیست که هوش مصنوعی چه می‌تواند بکند.

در رقابت جهانی متمرکز نظام سرمایه‌داری، آن هم در زمانی که حقوق پایه‌ای (basic income یک ایده علم اقتصاد که می‌گوید تمام افراد یک جامعه بایستی حقوق پایه‌ای را منظم دریافت کنند فارغ از اینکه کار می‌کنند یا نه) هنوز در جهان به نتیجه‌ای عملی و گسترده نرسیده است، این روند جایگزینی آدمی به ربات‌هایی که با هوش مصنوعی مدیریت می‌شوند به بیکاری گسترده منجر خواهد شد.

در گذر سال‌های پیش رو میلیون‌ها نفر در تمامی کشورهای جهان کار خود را به‌واسطه گسترش هوش مصنوعی از دست خواهند داد. اگر از الان پیش‌بینی و برنامه‌ریزی نشود این منجر به انقلاب‌های خیابانی در تمامی کشورهای جهان خواهد شد، فقر را گسترش خواهد داد، نابرابری بیشتر خواهد شد و درنهایت ثبات و صلح جهانی را به خطر خواهد انداخت.

باهوش‌تر از انسان در درازمدت: وقتی آدمی قورباغه است و هوش مصنوعی خدا

یک انسان باید رشد کند، بزرگ شود، حس‌های پنج‌گانه‌اش را بشناسد و سپس برابر امکانات موجودش بتواند از هوش مغزش برای آموزش و یادگیری استفاده کند. یعنی باید سر کلاس برود، بخواند، فکر کند و با دیگران صحبت کند تا بتواند به‌عنوان مثال یک قانون فیزیک را درک کند.

یک هوش مصنوعی، می‌تواند در لحظه کلیت یک کتاب، یا پژوهش تازه، یا یک زبان را بیاموزد. نه تنها یک موضوع، بلکه تمامی آن موضوع را می‌تواند بیاموزد. اگر یک انسان در گذر زندگی‌اش بین سه تا پنج هزار کتاب می‌تواند بخواند، هوش مصنوعی در لحظه می‌تواند کل مجموعه آثار یک ناشر را بخواند و آن‌ها را بفهمد و بیاموزد. نه تنها این هوش این کلیت علم را در لحظه می‌آموزد، بلکه می‌تواند آن را کپی‌ و منتقل کند. یعنی وقتی یک هوش مصنوعی موضوعی را بیاموزد در همان لحظه می‌تواند به بقیه هوش‌های مصنوعی هم این موضوع را بیاموزد.

تفاوت زمانی بین آموزش یک انسان و یک هوش مصنوعی گسترده است. در اینجا دکتر هینتون مثال قورباغه را می‌زند. الان آدمی از قورباغه باهوش‌تر است. اگر آدمی برای پیش‌برد یک ایده یا پروژه نیازمند نابودی محیط زیست یک قورباغه باشد بدون مکث این کار را انجام می‌دهد.

یا آنگونه که استیون هاوکینگ در کتاب «پاسخ‌هایی کوتاه به سوالاتی بزرگ» نوشته است:

معزل پوتین و خامنه‌ای: تلاش به کنترل بیشتر بقیه به قیمت محو تمدن بشری

همین‌الان از ارتش آمریکا تا ایران تا روسیه، ربات‌های قاتل از آسمان در جبهه‌های جنگ یا در جنگ‌ با مخدر یا در جنگ با گروه‌های افراطی مانند داعش، می‌آیند و دست به قتل و کشتار می‌زنند. بااین‌وجود، اکنون یک انسان تصمیم می‌گیرد تا کلید را بزند و اسلحه شلیک کند.

دکتر هینتون نگران آینده‌ای نه چندان دور است که در آن چهره‌هایی مانند پوتین یا خامنه‌ای، قدرت‌طلبانی که از هیچ‌چیزی نمی‌گذرند تا به کنترل بیشتری بر بقیه دست یابند، به این ربات‌ها اجازه دهند تا با مدیریت یک هوش مصنوعی، هدف خود را انتخاب و آن را نابود کنند.

اینجاست که نگرانی دکتر هینتون به اوج می‌رسد. تاکید او بر این است که هوش مصنوعی همچنان یک زمینه علمی آزمایشی است و نمی‌توان پیش‌بینی کرد به چه ختم خواهد شد.

یک مثال می‌تواند در اینجا فروپاشی اقلیمی باشد. در این مثال از هوش مصنوعی خواسته می‌شود تا مشکل تغییرات اقلیمی ناشی از گرمایش زمین را حل کند. هوش مصنوعی به این نتیجه می‌رسد که مشکل انسان است و باید اول ابتدا انسان را از زمین حذف کند. اسلحه را هم قدرت‌طلبان به دستش داده‌اند. می‌تواند از آن استفاده کند و بشریت را از زمین حذف کند.

راه‌حل: تصمیم جهانی برای مدیریت هوش‌های مصنوعی

پیش‌تر، تمامی دولت‌ها تصمیم‌های جمعی گرفته‌اند: باید برای مقابله با نابودی لایه اوزون تلاش کنیم، باید جلوی تولید کپی انسان (cloning) را بگیریم. از اتحادیه اروپا تا ایالات متحده آمریکا، قوانین مختلف در موضوع هوش مصنوعی مراحل تدوین را طی می‌کنند اما آیا این جلوی فردی مانند پوتین یا خامنه‌ای را خواهد گرفت تا استفاده اهریمنی خود از هوش مصنوعی را کنار بگذارند؟ پاسخ آن بعید است که بله باشد.

با وجود این، دکتر هینتون می‌گوید باید جهانی فکر کنیم و از همین الان از تنها شانس بشریت برای مدیریت هوش مصنوعی استفاده کنیم و اطمینان حاصل کنیم که هوش مصنوعی برای خدمت به آدمی باقی خواهد ماند:

به قول دکتر هینتون، هوش مصنوعی مثل شیر یا خط انداختن است: سکه را به آسمان پرتاب می‌کنی، به زمین که برگردد، یا بشریت نابود شده است یا بشریت زندگی‌ای به کل متفاوت دارد. اینکه زندگی به چه شکلی متفاوت باشد هنوز در دست ما است، اگر الان تلاش کنیم.