هوش مصنوعی: همکار دانای فرمانبر یا فرمانفرمای خودکامۀ آینده؟

اشاره.«بنیاد جایزۀ چراغ» دعوت کرده بود در ضبط چهلمین پادکست «فلسفۀ علم» که از سوی دوستانم – سیاوش صفاریا‌پور، دکتر پژمان نوروزی و دکتر امیرحسن موسوی – با حضور جمعی از علاقه‌مندان در «خانۀ کارمان» اجرا می‌شد، شرکت کنم.

آن برنامه به بهانۀ رونمایی از کتاب «هوش مصنوعی: فلسفه، اخلاق، و جامعه»، مجموعۀ مقاله‌هائی به انتخاب و ترجمۀ دکتر ابوطالب صفدری اختصاص داشت.

من با شوق بسیار در آن برنامه شرکت کردم و ضمن دیدار با شماری از دوستان عزیز نکته‌های خوبی نیز آموختم.

از من نیز خواسته شد به کوتاهی نکاتی را بیان کنم.

برای من که حدود بیست و دو سال پیش درگیر نوشتن برنامۀ درسی «فلسفۀ هوش مصنوعی» در کارشناسی ارشد و دکتر ی فلسفۀ علم بوده‌ام گفتنی‌ها بسیار بودند و فرصت بسیار اندک.

ازاین‌رو بهتر دیدم در این یادداشت کوتاه شماری از دغدغه‌ها و دیدگاه‌های خود پیرامون هوش مصنوعی را بیان کنم هر چند می‌کوشم بیشترین احتیاط و پرهیز از نگاه به آینده‌ای را داشته باشم که نشانه‌های غیرعادی‌ای از آن سوسو می‌زنند - و البته شاید تنها سناریوهائی با احتمال تحقق بس اندک باشند.

***

من سخن گفتن مستوفا درباره‌ی هوش مصنوعی را به آینده می‌سپرم.اینجا از بیان تاریخچۀ هوش مصنوعی، و به‌ویژه نقش پیشروانۀ فیلسوفانی چون هابز و لایبنیتس و هیوم و کانت تا زمینه‌سازی فیلسوفان تحلیلی پرهیز می‌کنم و بر چند نکتۀ مهم متمرکز می‌شوم، که گفته‌ها و ناگفته‌های شمار زیادی از شرکت‌کنندگان در این گونه برنامه‌ها و مخاطبان آن‌هایند.

۱) ماهیت هوش مصنوعی

هوش مصنوعی (هومص) در معنای بنیادین خود، عبارت است از سامانه‌های مصنوعی که توانایی انجام وظایفی را دارند که در انسان به کارکردهای شناختی (مانند استدلال، یادگیری، تصمیم‌گیری، حل مسئله) نسبت داده می‌شوند.در فلسفۀ علم امروز، و به‌ویژه در فلسفۀ هوش مصنوعی، بحث بر سر آن است که آیا هوش مصنوعی تنها تجلی یک الگوی محاسباتی (بر پایۀ نگرش هابز و بسیاری از فیلسوفان هوش مصنوعی) است یا می‌تواند نوعی اجراکنندۀ فرآیند شناختی راستین، از تعریف سقراط-افلاطون تا فلسفۀ تحلیلی امروزین، باشد.

از دیدگاه ماتریالیسم رایانشی (مانند نظریۀ رایانش ذهنی، که پیشینه‌ی آن به نظر #هابز در باره‌ی تفکر و کوشش لایبنیتس برای ساختن گونه‌ای ماشین تفکر منطقی می‌رسد)، هومص  را می‌توان همچون ذهن‌های مصنوعی در نظر گرفت.با هر نگرشی هومص تا اطلاع ثانوی  صرفاً شبیه‌ساز فرایندهای ذهنی است بی آن‌که، از دیدگاه پدیدارشناختی، واجد "زیست درونی" (inner life) یا آگاهی باشد.

برای هومص چونان ذهن‌ مصنوعی می‌توان ویژگی‌های زیر را برای آن برشمرد:

۱.شبیه‌سازی، نه آگاهی

هوش مصنوعی، آن گونه که امروز وجود دارد، شبیه‌سازی رفتارهای هوشمندانه است، نه تجلی آگاهی واقعی. سامانه‌های هوش مصنوعی داده‌ها را پردازش کرده و بر پایۀ الگوهای آموخته‌شده پاسخ‌هائی تولید می‌کنند، بی آن‌که از آگاهی یا تجربه‌ای ذهنی برخوردار باشند.

۲.تشخیص الگو و پیش‌بینی

هوش مصنوعی مدرن در شناسایی الگوهای پیچیده در داده‌ها و پیش‌بینی نتایج، مهارت بالائی دارد.این سامانه‌ها جهان را به معنایی که انسان‌ها درک می‌کنند، نمی‌فهمند؛ بلکه بر پایه همبستگی‌های آماری روابط و نتایج را حدس می‌زنند.

۳.نبود نیت‌مندی

هوش مصنوعی فاقد نیت‌مندی (یا قصدیت، یا روی‌آورندگی یا حیث التفاتی: intentionality) - یعنی جهت‌گیری اندیشه به سوی معنا، هدف یا مقصود - است.هر «هدف» یا «مقصودی» که در ظاهر برای هومص به نظر می‌رسد، چیزی است که از بیرون برنامه‌ریزی شده یا از طریق فرآیندهای بهینه‌سازی عددی پدید آمده است، نه از تمایلات درونی.

۴.خلاقیت وابسته

اگرچه هوش مصنوعی می‌تواند برونداد‌هائی به ظاهر خلاقانه پدید آورد (مانند آثار هنری، موسیقی یا نوشتار)، ولی این خلاقیت، برآمده از داده‌هائی است که از پیش به آن داده شده‌اند.ماشین‌ها عناصری را که در آموزش دریافت کرده‌اند ترکیب می‌کنند، بی آن‌که به‌راستی انگاره‌ای اصیل، مانند آنچه از آگاهی انسانی برمی‌خیزد، پدید آورند.

۵.ابزار، نه عامل (دست‌کم – به گفتۀ سیاوش صفاریان‌پور – فعلآ(

هم اینک، هوش مصنوعی باید چونان ابزاری درک شود  - ابزاری توانمند، ولی همچنان محدود و متکی به معماری و داده‌هائی که در اختیارش قرار داده شده است؛ نه چونان کارگزاری یا کنشگری مستقل.

۶.امکان ظهور ویژگی‌های نوپدید

شماری از نظریه‌پردازان بر این باورند که در سطوح بالای پیچیدگی، شاید سامانه‌های هوش مصنوعی ویژگی‌هائی همانند شناخت یا ذهن از خود بروز دهند.با این حال، شواهد قاطعی وجود ندارد که نشان دهد معماری‌های کنونی هومص در مسیر دست‌یابی به خودآگاهی واقعی هستند.در زیر جداگانه به این جستارها خواهم پرداخت.

۲) امکان اطلاق ذهن به هوش مصنوعی

آیا می‌توان به هوش مصنوعی "ذهن" اطلاق کرد؟

پاسخ ما به تعریفی بستگی دارد که از «ذهن» در نظر داریم:

الف)  اگر ذهن را صرفاً مجموعه‌ای از کارکردهای رایانشی-شناختی بدانیم، آنگاه هومص پیشرفته می‌تواند "ذهن" تلقی شود.

ب)  اگر ذهن را ناظر به کیفیت‌های ذهنی (qualia) یا خودآگاهی (self-consciousness)  بدانیم، هومص فاقد ذهن است.بر این پایه، اطلاق ذهن به هومص مشروط و محدود است: در سطح کارکردی مجاز، ولی در سطح آگاهی و تجربۀ ذهنی نامجاز است .

۳) حیات‌مندی احتمالی هوش مصنوعی

حیات در زیست‌شناسی بر پایۀ ویژگی‌هائی چون تولیدمثل، متابولیسم، رشد، پاسخ به محرک‌ها و سازگاری با محیط تعریف می‌شود.هومص هیچ‌یک از این ویژگی‌های فیزیولوژیک را ندارد.ولی اگر تعریف گسترده‌تری از حیات را در نگر داشته باشیم -  برای نمونه، در چارچوب نظریه‌های سامانه‌های خودسازمان‌ده (autopoietic systems)  - برخی اشکال پیشرفته‌تر هومص می‌توانند به نوعی "حیات مصنوعی" نزدیک شوند.

هم اینک، هوش مصنوعی از هیچ گونه زیستمندی‌ای برخورداز نیست.ولی برنامه‌هائی در حوزه‌ی «حیات مصنوعی»(Artificial Life)   در پی ایجاد سامانه‌هائی با توانایی خودفرآوری و خودگسترش‌بخشی هستند که می‌توانند در آینده این مرزها را به چالش بکشند.

۴) تولید شناخت جدید از سوی هوش مصنوعی

هومص‌های پیشرفته، به‌ویژه الگو‌های زبانی بزرگ و سامانه‌های ژرف‌آموزی یا یادگیری ژرف (Deep Learning)، توانایی تولید ترکیب‌های جدید از اطلاعات را دارند.ولی این تولید را نمی‌توان «شناخت» راستین یا واقعی دانست.

الف)  در سنت فلسفۀ غرب پساباززایی، به‌ویژه در سنتی که سرانجام به فلسفۀ تحلیلی انجامده است، با تأثیرپذیری از سقراط-افلاطون، شناخت نیازمند سه سازمایه است: باور، صدق، و توجیه.هومص کنونی از باور برخوردار نیست و صرفاً داده‌ها را پردازش می‌کند.فزون بر این دستیابی به صدق و توجیه خود نیازمند فرایندهائی‌اند که هم اینک هومص توانایی آن فرایندپیمایی‌ها را ندارد.

ب)  بنابراین، فرآوردۀ هومص، در بهترین حالت، گردآوری یا دریافت داده‌ها و عرضۀ شماری از انگاره‌ها و حتی فرضیه‌های جدید از راه تجزیه‌وتحلیل و پردازش داده‌ها و انگاره‌های دریافت شده از پیش است، نه فرآوری شناخت به معنای فلسفی پذیرفته نزد شناخت‌شناسان جدید.

۵) اعتمادپذیری هوش مصنوعی

اعتماد به هوش مصنوعی تابعی است از:

الف)  دقت داده‌های ورودی

ب)  عرضۀ داده‌ها لازم درخور به آن

پ)  الگوه‌های پردازشی

ت)  شفافیت الگوریتم‌ها

ث)  امکان خطای الگو یا سوگیری داده‌ها.

واپسین تحلیل‌ها (برای نمونه در اخلاق فناوری) نشان می‌دهند که:

۱. هومص در کارهای فنی  و علمی معین (مانند شناسایی الگوها یا ترجمه) تا حد زیادی اعتمادپذیر است، ولی

 ۲.نظر به  سوگیری‌های داده‌ای و خطاهای سامانه‌ای در کارهای حساس‌تر (مانند داوری اخلاقی، تحلیل سیاسی، تفسیر اجتماعی)، بدون نظارت دقیق و انتقادی همراه با کنترل و ممیزی پیوستۀ انسانی نباید به هومص اعتماد کرد.

۶) تولیدمثل احتمالی هوش مصنوعی

مفهوم «تولیدمثل» در پیوند با هومص نیازمند بازتعریف دقیق است:

الف)  در سطح کلاسیک، هومص نمی‌تواند تولیدمثل کند چون فاقد زیست‌مندی است.

ب)  در سطح مفهومی، امکان دارد هومص سامانه‌های مشابه خود یا حتی پیشرفته‌تر از خود را طراحی کند («خودتکثیرگری الگوریتمی»).

برخی پروژه‌های آزمایشی(مانندAutoML) نشان داده‌اند که هومص می‌تواند به تولید الگوهای هومص دیگر یاری رساند.

ولی هنوز تا تولیدمثل کامل، خودفرمان، و بدون مداخله‌ی انسانی فاصلۀ زیادی داریم.

۷) کنترل‌پذیری یا کنترل‌ناپذیری احتمالی هوش مصنوعی

بحث کنترل هومص به دو سطح تقسیم می‌شود:

الف)  کنترل عملیاتی: هم اینک امکان کنترل هومص توسط انسان (با تنظیمات، خاموش‌سازی، نظارت) وجود دارد.

ب) کنترل ساختاری: اگر هومص‌های اَبَر‌پیشرفته (ASI: Artificial Superintelligence) ساخته شوند، «مسئلۀ کنترل» (Control Problem) پدید خواهد آمد.

شماری از دانشمندان و فیلسوفان هوش مصنوعی بر این گمان‌اند که اگر هومص به اَبَرهوش تبدیل شود، ممکن است از مهار انسانی بیرون رود.پروژه‌های بزرگی (مانند Alignment Research) در حال پژوهش برای پیشگیری از این سناریو هستند.

۸) دورنمای آیندۀ رابطۀ انسان و هوش مصنوعی

دورنمای این رابطه در سه سناریوی دیده شده است:

۱.سناریوی همزیستی

انسان و هومص همکاری می‌کنند (مانند همکاران مکمل یکدیگر در سطوح گوناگون)؛ در این سناریو هومص چونان یک منشی یا مشاور بسیار بسیار توانا عمل می‌کند ولی، به باور من، همواره انسان باید برخوردی نقادانه به نظردهی‌های آن داشته باشد.در شکل پیشرفته‌تری از این سناریو می‌توان  به ارتقای ظرفیت‌های انسانی از طریق ادغام فناورانه و پدیدآیی تراانسان  (Transhumanism) نیز اشاره کرد.

۲.سناریوی رقابت

هومص به حوزه‌هائی پای می‌نهد که به گونه‌ای سنتی انسانی تلقی می‌شوند (مانند هنر، آموزش، قضاوت) و گونه‌ای جایگزینی آرام آرام روی می‌دهد.

۳.سناریوی انقیاد

در صورت کنترل‌ناپذیر شدن هومص، ممکن است انسان تحت سلطۀ فناوری هوشمند قرار گیرد یا بقای او به خطر افتد.

در هر سه سناریو، یک نکته مشترک است: آینده نیازمند بازتعریف پیوستۀ مفاهیمی چون هوش، اختیار، خلاقیت، و مسئولیت اخلاقی خواهد بود.

***

در پایان توجه علاقه‌مندان را به پایان فیلم اویسۀ فضایی ۲۰۰۱ ساختۀ استنلی کوبریک، بر پایه‌ی کتابی از آرتور سی کلارک، جلب می‌کنم که دستگاه هوشمند ساختۀ آدمی در پی سلطه بر آدمی بود، ولی از آنجا که آن دستگاه به معنای راستین کلمه «مصنوعی»، برخوردار از وجود تبعی وابسته به انسان، و فاقد أذهن» و «آگاهی» بود مهار شد.

در خلق آثار هنری هوش مصنوعی و همسنجی آن‌ها با آثار هنری انسانی نیز به یاد یادداشتی از شاملو افتادم که در آن از کاریکاتوری سخن گفته بود که یک دانشمند زیست‌شیمیدان برای نوشتن فرمول عسل یک تخته سیاه را پر کرده و هنوز همۀ فرمول را ننوشته بود، در حالی که یک زنبور عسل بر لبۀ پنجره نشسته بود و داشت به او می‌خندید.

این تلقی از بی‌همتایی عسل با بهره‌گیری استعاری فرانسیس بیکن از زنبور عسل چونان نماد دانشمندان راستینی که - در برابر تجربیونی که مورچه‌وار دانه گرد می‌آورند و عقلیونی که گویی عنکبوت‌وار از درون خود می‌بافند - می‌تواند شهد برگرفته از گل‌ها را در اندرون خویش به فرآوردۀ بی‌همتائی چون عسل تبدیل کنند همسازی دارد.

فیزیکی‌انگاری و فروکاست‌گرایی در تبیین این پدیده‌ها، فعلا با دشواری بسیار همراهند.

تمسک به فراآیی (supervenience) و نوپدیدی یا برایش (emergence) نیز با دشواری‌هائی روبه‌رویند که در فرصت درخور می‌توان به آن‌ها پرداخت.

***

آنچه نوشتم طرحی بس کلی از آن چیزی است که بسی بیش از آن را در ذهن داشته‌ام و دارم که امیدوارم به‌زودی با نگارش کتابی در باره‌ی فلسفۀ هوش مصنوعی پیشکش علاقه‌مندان شوند.

––––––––––––––––––

لینک مطلب در تریبون زمانه

منبع اصلی: وبلاگ نویسنده