هوش مصنوعی و بحران مسئولیت؛ از قدرت ماشین تا تضعیف عاملیت انسانی
گسترش هوش مصنوعی نه‌تنها مفهوم سنتی مسئولیت اخلاقی را با چالش روبه‌رو کرده، بلکه پرسش‌های تازه‌ای درباره قدرت، آزادی و عدالت پیش کشیده است. حسین دباغ، پژوهشگر فلسفه و اخلاق، در گفت‌وگو با رادیو زمانه تأکید می‌کند که سامانه‌های هوش مصنوعی در خلأ اجتماعی و سیاسی ساخته نمی‌شوند و ارزش‌های طراحان و صاحبان قدرت از همان مرحله طراحی در آن‌ها راه می‌یابند. او ضمن تأکید بر ضرورت بازتعریف مسئولیت و تقویت پاسخ‌گویی، هشدار می‌دهد که افزایش کارآمدی به‌تنهایی نمی‌تواند محدودکردن حقوق بنیادین را توجیه کند. به باور او، مسئله تنها توزیع عادلانه منافع و هزینه‌های فناوری نیست؛ واگذاری تدریجی قوه داوری و تصمیم‌گیری انسان به ماشین نیز نیازمند تأملی جدی است.
زمانه در گفت‌وگو با حسین دباغ
هوش مصنوعی و حمله سایبری ـ عکس از شاتراستاک
گسترش شتابان هوش مصنوعی، به‌ویژه مدل‌های مولد، پرسش‌های تازه‌ای را در فلسفه اخلاق مطرح کرده است؛ پرسش‌هایی که دیگر صرفاً به توانایی ماشین‌ها محدود نمی‌شوند، بلکه به مفاهیم بنیادینی چون اختیار، مسئولیت، عدالت، حقیقت و کرامت انسانی مربوط‌اند. هوش مصنوعی از یک‌سو امکانات گسترده‌ای برای پیشرفت علم، آموزش، پزشکی و دسترسی به دانش فراهم کرده و از سوی دیگر، به ابزاری برای تولید اطلاعات جعلی، دستکاری افکار عمومی، نظارت گسترده، بازتولید تبعیض و حتی تسهیل سرکوب سیاسی تبدیل شده است. در چنین شرایطی، مسئله اصلی این است که آیا چارچوب‌های سنتی فلسفه اخلاق برای داوری درباره پیامدهای این فناوری کفایت می‌کنند؟ هنگامی که تصمیم‌های مؤثر بر زندگی انسان‌ها به سامانه‌هایی واگذار می‌شود که فاقد مسئولیت‌پذیری اخلاقی به معنای انسانی آن هستند، مرز میان عاملیت انسان و عملکرد ماشین کجا قرار می‌گیرد و مسئولیت پیامدهای زیان‌بار بر عهده چه کسی است؟
این پرسش‌ها در جوامع غیردموکراتیک، از جمله ایران، ابعاد پیچیده‌تری پیدا می‌کنند؛ جایی که هوش مصنوعی می‌تواند علاوه بر کاربردهای سودمند، در خدمت سانسور، شناسایی مخالفان، کنترل اجتماعی و گسترش نابرابری قرار گیرد. در همان حال، تمرکز قدرت و مالکیت فناوری در دست شمار محدودی از شرکت‌های بزرگ، مسئله عدالت در توزیع منافع و مخاطرات هوش مصنوعی را در مقیاس جهانی مطرح می‌کند. آیا می‌توان از «اخلاق هوش مصنوعی» سخن گفت، بی‌آنکه مناسبات قدرت، منافع اقتصادی و ساختارهای سیاسیِ تعیین‌کننده کاربرد آن را به پرسش کشید؟ آیا تدوین اصول اخلاقی و مقررات حقوقی برای مهار سوءاستفاده‌ها کافی است یا مسئله بنیادی‌تر، ضرورت بازاندیشی در رابطه انسان با فناوری و حدود واگذاری اختیار به ماشین است؟ در گفت‌وگو با حسین دباغ، پژوهشگر فلسفه و اخلاق، می‌خواهیم این چالش‌ها را از منظر فلسفه اخلاق بررسی کنیم و به این پرسش بپردازیم که چگونه می‌توان ضمن بهره‌گیری از ظرفیت‌های هوش مصنوعی، از آزادی، عدالت و کرامت انسانی در برابر مخاطرات آن دفاع کرد؟
مسئولیت اخلاقی در عصر هوش مصنوعی نیازمند بازتعریف است
از نگاه حسین دباغ، یکی از مهم‌ترین پیچیدگی‌هایی که هوش مصنوعی ایجاد کرده، دشواری تعیین مسئولیت اخلاقی و حقوقی است. در تصمیم‌هایی که با مشارکت سامانه‌های هوشمند اتخاذ می‌شوند، دیگر همیشه نمی‌توان به‌روشنی مشخص کرد مسئولیت پیامدها بر عهده چه کسی است. دباغ معتقد است این وضعیت بازاندیشی در مفهوم سنتی مسئولیت را ضروری می‌کند. او می‌گوید:
من فکر می‌کنم ما ناگزیریم مفهوم سنتی مسئولیت اخلاقی را تا حد زیادی بازتعریف کنیم. ضرورتی برای بازاندیشی وجود دارد؛ اینکه چگونه باید مسئولیت را میان شرکت‌های خصوصی فناوری، دولت‌ها، کاربران و کسانی که از این سامانه‌ها استفاده می‌کنند، توزیع کنیم. این توزیع بسیار دشوار خواهد بود.
او برای توضیح این دشواری به سنت ارسطویی در فلسفه اخلاق رجوع می‌کند. در این سنت، مسئولیت اخلاقی معمولاً بر دو شرط استوار است: آگاهی فرد از عملی که انجام می‌دهد و پیامدهای احتمالی آن، و اختیار یا کنترل او بر رفتار خویش. برای مثال، فردی که در حالت خواب و بدون آگاهی از رفتار خود عملی انجام می‌دهد، معمولاً مسئول آن عمل شناخته نمی‌شود. در مقابل، هنگامی می‌توان فردی را مسئول دانست که بداند چه می‌کند و امکان داشته باشد به‌گونه‌ای دیگر عمل کند. به اعتقاد دباغ، هوش مصنوعی این رابطه میان آگاهی، اختیار و مسئولیت را پیچیده کرده است. سامانه‌های هوشمند ممکن است پیشنهادهایی ارائه دهند که فرایند رسیدن به آن‌ها حتی برای سازندگان سامانه نیز به‌سادگی قابل توضیح نباشد. او برای روشن‌شدن مسئله به کاربرد هوش مصنوعی در استخدام، اعطای وام و تشخیص پزشکی اشاره می‌کند. فرض کنید یک پزشک یا مسئول استخدام بر اساس پیشنهاد سامانه هوش مصنوعی تصمیمی بگیرد که به تبعیض یا آسیب منجر شود. در چنین وضعیتی، تعیین مسئولیت به مسئله‌ای دشوار تبدیل می‌شود. دباغ می‌پرسد:
آیا برنامه‌نویسی که الگوریتم‌ها را نوشته مسئول است؟ آیا شرکت خصوصی عرضه‌کننده سامانه مسئولیت دارد؟ آیا سازمانی که اجازه استفاده از آن را داده مسئول است؟ یا تنها پزشک یا کاربری مسئول است که در نهایت بر اساس پیشنهاد هوش مصنوعی تصمیم گرفته است؟
این پرسش‌ها از نظر او صرفاً مسائل نظری نیستند، بلکه به یکی از مخاطرات مهم کاربرد هوش مصنوعی مربوط می‌شوند: امکان فرار افراد و نهادها از پذیرش مسئولیت.
پراکندگی مسئولیت ممکن است به بی‌پاسخ‌ماندن آسیب‌ها بینجامد
دباغ برای توضیح این وضعیت به مفهوم «شکاف مسئولیت» اشاره می‌کند؛ وضعیتی که در آن تعیین مسئولیت پیامدهای زیان‌بار یک تصمیم دشوار می‌شود.
شرکت سازنده ممکن است استدلال کند که سامانه فقط پیشنهاد داده و تصمیم نهایی با کاربر بوده است. کاربر نیز ممکن است بگوید به توصیه سامانه اعتماد کرده و مدیر سازمان مدعی شود که فناوری را ابزاری بی‌طرف می‌دانسته است. به گفته دباغ، در چنین شرایطی مسئولیت میان افراد و نهادهای مختلف پراکنده می‌شود و این خطر به وجود می‌آید که هیچ‌کس مسئولیت پیامدهای تصمیم را نپذیرد. او تأکید می‌کند:
یکی از خطرهای هوش مصنوعی در همین مسئله مسئولیت نهفته است: این فناوری ممکن است بهانه‌ای برای فرار از مسئولیت فراهم کند یا وضعیتی به وجود آورد که فیلسوفان از آن با عنوان شکاف مسئولیت یاد می‌کنند.
برای مواجهه با این دشواری، دباغ به تمایزی در فلسفه اخلاق اشاره می‌کند: مسئولیت گذشته‌نگر و مسئولیت آینده‌نگر.
مسئولیت گذشته‌نگر به آسیبی مربوط است که پیش‌تر رخ داده است. در اینجا پرسش آن است که چه کسی مقصر بوده، چه اندازه خسارت وارد کرده و چگونه باید زیان را جبران کند.
اما مسئولیت آینده‌نگر به پیشگیری از آسیب‌های احتمالی توجه دارد. در این رویکرد باید از پیش مشخص شود چه کسی وظیفه شناسایی خطرها را بر عهده دارد، سامانه‌ها چگونه باید به‌طور مستمر آزمایش شوند و اگر آسیبی رخ داد، چه نهادی باید پاسخ‌گو باشد. دباغ در این زمینه میان مسئولیت و پاسخ‌گویی تمایز می‌گذارد. از نگاه او، حتی اگر تعیین مسئولیت مستقیم اخلاقی یا حقوقی دشوار باشد، ضرورت پاسخ‌گویی از میان نمی‌رود:
مسئله همیشه مجازات و سرزنش نیست. مسئله این است که چگونه می‌توانیم از تکرار آسیب جلوگیری کنیم. توضیح‌دادن درباره آنچه رخ داده بسیار مهم است؛ باید روشن شود چه اتفاقی افتاده و چگونه می‌توان احتمال وقوع دوباره آن را کاهش داد.
در این چارچوب، پاسخ‌گویی فقط به معنای پذیرش تقصیر نیست؛ بلکه مستلزم توضیح‌دادن درباره فرایند تصمیم‌گیری و فراهم‌کردن امکان پیشگیری از آسیب‌های بعدی است.
دباغ همچنین میان میزان قدرت و دامنه مسئولیت رابطه برقرار می‌کند. به اعتقاد او، هرچه اختیار و قدرت یک فرد یا نهاد بیشتر باشد، مسئولیت و پاسخ‌گویی بیشتری نیز بر عهده خواهد داشت. از همین رو، شرکت‌های خصوصی سازنده هوش مصنوعی، به دلیل نقشی که در انتخاب داده‌های آموزشی و طراحی سامانه‌ها دارند، از مسئولیت بیشتری برخوردارند. نهادهایی که از این فناوری استفاده می‌کنند نیز متناسب با قدرت و اختیار خود باید پاسخ‌گو باشند. با این حال، او کاربران را از مسئولیت مبرا نمی‌داند. به باور دباغ، کاربران نیز باید آموزش ببینند، آگاهی خود را افزایش دهند و از اعتماد بی‌چون‌وچرا به پیشنهادهای هوش مصنوعی پرهیز کنند.
فناوری خنثی نیست، اما سرنوشت انسان را نیز از پیش تعیین نمی‌کند
بحث مسئولیت اخلاقی در هوش مصنوعی به پرسش بنیادی‌تری درباره ماهیت فناوری و نسبت آن با قدرت می‌رسد. آیا هوش مصنوعی ابزاری خنثی است که می‌توان آن را برای اهداف خوب یا بد به کار گرفت، یا ساختار طراحی و مالکیت آن از ابتدا با ارزش‌ها و مناسبات قدرت پیوند دارد؟ حسین دباغ در پاسخ به این پرسش، موضع خود را روشن بیان می‌کند:
با این تصور که فناوری، به معنای عام کلمه، و در اینجا هوش مصنوعی، به‌خودی‌خود کاملاً خنثی است و همه‌چیز به نحوه استفاده ما از آن بستگی دارد، موافق نیستم. با این ایده همدلی ندارم.
با این حال، او تأکید می‌کند که مخالفت با خنثی‌بودن فناوری به معنای پذیرش جبرگرایی فناورانه نیست.
در دیدگاه جبرگرایانه، ممکن است چنین تصور شود که هر فناوری، مستقل از انتخاب‌های انسانی، ضرورتاً پیامدهای سیاسی و اخلاقی مشخصی ایجاد می‌کند. دباغ این برداشت را نیز نمی‌پذیرد و می‌کوشد موضعی میان این دو دیدگاه اتخاذ کند. او برای توضیح نظر خود به اندیشه‌های لنگدون وینر، فیلسوف فناوری، و مقاله مشهور او با عنوان «آیا مصنوعات فناورانه سیاست دارند؟» اشاره می‌کند. به روایت دباغ از اندیشه وینر، فناوری‌هایی که انسان طراحی می‌کند ممکن است از همان ابتدا حامل نوعی مناسبات قدرت و اقتدار باشند. طراحان فناوری نیز ممکن است بدون آگاهی کامل، باورها، نیت‌ها، مقاصد و ارزش‌های خود را وارد سامانه‌هایی کنند که می‌سازند.
دباغ با این ایده همدلی دارد، هرچند تأکید می‌کند که لزوماً همه استدلال‌های وینر را نمی‌پذیرد. به اعتقاد او، ظهور هوش مصنوعی اهمیت این بحث را افزایش داده است. او می‌گوید:
سامانه‌های هوش مصنوعی در خلأ اجتماعی و سیاسی ساخته نمی‌شوند. ما هنگام طراحی این سامانه‌ها، گاهی حتی بدون آنکه متوجه باشیم، تصمیم می‌گیریم چه داده‌هایی گردآوری شوند، کدام داده‌ها انتخاب شوند و چه داده‌هایی در اولویت قرار گیرند.
از نگاه دباغ، همین انتخاب‌ها متضمن داوری‌های ارزشی‌اند. اینکه چه رفتاری مطلوب یا نامطلوب تلقی شود، چه داده‌هایی اهمیت بیشتری داشته باشند و سامانه بر اساس چه معیارهایی تصمیم بگیرد، صرفاً مسئله‌ای فنی نیست. این تصمیم‌ها می‌توانند بار اخلاقی، سیاسی، اجتماعی و اقتصادی داشته باشند؛ حتی اگر طراحان سامانه از همه پیامدهای آن‌ها آگاه نباشند.
تعریف «رفتار مشکوک» را صاحبان قدرت تعیین می‌کنند
دباغ برای نشان‌دادن نقش ارزش‌ها و مناسبات قدرت در طراحی هوش مصنوعی، به کاربرد سامانه‌های نظارتی اشاره می‌کند: فرض کنید دولتی با هدف افزایش امنیت عمومی از دوربین‌های مجهز به هوش مصنوعی استفاده کند تا رفتارهای «مشکوک» شهروندان را شناسایی کند. در ظاهر، هدف سامانه افزایش امنیت است. اما به اعتقاد دباغ، پرسش اصلی پیش از آنکه درباره کارآمدی فناوری باشد، به تعریف معیارهای آن مربوط می‌شود. او می‌پرسد:
نخستین پرسش این است که چه کسی رفتار مشکوک را تعریف می‌کند؟ چه رفتاری مشکوک محسوب می‌شود و چه کسی درباره آن تصمیم می‌گیرد؟ این پرسشی اخلاقی و سیاسی است.
برای آنکه سامانه بتواند رفتار مشکوک را شناسایی کند، ابتدا باید این رفتار تعریف شود. شرکت سازنده فناوری، پلیس، دولت یا سازمان‌های دیگر ممکن است در تعیین این معیار مشارکت داشته باشند. اما معیارهای یک حکومت اقتدارگرا ممکن است با معیارهای نظام سیاسی دیگری تفاوت داشته باشند. برای مثال، در یک حکومت اقتدارگرا ممکن است برخی رفتارهای اعتراضی شهروندان نیز مشکوک تلقی شوند. از نگاه دباغ، این مثال نشان می‌دهد که مسئله فقط استفاده درست یا نادرست از فناوری نیست. معیارهای سیاسی و اخلاقی می‌توانند از همان مرحله طراحی وارد سامانه شوند. او در همین زمینه به ایران اشاره می‌کند و استفاده حکومت از دوربین‌های نظارتی برای اجرای حجاب اجباری را نمونه‌ای از پیوند فناوری با مناسبات قدرت می‌داند.
به اعتقاد دباغ، این سامانه‌ها می‌توانند نظارت بر شهروندان را گسترده‌تر و برای حکومت کم‌هزینه‌تر کنند و امکان مداخله بیشتر در زندگی خصوصی افراد را فراهم آورند. در اینجا نیز تعیین اینکه چه نوع پوششی مطلوب یا نامطلوب است، بر اساس معیارهایی صورت می‌گیرد که صاحبان قدرت تعریف کرده‌اند. دباغ تأکید می‌کند که این معیارها صرفاً در مرحله استفاده از فناوری مطرح نمی‌شوند، بلکه می‌توانند در ساختار سامانه نیز جای گیرند.
خطر سلطه فناورانه به حکومت‌های اقتدارگرا محدود نیست
با وجود تأکید بر کاربردهای سرکوبگرانه فناوری در حکومت‌های اقتدارگرا، دباغ هشدار می‌دهد که مسئله نظارت و کنترل شهروندان فقط به این حکومت‌ها محدود نمی‌شود.
به گفته او، در جوامع دموکراتیک نیز شرکت‌های خصوصی فناوری و نهادهای دیگر می‌توانند داده‌های مربوط به رفتار افراد را گردآوری کنند، رفتار آن‌ها را پیش‌بینی کنند و در همکاری با حکومت‌ها بر زندگی خصوصی شهروندان تأثیر بگذارند. او برای توضیح پیامدهای این وضعیت به مفهوم «سلطه» در فلسفه سیاسی رجوع می‌کند. از نگاه دباغ، سلطه لزوماً به معنای آن نیست که فرد یا نهادی مستقیماً مانع انجام کاری شود. سلطه ممکن است در شرایطی شکل بگیرد که شهروندان نتوانند به‌آسانی از قدرت نهادهایی رهایی یابند که داده‌های آن‌ها را در اختیار دارند و بر اساس این داده‌ها درباره رفتار و زندگی‌شان تصمیم می‌گیرند. او توضیح می‌دهد:
سلطه لزوماً به این معنا نیست که کسی همین حالا مانع انجام کاری از سوی شما شود. مسئله این است که شما نمی‌توانید به‌آسانی از قدرتی رهایی پیدا کنید که داده‌های مربوط به شما را در اختیار دارد، رفتار شما را پیش‌بینی می‌کند و بر اساس آن درباره شما تصمیم می‌گیرد.
به اعتقاد دباغ، چنین قدرتی می‌تواند نوعی رابطه سلطه‌گرانه در جامعه ایجاد کند؛ رابطه‌ای که در آن معیارهای رفتار مطلوب و نامطلوب را نهادهای قدرتمند تعیین می‌کنند و سامانه‌های هوش مصنوعی در اجرای این معیارها نقش دارند.
از همین رو، او معتقد است پرسش درباره هوش مصنوعی نباید به عملکرد فنی سامانه‌ها محدود بماند. مسئله بنیادی‌تر این است که چه کسانی قدرت تعریف معیارهای خوب و بد را در اختیار دارند و چگونه این معیارها را وارد سامانه‌های هوشمند می‌کنند.
آزادی و حریم خصوصی بخشی از رفاه انسانی‌اند
یکی دیگر از محورهای گفت‌وگو با حسین دباغ، تعارض احتمالی میان توسعه هوش مصنوعی و حقوق بنیادین انسان است.یکی از استدلال‌های رایج در دفاع از گسترش این فناوری، افزایش کارآمدی، پیشرفت علمی و بهبود رفاه عمومی است. اما آیا دستیابی به این منافع می‌تواند محدودکردن حریم خصوصی یا استقلال فردی را توجیه کند؟ دباغ معتقد است که صورت‌بندی این مسئله به شکل تقابل میان رفاه و آزادی، از اساس نیازمند بازنگری است. او می‌گوید:
ما معمولاً به‌گونه‌ای سخن می‌گوییم که گویی از یک‌سو پیشرفت علمی، نوآوری، رفاه عمومی و کارآمدی قرار دارند و از سوی دیگر آزادی، حریم خصوصی و استقلال فردی. گویی ناگزیریم یکی را به سود دیگری قربانی کنیم. به گمان من، این صورت‌بندی از منظر آنچه در فلسفه اخلاق می‌آموزیم، تا اندازه زیادی گمراه‌کننده است.
به اعتقاد او، آزادی، حریم خصوصی و استقلال فردی خود از مؤلفه‌های رفاه انسانی و شرایط یک زندگی خوب هستند. برای توضیح این دیدگاه، دباغ جامعه‌ای فرضی را در نظر می‌گیرد که از کارآمدی اقتصادی بالا و رفاه مادی قابل‌توجه برخوردار است، اما شهروندان آن دائماً تحت نظارت قرار دارند و نمی‌توانند آزادانه فکر کنند، مخالفت خود را بیان کنند یا شیوه زندگی‌شان را انتخاب کنند. از نگاه او، چنین جامعه‌ای لزوماً جامعه‌ای برخوردار از رفاه به معنای دقیق کلمه نیست.
این استدلال به‌ویژه درباره سامانه‌های نظارتی اهمیت پیدا می‌کند. حتی اگر استفاده گسترده از دوربین‌ها و فناوری‌های دیجیتال کارآمدی دولت را افزایش دهد یا موجب کاهش جرائم شود، این پیامدها به‌تنهایی برای اثبات مشروعیت اخلاقی نظارت کافی نیستند. دباغ تأکید می‌کند:
وقتی درباره حریم خصوصی به‌عنوان یک حق صحبت می‌کنیم، مسئله ما یکی از شرایطِ به قول فیلسوفان، امکان آزادی است؛ یعنی آزادی برای اندیشیدن، آزمودن عقاید خود، بحث‌کردن با دیگران و حتی مخالفت سیاسی در جامعه. برای همین، شما به فضایی نیاز دارید که در آن دائماً تحت بررسی، مشاهده و داوری دیگران نباشید. اگر چنین باشد، به احتمال زیاد رفاه خود را از دست می‌دهید.
در نتیجه، نقض حریم خصوصی صرفاً محدودکردن یک حق مستقل نیست، بلکه می‌تواند بر امکان برخورداری انسان از آزادی و رفاه نیز تأثیر بگذارد.
محدودکردن حقوق بنیادین به تضمین قانونی و نظارت مستقل نیاز دارد
با این حال، دباغ حق حریم خصوصی را حقی مطلق نمی‌داند که تحت هیچ شرایطی نتوان آن را محدود کرد.
به گفته او، در اسناد حقوقی بین‌المللی نیز چنین تصوری وجود ندارد که حریم خصوصی همواره و بدون استثنا بر همه حقوق و ملاحظات دیگر مقدم باشد. ممکن است در برخی شرایط مشخص، محدودکردن این حق به دلیل اهداف مهم اجتماعی قابل توجیه باشد. اما چنین محدودیتی باید تابع معیارهای دقیق حقوقی و اخلاقی باشد. دباغ توضیح می‌دهد:
نمی‌توان گفت هر زمان که خواستیم، می‌توانیم حقوق افراد را محدود کنیم. چنین محدودیت‌هایی باید تضمین قانونی داشته باشند و با هدفی که دنبال می‌کنند متناسب باشند.
او با اشاره به مباحث فلسفه حقوق و فلسفه سیاسی، چند شرط را برای محدودکردن حقوق بنیادین ضروری می‌داند:
نخست آنکه هدف اقدام باید روشن، شفاف و مشروع باشد. دوم، ضرورت محدودیت باید با دلایل کافی اثبات شود. همچنین باید بررسی کرد آیا راه دیگری برای دستیابی به همان هدف وجود دارد که نیازی به محدودکردن حق مورد نظر نداشته باشد. شرط دیگر، تناسب میان محدودیت و هدفی است که دنبال می‌شود. در نهایت نیز باید نهادی مستقل بر فرایند تصمیم‌گیری و اجرای محدودیت نظارت کند. به اعتقاد دباغ، بدون چنین تضمین‌هایی، نمی‌توان به افراد یا نهادها اجازه داد به دلخواه خود حقوق شهروندان را محدود کنند. او تأکید می‌کند:
به نظر من، سنجش نسبت میان پیامدهای اجتماعی، رفاه عمومی و حقوق فردی، یکی از مهم‌ترین پیچیدگی‌های سیاست‌گذاری عمومی است. اما اینکه این دو لزوماً همیشه و همواره در مقابل یکدیگر قرار دارند، درست نیست. ممکن است بتوانیم فناوری‌ای داشته باشیم که هم‌زمان رفاه را افزایش دهد و حقوق بنیادین افراد را نیز پاس بدارد، نه اینکه لزوماً آن‌ها را پایمال کند. اگر قرار باشد این حقوق محدود شوند، باید دلایل بسیار محکمی برای آن داشته باشیم.
منافع هوش مصنوعی نصیب چه کسانی می‌شود و هزینه‌های آن را چه کسانی می‌پردازند؟
دباغ در ادامه بحث از رفاه و حقوق بنیادین، مسئله عدالت توزیعی را مطرح می‌کند. به اعتقاد او، ارزیابی اخلاقی هوش مصنوعی نباید صرفاً بر میزان افزایش رفاه یا منافع اقتصادی متمرکز باشد. باید پرسید این منافع چگونه میان گروه‌های مختلف جامعه توزیع می‌شوند و هزینه‌های اجتماعی فناوری بر دوش چه کسانی قرار می‌گیرند. او می‌گوید:
وقتی درباره افزایش رفاه از طریق هوش مصنوعی سخن می‌گوییم، باید بپرسیم این رفاه برای چه کسانی افزایش می‌یابد. همچنین باید ببینیم هزینه‌های اجتماعی این فناوری را چه کسانی می‌پردازند.
دباغ برای توضیح این مسئله به شرکت‌های خصوصی فناوری اشاره می‌کند که ممکن است از توسعه سامانه‌های هوش مصنوعی سود اقتصادی فراوانی به دست آورند، در حالی که بخشی از هزینه‌های اجتماعی این فناوری بر دوش دیگران قرار گیرد. از جمله این هزینه‌ها می‌توان به ازدست‌رفتن حریم خصوصی و تبعیض در فرصت‌های شغلی اشاره کرد؛ پیامدهایی که ممکن است برخی گروه‌های اجتماعی بیش از دیگران با آن‌ها مواجه شوند. در چنین شرایطی، افزایش مجموع رفاه اقتصادی لزوماً به معنای عادلانه‌بودن پیامدهای فناوری نیست. به باور دباغ، باید علاوه بر میزان منافع تولیدشده، درباره چگونگی توزیع آن‌ها و نیز توزیع هزینه‌های اجتماعی پرسش کرد.
از این منظر، عدالت توزیعی به یکی از معیارهای ضروری داوری اخلاقی درباره توسعه و کاربرد هوش مصنوعی تبدیل می‌شود.
واگذاری قوه داوری به ماشین، عاملیت انسانی را با چالش روبه‌رو می‌کند
آخرین محور گفت‌وگو با حسین دباغ به مسئله عاملیت انسانی مربوط می‌شود؛ مسئله‌ای که از نظر او با ورود روزافزون هوش مصنوعی به زندگی روزمره اهمیت بیشتری پیدا می‌کند.
دباغ معتقد است انسان‌ها به‌تدریج بخش بیشتری از رفتارها، تحلیل‌ها و تصمیم‌های خود را به سامانه‌های هوشمند واگذار می‌کنند. این فرایند ممکن است حتی بدون آگاهی کامل افراد از پیامدهای آن رخ دهد.
او برای توصیف این وضعیت از تعبیر «انسان واگذارکننده» استفاده می‌کند:
با ورود تدریجی هوش مصنوعی به زندگی روزمره، گویی با نوع تازه‌ای از انسان مواجه می‌شویم؛ انسانی که شاید بتوان او را انسان واگذارکننده نامید.
از نگاه دباغ، در چنین وضعیتی انسان ممکن است به‌جای اندیشیدن و تصمیم‌گرفتن، بیش‌ازپیش منتظر دریافت پاسخ از سامانه‌های هوشمند بماند. با این حال، او واگذاری وظایف به فناوری را به‌خودی‌خود نامطلوب نمی‌داند. به گفته او، تمدن انسانی تا حد زیادی بر پایه تقسیم کار شکل گرفته و پیشرفت کرده است. بنابراین، سپردن برخی وظایف به ابزارها و سامانه‌ها می‌تواند سودمند باشد. دباغ در پایان تأکید می‌کند:
مسئله زمانی پیچیده‌تر و جدی‌تر می‌شود که آنچه واگذار می‌کنیم، خودِ قوه داوری و توانایی تصمیم‌گیری ما باشد. باید درباره این نوع واگذاری نیز بیندیشیم، آن را نقد کنیم و در صورت لزوم در برابر آن مقاومت نشان دهیم.
در این نگاه، چالش اخلاقی هوش مصنوعی فقط به آسیب‌های احتمالی، تبعیض یا نظارت گسترده محدود نمی‌شود. از منظر دباغ، مسئله به رابطه انسان با فناوری و حفظ توانایی مستقل او برای اندیشیدن، داوری و تصمیم‌گیری نیز مربوط است.
*این مصاحبه را حسین نوش‌آذر انجام داده و متن را نیز او نوشته است.
نظرها
نظری وجود ندارد.