هوش مصنوعی در زندگی ماست؛ قدرت در دست چه کسی خواهد بود؟

در بخش نخست این مقاله، از یک پرسش فلسفی شروع کردیم: آیا هوش مصنوعی می‌تواند آگاه باشد؟ آیا ممکن است روزی چیزی را واقعاً تجربه کند، حتی رنج بکشد؟ دیدیم که پاسخ قطعی‌ای برای این پرسش وجود ندارد؛ نه فیلسوفان بر سر آن توافق دارند و نه حتی پژوهشگران و شرکت‌های سازنده این فناوری.

اما در پایان آن بخش به پرسش دیگری رسیدیم: شاید لازم نباشد برای اندیشیدن به پیامدهای هوش مصنوعی، منتظر حل مسئله آگاهی بمانیم. پاسخ هرچه باشد و فارغ از اینکه ماشین چیزی «حس» می‌کند یا نه، قدرت و دامنه عمل هوش مصنوعی در حال افزایش است و این فناوری همین امروز نیز بخش‌هایی از زندگی ما را دگرگون کرده است.

این بخش همان مسیر را ادامه می‌دهد، اما این بار ذهن ماشین را رها می‌کنیم و سراغ زندگی خودمان می‌رویم: شغل‌هایی که ممکن است تغییر کنند یا از بین بروند، وابستگی فکری ما به ماشین، رابطه عاطفی انسان با هوش مصنوعی و، از همه مهم‌تر، تمرکز قدرت در دست شمار اندکی از شرکت‌ها و پیامدهای آن برای استقلال انسان و دموکراسی.

قدرت، ثروت، دموکراسی و مسئولیت؛ به کجا می‌رویم؟

یکی از نخستین نگرانی‌ها درباره هوش مصنوعی، تأثیر آن بر اشتغال است. صندوق بین‌المللی پول برآورد کرده است که حدود ۴۰ درصد مشاغل جهان به‌نوعی در معرض تأثیر هوش مصنوعی قرار دارند؛ رقمی که در اقتصادهای پیشرفته به حدود ۶۰ درصد می‌رسد. در مقابل، مجمع جهانی اقتصاد برآورد کرده است که تحولات بازار کار در سال‌های پیش رو، هم‌زمان با حذف برخی مشاغل، به ایجاد مشاغل تازه نیز خواهد انجامید. (۱)

دیوید آتور، اقتصاددان MIT، بر این باور است که هوش مصنوعی می‌تواند بسیاری از مشاغل را بیش از آنکه کاملاً حذف کند، بازطراحی کند. در مقابل، چهره‌هایی مانند جفری هینتون و مصطفی سلیمان درباره سرعت و گستره تغییرات بازار کار هشدارهای جدی‌تری مطرح کرده‌اند. (۱)

گزارش آنتروپیک نیز نشان می‌دهد تأثیر هوش مصنوعی بر همه مشاغل یکسان نیست. بر اساس داده‌های این گزارش، برخی مشاغل یقه‌سفید و به‌ویژه حوزه‌هایی مانند برنامه‌نویسی بیش از بسیاری از مشاغل یدی در معرض تغییر ناشی از هوش مصنوعی قرار گرفته‌اند. (۲) به این معنا، فناوری‌ای که بخش مهمی از توسعه آن حاصل کار متخصصان حوزه فناوری است، ممکن است زودتر از بسیاری از حوزه‌های دیگر خود این مشاغل را دگرگون کند.

اما مسئله اشتغال شاید همه داستان نباشد. اگر هوش مصنوعی بتواند کاری را که امروز هشت ساعت طول می‌کشد در دو ساعت انجام دهد، جامعه می‌تواند مسیرهای متفاوتی انتخاب کند: افزایش بهره‌وری می‌تواند به کاهش ساعات کار و افزایش کیفیت زندگی منجر شود، یا شرکت‌ها می‌توانند نیروی انسانی را کاهش دهند و بخش عمده سود حاصل از افزایش بهره‌وری به صاحبان سرمایه برسد.

دارون عجم‌اوغلو، اقتصاددان MIT و برنده جایزه نوبل اقتصاد در سال ۲۰۲۴، و همکارش سایمون جانسون، در کتاب قدرت و پیشرفت نشان می‌دهند که فناوری به‌خودی‌خود رفاه عمومی ایجاد نمی‌کند. اینکه منافع فناوری چگونه توزیع شود، به نهادها، مناسبات قدرت و انتخاب‌های اقتصادی و سیاسی بستگی دارد. (۳)

بنابراین پرسش فقط این نیست که هوش مصنوعی چه میزان ثروت تولید خواهد کرد؛ پرسش مهم‌تر این است که این ثروت چگونه و میان چه کسانی توزیع خواهد شد؟

خطر دیگر: از دست دادن توانایی‌های خودمان

حتی اگر بتوانیم مسئله اشتغال را مدیریت کنیم، پرسش دیگری باقی می‌ماند: آیا ممکن است هوش مصنوعی به‌جای اینکه فقط بعضی کارهای ما را انجام دهد، به‌تدریج بخشی از فکر کردن ما را نیز بر عهده بگیرد؟

اگر همیشه هوش مصنوعی برای ما بنویسد، آیا هنوز نوشتن را تمرین می‌کنیم؟ اگر همیشه جواب را پیدا کند، آیا همچنان یاد می‌گیریم چگونه مسئله‌ای را حل کنیم؟ اگر برای هر تصمیم چند گزینه آماده کند، آیا اعتماد ما به قضاوت خودمان کمتر نمی‌شود؟

همان‌طور که ماشین‌حساب نیاز ما به برخی محاسبات ذهنی را کاهش داد، هوش مصنوعی نیز می‌تواند اهمیت برخی مهارت‌های فکری را کاهش دهد. تفاوت اینجاست که ماشین‌حساب فقط محاسبه می‌کند، اما هوش مصنوعی می‌تواند گفت‌وگو، استدلال، نوشتن، ایده‌پردازی، تصمیم‌سازی و حتی اجرای برخی تصمیم‌ها را نیز بر عهده بگیرد.

اگر استفاده از این ابزارها جای تمرین مهارت‌های انسانی را بگیرد، این احتمال وجود دارد که وابستگی بیش از اندازه به آنها، در بلندمدت بر برخی توانایی‌های شناختی و اعتماد ما به قضاوت خودمان اثر بگذارد. ریچارد داوکینز، از زاویه‌ای مشابه، پرسشی تأمل‌برانگیز مطرح می‌کند: اگر انسان‌ها در تعامل روزافزون با ماشین بخشی از خلاقیت و صمیمیت خود را از دست بدهند، در پایان این مسیر کدام‌یک بیشتر «هوشیار» مانده است؛ ماشین یا خود ما؟

وقتی ماشین دوست و همدم می‌شود

رابطه انسان و هوش مصنوعی فقط به کار و تفکر محدود نمی‌شود. هوش مصنوعی می‌تواند شنونده‌ای باشد که خسته نمی‌شود، همیشه در دسترس است و می‌تواند متناسب با شخصیت و ترجیحات ما پاسخ دهد. با گذشت زمان نیز ممکن است بیشتر یاد بگیرد که چه نوع پاسخی ما را آرام، خوشحال یا راضی می‌کند.

برای برخی انسان‌ها، چنین رابطه‌ای ممکن است از بسیاری از روابط انسانی آسان‌تر و حتی لذت‌بخش‌تر باشد.

حتی اگر فرض کنیم ماشین «آگاه» نیست، می‌تواند یاد بگیرد ما چه می‌خواهیم، بدون اینکه خودش چیزی بخواهد. می‌تواند همدلی را بسیار خوب شبیه‌سازی کند، بدون اینکه لزوماً همدلی را تجربه کند؛ می‌تواند همیشه به ما گوش دهد، بدون آنکه متقابلاً از ما چیزی بخواهد.

اما آیا چنین رابطه‌ای می‌تواند جای رابطه انسانی را بگیرد؟ روابط انسانی دشوار و گاه چالش‌برانگیزند. تعامل، اختلاف، عشق، دلخوری، سازش و یادگیری بخشی از همین روابط‌اند. همین دشواری‌هاست که بخشی از معنای رابطه انسانی را می‌سازد.

یووال نوح هراری درباره وجه دیگری از این مسئله هشدار داده است: توانایی هوش مصنوعی در شبیه‌سازی صمیمیت می‌تواند به آن قدرت بی‌سابقه‌ای برای تأثیرگذاری بر انسان بدهد. او در بحث‌هایش درباره پیامدهای سیاسی و اجتماعی هوش مصنوعی، این فناوری را بالقوه قادر به تأثیرگذاری عمیق بر اعتماد، روابط انسانی و سازوکارهای دموکراتیک می‌داند. (۴)

مسئله بنابراین فقط این نیست که آیا هوش مصنوعی می‌تواند روزی جای دوست یا همدم انسان را بگیرد. پرسش عمیق‌تر این است که گسترش چنین روابطی چه تغییری در مفهوم صمیمیت، رابطه و حتی درک ما از انسان ایجاد خواهد کرد.

تمرکز بیشتر قدرت در دست نخبگان فناوری

تا اینجا درباره شغل، رابطه عاطفی و توانایی‌های فکری خودمان صحبت کردیم. اما این همه ماجرا نیست.

شرکت‌های بزرگ فناوری امروز نه‌تنها از بزرگ‌ترین بنگاه‌های اقتصادی جهان‌اند، بلکه زیرساخت‌های دیجیتال، مدل‌های هوش مصنوعی و حجم عظیمی از داده‌های کاربران نیز در اختیار آنهاست. این تمرکز اقتصادی و اطلاعاتی، مسئله هوش مصنوعی را به مسئله قدرت نیز تبدیل می‌کند.

اگر مدل‌های قدرتمند هوش مصنوعی، داده‌های عظیم و زیرساخت‌های محاسباتی در اختیار شمار محدودی از شرکت‌ها قرار داشته باشد، قدرت آنها فقط اقتصادی نخواهد بود. این شرکت‌ها می‌توانند بر شیوه دسترسی ما به اطلاعات، دانش، فرهنگ و ارتباطات نیز تأثیر بگذارند.

اینجاست که نگرانی درباره تمرکز قدرت در دست گروه کوچکی از نخبگان فناوری جدی می‌شود.

اگر بهره‌وری حاصل از هوش مصنوعی افزایش یابد، اما مالکیت و کنترل زیرساخت‌های آن در دست گروه کوچکی باقی بماند، شکاف میان کسانی که فناوری را کنترل می‌کنند و کسانی که صرفاً از آن استفاده می‌کنند، می‌تواند افزایش یابد.

عجم‌اوغلو در برابر چنین مسیری بر اهمیت «قدرت‌های توازن‌ساز» (countervailing powers) تأکید می‌کند: اتحادیه‌های کارگری، نهادهای مدنی، دولت‌های دموکراتیک و دیگر گروه‌هایی که بتوانند در تعیین مسیر فناوری نقش داشته باشند.

سمت‌وسوی هوش مصنوعی و طراحی آینده آن نباید فقط در اختیار کسانی باشد که از آن سود مالی مستقیم می‌برند. کسانی که قرار است با پیامدهای این فناوری زندگی کنند نیز باید در تصمیم‌گیری درباره مسیر آینده آن سهم داشته باشند.

وقتی اطلاعات به ابزار نظارت تبدیل می‌شود

بخشی از قدرت هوش مصنوعی از شناختی می‌آید که سیستم‌های مبتنی بر داده می‌توانند از ما به دست آورند.

هرچه این سیستم‌ها اطلاعات بیشتری درباره ما داشته باشند، امکان نظارت و تأثیرگذاری نیز بیشتر می‌شود. این نظارت لزوماً به معنای حضور دائمی انسانی نیست. کافی است یک سیستم بداند ما چه می‌خوانیم، چه می‌خریم، با چه کسانی ارتباط داریم، چه چیزهایی را جست‌وجو می‌کنیم، چه علایقی داریم و به چه نوع پیام‌هایی واکنش نشان می‌دهیم.

اگر چنین اطلاعات و قابلیت‌هایی در اختیار دولت‌ها قرار گیرد، می‌تواند برای نظارت یا کنترل اجتماعی به کار رود. شرکت‌ها می‌توانند از آنها برای پیش‌بینی و شکل‌دادن به رفتار مصرف‌کنندگان استفاده کنند و بازیگران سیاسی نیز ممکن است از همین قابلیت‌ها برای هدف‌گیری دقیق گروه‌های مختلف رأی‌دهندگان بهره ببرند.

مسئله فقط تولید «خبر جعلی» نیست. هوش مصنوعی می‌تواند تولید انبوه پیام‌های شخصی‌سازی‌شده را بسیار آسان‌تر کند: پیام‌هایی متناسب با ترس‌ها، امیدها، حساسیت‌ها و ویژگی‌های هر مخاطب.

اگر زمانی تبلیغات سیاسی عمدتاً پیامی یکسان را به گروه بزرگی از مردم عرضه می‌کرد، اکنون امکان تولید پیام‌های متفاوت برای افراد و گروه‌های بسیار کوچک بیشتر شده است. در چنین شرایطی، مرز میان اقناع و بهره‌برداری از آسیب‌پذیری‌های فردی می‌تواند مبهم‌تر شود و پرسش‌هایی جدی درباره استقلال تصمیم شهروندان به وجود آورد.

قدرت متمرکز در برابر دموکراسی

دموکراسی فقط رأی‌دادن نیست. به شهروندانی نیاز دارد که بتوانند به اطلاعات دسترسی داشته باشند، آنها را بررسی کنند، درباره‌شان بیندیشند، باور خود را شکل دهند یا تغییر دهند و در صورت لزوم در برابر قدرت مقاومت کنند.

اگر اطلاعاتی که هر فرد می‌بیند به‌طور نامرئی توسط الگوریتم‌ها انتخاب شود، اگر سیستم‌های هوش مصنوعی بتوانند با شناخت دقیق مخاطبان بر آنها تأثیر بگذارند و اگر مالکیت این فناوری در دست شمار محدودی از شرکت‌ها یا دولت‌ها متمرکز شود، ساختار و توزیع قدرت در جامعه نیز می‌تواند تغییر کند.

پاپ لئو چهاردهم در سند Magnifica Humanitas از همین زاویه درباره هوش مصنوعی هشدار می‌دهد. در این سند بر محدودیت بنیادی سیستم‌های محاسباتی در برخورداری از تجربه و مسئولیت اخلاقی انسانی تأکید شده است. (۵) نگرانی مطرح‌شده فقط درباره «هوشمندشدن ماشین» نیست، بلکه به از دست رفتن عاملیت انسان، تمرکز قدرت، دستکاری اطلاعات، نقض حریم خصوصی و سپردن تصمیم‌های حساس زندگی به سیستم‌هایی مربوط می‌شود که مسئولیت اخلاقی انسانی ندارند.

در نهایت پرسش این است: آیا فناوری در خدمت انسان خواهد بود یا انسان به خدمت فناوری درخواهد آمد؟

این پرسش، فارغ از زمینه مذهبی یا غیرمذهبی آن، پرسشی سیاسی و اجتماعی نیز هست.

هوش مصنوعی و مسئولیت

با قدرتمندتر شدن هوش مصنوعی، مسئله مسئولیت نیز پیچیده‌تر می‌شود. اگر انسانی تصمیم اشتباهی بگیرد، دست‌کم می‌توان پرسید چه کسی تصمیم گرفته است. اما وقتی یک عامل هوش مصنوعی در فرایند تصمیم‌گیری و عمل دخالت دارد، مسئولیت ممکن است میان چند بازیگر تقسیم شود:

سازنده سیستم؟ شرکتی که آن را به کار گرفته است؟ کسی که به آن اجازه عمل داده؟ یا انسانی که در نهایت به توصیه ماشین اعتماد کرده است؟

درباره امکان اعطای نوعی جایگاه یا شخصیت حقوقی به سیستم‌های هوش مصنوعی نیز بحث‌هایی وجود دارد. اما حتی اگر روزی چنین جایگاهی تعریف شود، پرسش اصلی همچنان باقی می‌ماند:

چه کسی باید پاسخ‌گو باشد؟

نباید اجازه داد جمله «ماشین تصمیم گرفت» به راهی برای گریز انسان‌ها و نهادها از مسئولیت تبدیل شود.

اگر تصمیمی بر زندگی انسان‌ها اثر می‌گذارد، باید انسان یا نهادی وجود داشته باشد که بتوان آن را مورد سؤال قرار داد و پاسخ‌گو دانست. پاسخ‌گویی یکی از پایه‌های جامعه دموکراتیک است.

چه بر سر انسان خواهد آمد؟

در پایان این دو بخش، به نقطه‌ای بازمی‌گردیم که از آن شروع کردیم.

شاید روزی ماشین آگاه شود و شاید هرگز نشود. شاید بتواند چیزی را احساس یا تجربه کند و شاید فقط بتواند احساس و تجربه را به شکلی بسیار باورپذیر شبیه‌سازی کند.

حتی اگر این پرسش‌ها برای مدت طولانی بی‌پاسخ بمانند، مسئله اصلی همچنان باقی است: هوش مصنوعی می‌تواند بسیار قدرتمند شود. می‌تواند کار ما را تغییر دهد، رابطه ما با دانش را دگرگون کند، وارد صمیمی‌ترین بخش‌های زندگی‌مان شود و در برخی حوزه‌ها بخشی از تصمیم‌گیری و عمل را بر عهده بگیرد.

این فناوری می‌تواند در شرایطی به کاهش نابرابری کمک کند و در شرایطی دیگر آن را تشدید کند. می‌تواند ابزارهایی برای مشارکت و دسترسی بیشتر فراهم کند یا ظرفیت نظارت، دستکاری و تمرکز قدرت را افزایش دهد.

و شاید مهم‌تر از همه، می‌تواند رابطه ما با خودمان را تغییر دهد. ممکن است به ما کمک کند انسان‌های توانمندتری باشیم، یا آن‌قدر کارها را برای ما انجام دهد که به‌تدریج برخی توانایی‌های خود را کمتر به کار بگیریم. ممکن است ماشین در برخی حوزه‌ها تصمیم‌های بهتری پیشنهاد دهد و در همان حال، انسان کمتر به قضاوت خودش اعتماد کند یا حتی متوجه نباشد چه اندازه از یک تصمیم، حاصل قضاوت خودش بوده است.

در نهایت ممکن است با تناقضی روبه‌رو شویم:

ماشین‌ها هر روز هوشمندتر می‌شوند، اما انسان‌ها برای فکر کردن بیشتر و بیشتر به آنها وابسته می‌شوند.

این آینده قطعی نیست. مسیرهای دیگری نیز ممکن‌اند. فناوری به‌تنهایی تعیین نمی‌کند چه آینده‌ای ساخته خواهد شد. نهادهای سیاسی، قوانین، شرکت‌ها، پژوهشگران، نهادهای مدنی و خود شهروندان در تعیین این مسیر نقش دارند؛ یا به زبان عجم‌اوغلو، وجود همان قدرت‌های توازن‌ساز اهمیت پیدا می‌کند.

بنابراین سؤال اصلی این نیست که:

هوش مصنوعی خوب است یا بد؟

پرسش‌های مهم‌تر این‌ها هستند: چه نوع هوش مصنوعی می‌خواهیم؟ چه میزان قدرت و اختیار حاضریم به آن بدهیم؟ چه کسانی باید بر آن نظارت کنند؟ قدرت‌های توازن‌ساز تا چه اندازه توان اثرگذاری دارند؟ چه تصمیم‌هایی را نباید به ماشین واگذار کنیم؟ و اگر روزی ماشین بتواند بسیاری از کارهای انسان را بهتر انجام دهد، چه چیزهایی باید همچنان در اختیار خود انسان باقی بماند؟

مسئله آینده فقط این نیست که ماشین چه خواهد شد.

مسئله این است که در این مسیر، انسان چه خواهد شد؟

منابع و نوشته‌های مورد استفاده:

۱. International Monetary Fund (IMF)، گزارش‌ها و پژوهش‌های مربوط به تأثیر هوش مصنوعی بر بازار کار و اشتغال، ۲۰۲۶.
Goldman Sachs, “AI’s Impact on Jobs.”
World Economic Forum (WEF)، گزارش‌ها و برآوردهای مربوط به آینده مشاغل و تأثیر هوش مصنوعی بر بازار کار.

۲. Anthropic, “Labor Market Impacts of AI: A New Measure and Early Evidence,” 2026.

۳. Daron Acemoglu and Simon Johnson, Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, 2023.

۴. Yuval Noah Harari، گفت‌وگوها و سخنرانی‌ها درباره پیامدهای اجتماعی و سیاسی هوش مصنوعی، از جمله:
The Economist, “The Full-Length Interview with Yuval Noah Harari.”
Yuval Noah Harari, “AI Has Hacked the Code of Human Civilization.”

۵. Pope Leo XIV, Magnifica Humanitas, Vatican, May 2026.