فن‌آوری و بازتولید نابرابری: نقدی بر قدرت نخبگان فن‌آوری

الی پارایزر نشان می‌دهد که فن‌آوری، به‌جای نیروی خنثی، بازتاب‌دهنده روابط قدرت و ارزش‌های نخبگان همگن سیلیکون‌ولی است. پارایزر خطر تمرکز قدرت در دستان گروهی محدود را برجسته می‌کند و از مهندسان می‌خواهد که فراتر از پروژه‌های تجاری، به حل مسائل اجتماعی مانند آموزش و محیط‌ زیست بپردازند. این گزارش نشان می‌دهد که الگوریتم‌های سوگیر، طراحی‌های نخبه‌محور، و مدل‌های نظارتی، تبعیض‌های نژادی، جنسیتی و اقتصادی را در کشورهایی مانند چین، هند، ایران و ترکیه نهادینه می‌کنند و نیاز به طراحی فراگیر و نظارت اخلاقی را ضروری می‌سازد.

بخش فرهنگ

مشخصات تصویر مشخصات تصویر

حباب فیلتر

۲۷ مرداد ۱۴۰۴

۵ دقیقه

حباب فیلتر (عکس: شاتراستاک)

فرازی از حباب فیلتر

نقص‌های فیس‌بوک و دیدگاه‌های ناپخته بنیان‌گذارش درباره هویت، نتیجه ذهنیتی ضداجتماعی یا انتقام‌جویانه نیست. به‌احتمال زیاد، این‌ها نتیجه طبیعی موقعیت عجیبی است که استارتاپ‌های موفقی مثل فیس‌بوک ایجاد می‌کنند؛ جایی که یک جوان بیست‌وچندساله در عرض پنج سال به مقامی می‌رسد که بر زندگی ۵۰۰ میلیون انسان تأثیر می‌گذارد. یک روز در حال ساختن قلعه شنی هستی و روز بعد، قلعه‌ات ۵۰ میلیارد دلار ارزش دارد و همه در جهان سهمی از آن می‌خواهند. البته، شخصیت‌های بسیار بدتری در دنیای کسب‌وکار وجود دارند که بتوان سرنوشت زندگی اجتماعی‌مان را به آن‌ها سپرد. گیک‌ها معمولاً با احترام به قوانین، افرادی اصول‌گرا هستند؛ آن‌ها قوانین خودساخته‌شان را با دقت انتخاب می‌کنند و حتی تحت فشار اجتماعی به آن‌ها پایبند می‌مانند. تری وینوگراد، استاد استنفورد، درباره شاگردان سابقش، پیج و برین، گفته بود: «آن‌ها دیدگاهی تا حدی بدبینانه به قدرت دارند. اگر ببینند دنیا به سمتی می‌رود که به نظرشان اشتباه است، به‌جای اینکه خودشان را زیر سؤال ببرند، معتقدند که بقیه دنیا اشتباه می‌کنند.» اما ویژگی‌هایی که بهترین استارتاپ‌ها را به جلو می‌برد، تهاجمی‌بودن، کمی تکبر، علاقه به امپراتوری‌سازی و البته مهارت‌های درخشان در سیستم‌سازی‌‌ست که اگر به حاکمیت جهان برسی، همین ویژگی‌ها مشکل‌ساز می‌شوند. مثل ستاره‌های موسیقی پاپ که ناگهان به صحنه جهانی پرتاب می‌شوند، مهندسان خلق‌کننده جهان همیشه آماده یا مایل به پذیرش مسئولیت عظیمی که با زنده‌شدن خلاقیت‌هایشان به دوششان می‌افتد، نیستند. اغلب، مهندسانی که عمیقاً به قدرت در دستان دیگران بدگمان‌اند، خود را عقلانی‌ترین افراد می‌بینند و فکر می‌کنند از تأثیرات قدرت مصون‌اند.

آنچه که پیش از این گفته شد:

اِلی پارایزر هشدار می‌دهد که الگوریتم‌های طراحی‌شده توسط برنامه‌نویسان و شرکت‌های فن‌آوری، حتی بدون نیت سیاسی، ممکن است تبعیض‌آمیز عمل کنند، مانند سوگیری‌های الگوریتم‌های تشخیص چهره یا سانسور دیجیتال در ایران که گروه‌های حاشیه‌ای را هدف قرار می‌دهد. نبود نظارت مؤثر، این الگوریتم‌ها را به ابزارهایی برای ترویج اعتیاد به شبکه‌های اجتماعی یا سرکوب گفتمان‌های مخالف تبدیل کرده است. چارچوب «عدالت الگوریتمی» با روش‌های کیفی و کمّی، مانند مصاحبه با جوامع محروم و تحلیل داده‌های دسترسی، نشان می‌دهد سانسور در ایران، مشابه محرومیت از آموزش، نابرابری‌های اجتماعی را تعمیق می‌کند. برای هدایت الگوریتم‌ها به سمت عدالت، پارایزر رویکردی چندسطحی پیشنهاد می‌کند: آزمون‌های سوگیری، شفافیت در تصمیم‌گیری الگوریتم‌ها، هیئت‌های اخلاق فن‌آوری، مقررات دولتی، و بازخورد مردمی. این چارچوب با تأکید بر روابط قدرت، ضرورت پاسخگویی برنامه‌نویسان و نظارت دموکراتیک بر فن‌آوری را برجسته می‌کند، هرچند در ایران، محدودیت‌های داده‌ای و فیلترینگ، اجرای آن را چالش‌برانگیز می‌سازد.

اکنون این بحث را ادامه می‌دهیم:

الی پارایزر به بررسی انگیزه‌های واقعی کارآفرینان فن‌آوری، به‌ویژه مارک زاکربرگ، و تناقض بین تصویر عمومی و واقعیت می‌پردازد. او از مصاحبه زاکربرگ در سال ۲۰۱۰ در مدرسه استارتاپ وای کامبینیتور[۱] شروع می‌کند. زاکربرگ در آنجا با رد روایت فیلم «شبکه اجتماعی» تأکید می‌کند که فیس‌بوک را نه برای جلب توجه یا پذیرش اجتماعی، بلکه به دلیل علاقه به ساختن خلق کرده است. پارایزر این اظهارنظر را صمیمی اما پیچیده می‌بیند و معتقد است که اگرچه انگیزه‌های شخصی مانند لذت ساختن می‌توانند محرک باشند، ویژگی‌هایی مثل جاه‌طلبی و تمایل به امپراتوری‌سازی که استارتاپ‌ها را موفق می‌کنند، وقتی این شرکت‌ها به قدرت عظیمی مانند فیس‌بوک تبدیل می‌شوند، مشکل‌ساز هم می‌شوند. او هشدار می‌دهد که قدرت بیش از حد در دستان گروه کوچکی از افراد جوان و همگن ممکن است به تصمیم‌گیری‌های غیرمسئولانه منجر شود، به‌ویژه وقتی این افراد، مانند زاکربرگ یا پیتر تیل، دیدگاه‌های سیاسی و اجتماعی غیرمتعارفی دارند.

انگیزه‌های کارآفرینان فن‌آوری: از خلاقیت تا امپراتوری‌سازی

پارایزر سپس بر پیتر تیل، یکی از سرمایه‌گذاران اولیه فیس‌بوک و مربی زاکربرگ، تمرکز می‌کند و دیدگاه‌های عجیب او را به‌عنوان نمونه‌ای از خطر تمرکز قدرت در دستان نخبگان فن‌آوری بررسی می‌کند. تیل، با پیشینه‌ای در شطرنج و مطالعه آثاری چون «مجمع‌الجزایر گولاگ» و «ارباب حلقه‌ها»، به آزادی‌خواهی تبدیل شده که دموکراسی را با آزادی ناسازگار می‌داند. او ایده‌هایی مانند «دریاسازی» (ساخت جوامع شناور در اقیانوس)، اکتشاف فضایی، و آماده‌سازی برای تکینگی (ادغام انسان و ماشین) را دنبال می‌کند و حتی از پایان دادن به «مرگ و مالیات» سخن می‌گوید. پارایزر استدلال می‌کند که چنین دیدگاه‌های غیرمتعارفی، وقتی در دست فردی با نفوذ تیل باشد، می‌توانند تأثیرات گسترده‌ای بر جامعه داشته باشند، به‌ویژه چون او در هیئت مدیره فیس‌بوک حضور دارد. این فصل بر این نکته تأکید می‌کند که فن‌آوری به خودی خود خنثی نیست و جهت‌گیری آن به تصمیمات افرادی بستگی دارد که آن را هدایت می‌کنند.

پارایزر آنگاه به نقش مهندسان و برنامه‌نویسان در شکل‌دهی آینده اینترنت و جامعه می‌پردازد و از آن‌ها می‌خواهد که فراتر از منافع تجاری، به تأثیرات اجتماعی فن‌آوری فکر کنند. او با معرفی اسکات هیفرمن، بنیان‌گذار MeetUp.com، نشان می‌دهد که چگونه برخی کارآفرینان فن‌آوری به دنبال تقویت پیوندهای اجتماعی و بازسازی حس جامعه هستند. هیفرمن، پس از تجربه حملات ۱۱ سپتامبر و مطالعه کتاب «تنها بولینگ بازی کردن»، تصمیم گرفت از فن‌آوری برای گردهم‌آوردن مردم در دنیای واقعی استفاده کند. بااین‌حال، پارایزر اشاره می‌کند که بسیاری از مهندسان فن‌آوری ترجیح می‌دهند روی پروژه‌های «باحال» اما کم‌اهمیت مانند اپلیکیشن‌های سرگرم‌کننده تمرکز کنند تا مسائل بزرگ اجتماعی مثل آموزش یا محیط‌ زیست. او با استناد به قانون کرنزبرگ[۲] که می‌گوید فن‌آوری نه خوب است، نه بد، و نه خنثی، تأکید می‌کند که برنامه‌نویسان باید آگاهانه انتخاب کنند که از مهارت‌هایشان برای حل مشکلات واقعی و تقویت شهروندی آگاه و متعهد استفاده کنند، نه صرفاً برای سود یا سرگرمی.

مسئولیت مهندسان: فن‌آوری در خدمت جامعه یا بازار؟

این بحث به نظریه‌های قدرت و نخبه‌گرایی گره می‌خورد. پارایزر با اشاره به تمرکز قدرت در دستان گروهی همگن (مثل تیل و زاکربرگ)، از مارپیچ سکوت نخبگان فن‌آوری سخن می‌گوید که در آن دیدگاه‌های اقلیت به حاشیه رانده می‌شوند. این پدیده بازتاب ساختارهای نهادی سیلیکون‌ولی است که با تقدس‌بخشیدن به ارزش‌هایی مانند «اخلال‌گری» و «رشد سریع»، مسئولیت اجتماعی را کمرنگ می‌کنند. همچنین، تقابل بین پروژه‌های «سرگرم‌کننده» و راه‌حل‌های اجتماعی، نمونه‌ای از کالایی‌شدن فن‌آوری است که در آن نیازهای بازار بر نیازهای جامعه اولویت می‌یابد. پارایزر با استناد به قانون کرنزبرگ، بر جامعه‌پذیری حرفه‌ای مهندسان تأکید می‌کند - فرآیندی که در آن آموزش و فرهنگ صنعت، آن‌ها را به سمت بی‌تفاوتی نسبت به تأثیرات اجتماعی سوق می‌دهد. این تحلیل نشان می‌دهد که فناوری نه یک نیروی خودمختار، بلکه محصول روابط قدرت و ارزش‌های مسلط در درون اکوسیستم‌های خاص است.

تحلیل پارایزر و دیگر منتقدان فن‌آوری (مانند سافیا نوبل در کتاب «الگوریتم‌های ستمگر») نشان می‌دهد که فن‌آوری با بازتولید روابط قدرت موجود، تبعیض‌های اجتماعی را نهادینه می‌کند. این فرآیند از سه مسیر اصلی صورت می‌گیرد:

نخست الگوریتم‌ها با آموزش بر روی داده‌های تاریخی، سوگیری‌های ساختاری (مانند نژادپرستی یا جنسیت‌زدگی) را در خود جاسازی می‌کنند. دوم: طراحی پلتفرم‌ها توسط گروه‌های همگن نخبه (عمدتاً سفیدپوست، مرد، و از طبقه‌ی مرفه) باعث می‌شود نیازها و ارزش‌های جوامع حاشیه‌نشین نادیده گرفته شود و سرانجام مدل‌های تجاری مبتنی بر نظارت و شخصی‌سازی، نابرابری‌های دسترسی به اطلاعات و فرصت‌ها را تشدید می‌کنند. برای مثال، الگوریتم‌های تشخیص چهره که در شناسایی افراد رنگین‌پوست دقت کمتری دارند، یا سیستم‌های استخدام خودکار که زنان را فیلتر می‌کنند، نمونه‌هایی از نهادینه‌شدن تبعیض از طریق «بی‌طرفی ظاهری» فن‌آوری هستند. این پدیده نیازمند بازنگری رادیکال در طراحی، حکمرانی و مالکیت فن‌آوری است.

پانویس:

[۱] وای کامبینیتور (Y Combinator) یک شتاب‌دهنده استارتاپ در سیلیکون ولی است که از سال ۲۰۰۵ با سرمایه‌گذاری اولیه و مشاوره، به استارتاپ‌های نوپا کمک می‌کند تا رشد کنند. شرکت‌های معروفی مانند Airbnb و Dropbox از این برنامه فارغ‌التحصیل شده‌اند.

[۲] قانون کرنزبرگ (Kranzberg's Law) بیان می‌کند که فن‌آوری ذاتاً نه خوب است و نه بد، بلکه اثرات آن به نحوه استفاده و زمینه اجتماعی بستگی دارد. این قانون توسط ملوین کرنزبرگ در سال ۱۹۸۶ ارائه شد و بر اهمیت تحلیل تأثیرات فناوری تأکید دارد.