از خلق دیجیتال تا سانسور اجتماعی: قدرت و مسئولیت الگوریتم‌ها در شکل‌دهی به جهان

آنچه که پیش از این گفته شد:

اِلی پارایزر توضیح می‌دهد که تبلیغات سیاسی شخصی‌سازی‌شده، با تمرکز بر افراد خاص مانند رأی‌دهندگان مردد، به «کمپین‌های نامرئی» منجر شده که برخی افراد اصلاً متوجه آن‌ها نمی‌شوند، زیرا محتوای سیاسی برایشان فیلتر می‌شود. این روند، همراه با گرایش به ابراز هویت فردی، باعث تکه‌تکه شدن جامعه و دشواری گفت‌وگوی عمومی شده است. از دیدگاه میشل فوکو، این کمپین‌ها با استفاده از الگوریتم‌های داده‌محور، رفتارها و باورهای افراد را به‌صورت نامحسوس شکل می‌دهند و مانند یک سیستم نظارتی، آن‌ها را کنترل می‌کنند. این الگوریتم‌ها با تولید محتوای سفارشی، «حقیقت»‌هایی را طبیعی جلوه می‌دهند که با منافع قدرت همسو است و در کشورهایی مانند ایران، با ترکیب سانسور و شخصی‌سازی، روایت‌های رسمی را تقویت می‌کنند. سانشتاین نیز هشدار می‌دهد که این شخصی‌سازی، با محبوس کردن افراد در «اتاق‌های پژواک» و کاهش مواجهه با دیدگاه‌های مخالف، دموکراسی را تضعیف می‌کند. اولریش بک هم معتقد است که این روند، سیاست را به انتخاب‌های فردی تبدیل کرده و با تکه‌تکه کردن جامعه، توانایی جمعی برای حل مسائل بزرگ را کاهش می‌دهد. در ایران، این الگوریتم‌ها با تقویت کنترل نامحسوس و پراکنده کردن مخالفت‌ها، می‌توانند مهندسی انتخابات را آسان‌تر کنند.

اکنون این بحث را پی می‌گیریم:

اِلی پارایزر بر آن است که انگیزه خلق جهان‌های جدید در برنامه‌نویسی، که با برنامه ساده «سلام، جهان!»[۱] آغاز می‌شود، ریشه در تکانه‌ای خداگونه برای خلق و کنترل دارد. این انگیزه، که از آرمان‌های آینده‌نگرانه‌ای مانند دیدگاه استوارت برند الهام گرفته، برنامه‌نویسان را به ساختن جهان‌های دیجیتال با قوانین خودشان سوق می‌دهد، چنان که می‌توانند از محدودیت‌های اجتماعی و سیاسی دنیای واقعی فرار کنند. با این حال، پارایزر اشاره می‌کند که وقتی این جهان‌های دست‌ساز با حضور دیگران پیچیده می‌شوند، برنامه‌نویسان با چالش‌هایی مواجه می‌شوند که نیازمند قضاوت و اداره است ـ نقشی سیاسی که اغلب با دیدگاه آنها از برنامه‌نویسی به‌عنوان قلمرویی خالص و غیرسیاسی در تضاد است.

پارایزر استدلال می‌کند که برنامه‌نویسی برای افرادی که از نظر اجتماعی طرد شده‌اند، به‌ویژه گیک‌هایی [۲]که در دنیای منظم و قابل‌کنترل سیستم‌های نمادین آرامش می‌یابند، راهی قدرتمند برای فرار و توانمندسازی فراهم می‌کند. برخلاف سلسله‌مراتب آشوبناک اجتماعی دبیرستان یا پیچیدگی تعاملات انسانی، کد صفحه‌ای سفید ارائه می‌دهد که در آن زیرکی حاکم است و نظام‌مندسازی کنترل و تسلط را به ارمغان می‌آورد. این «امپراتوری زیرکی» منطق، کارایی و راه‌حل‌های داده‌محور را بر جذابیت یا سبک اولویت می‌دهد و خرده‌فرهنگ‌های متنوع گیکی، از طرفداران نرم‌افزارهای متن‌باز تا ترول‌های شیطان‌صفت را پرورش می‌دهد که با روش مشترکی برای اعمال قدرت از طریق مهارت فنی متحد شده‌اند. با این حال، پارایزر هشدار می‌دهد که وابستگی بیش از حد به نظام‌مندسازی ممکن است تجربیات پیچیده انسانی را به متغیرهای صرف تقلیل دهد و برنامه‌نویسان را از واقعیت‌های ظریف زندگی اجتماعی جدا کند.

رابرت موزس (۱۸۸۸-۱۹۸۱) یکی از تأثیرگذارترین برنامه‌ریزان شهری قرن بیستم در ایالات متحده بود که به‌عنوان «معمار بزرگ» نیویورک شناخته می‌شود. او در طول چندین دهه، پروژه‌های عظیم زیرساختی مانند پل‌ها، بزرگراه‌ها، پارک‌ها و سواحل عمومی، از جمله پارک‌وی وانتاه و جونز بیچ، را طراحی و اجرا کرد. موزس، که از دوستان سیاستمداران برجسته بود، با استفاده از قدرت و نفوذ خود، چشم‌اندازی نخبه‌گرایانه را پیش برد که اغلب به نفع خانواده‌های سفیدپوست طبقه متوسط بود. به گفته رابرت آ. کارو، زندگینامه‌نویس او، موزس با طراحی پل‌های کوتاه در برخی مسیرها، دسترسی اقشار کم‌درآمد، به‌ویژه سیاه‌پوستان، را که به اتوبوس‌های عمومی وابسته بودند، محدود کرد و بدین ترتیب نابرابری اجتماعی را در ساختارهای شهری تثبیت کرد.

پارایزر به قدرت سیاسی عمیقی که در طراحی فن‌آوری نهفته است اشاره می‌کند و برنامه‌نویسان امروزی را به برنامه‌ریزان شهری مانند رابرت موزس تشبیه می‌کند که با پل‌های کوتاه خود به‌طور غیرمستقیم تبعیض اجتماعی را اعمال کرد.

در فضای سایبری، الگوریتم‌ها و کدها به‌عنوان «قانون» عمل می‌کنند و رفتار و دسترسی را با اجرایی فوری و بی‌رحمانه شکل می‌دهند، اغلب بدون نظارت حاکمیت سنتی. پارایزر با استناد به کارهای لنگدون وینر[۳] تأکید می‌کند که تصمیم‌های طراحی در پلتفرم‌هایی مانند گوگل و فیسبوک، آگاهانه یا ناآگاهانه، پیامدهای سیاسی دارند و بر نحوه تعامل، ارتباط و مصرف مردم تأثیر می‌گذارند. گرچه برنامه‌نویسان ممکن است همیشه قصد شکل‌دهی به جامعه را نداشته باشند، خلاقیت‌هایشان ناگزیر این کار را انجام می‌دهند و مسئولیت عظیمی را که به‌عنوان معماران محیط‌های دیجیتالی حاکم بر زندگی میلیاردها نفر بر عهده دارند، برجسته می‌کند.

پارایزر از تمایل رهبران فن‌آوری به فرار از مسئولیت‌های اخلاقی و سیاسی خلاقیت‌هایشان انتقاد می‌کند، کسانی که بین ادعاهای بزرگ انقلابی اجتماعی و بی‌طرفی غیرصادقانه در نوسان‌اند. شرکت‌هایی مانند گوگل و فیسبوک مأموریت‌هایی برای دموکراتیزه کردن دانش یا اتصال جهان تبلیغ می‌کنند، اما رهبرانشان اغلب با ارائه پلتفرم‌هایشان به‌عنوان ابزارهای خنثی یا نتایج اجتناب‌ناپذیر پیشرفت فن‌آوری، از پاسخگویی طفره می‌روند. پارایزر این دیدگاه فن‌آوری‌محور را به چالش می‌کشد که با پیشنهاد اینکه فن‌آوری مسیری خودمختار را دنبال می‌کند، برنامه‌نویسان را از مسئولیت معاف می‌کند. او استدلال می‌کند که این تناقض ـ ستایش پتانسیل تغییر جهان در حالی که از پیامدها شانه خالی می‌کنند ـ تعهدات اخلاقی غول‌های فن‌آوری را تضعیف می‌کند، غول‌هایی که انتخاب‌های طراحی‌شان تأثیرات عمیقی بر جامعه دارند، از فرسایش حریم خصوصی تا اولویت‌بندی برخی اطلاعات بر دیگران.

هشدار اصلی و جانمایه سخن پارایز این است که الگوریتم‌ها به‌عنوان «قانون» دیجیتال، قدرتی نامرئی اما عمیق در شکل‌دهی به رفتارها و دسترسی‌ها در دنیای سایبری دارند. این کدها، که توسط برنامه‌نویسان و شرکت‌های فن‌آوری طراحی می‌شوند، بدون نیاز به فرآیندهای دموکراتیک یا شفافیت، قواعدی را تعیین می‌کنند که می‌توانند پیامدهای اجتماعی گسترده‌ای از سانسور خودکار محتوا گرفته تا اولویت‌بندی برخی اطلاعات بر دیگران داشته باشند. این انتقال قدرت از نهادهای سنتی مانند دولت‌ها به بازیگران فن‌آوری، پرسش‌هایی جدی درباره خنثی بودن فن‌آوری مطرح می‌کند. برای مثال، طراحی رابط کاربری یا پیش‌فرض‌های حریم خصوصی در پلتفرم‌هایی مانند فیسبوک می‌تواند به تقویت قطبی‌سازی سیاسی یا تضعیف دموکراسی منجر شود، حتی اگر این نتایج به‌صورت عمدی دنبال نشده باشند.

لنگدون وینر و دیگر متفکران انتقادی فن‌آوری استدلال می‌کنند که فن‌آوری به‌ظاهر خنثی، در واقع بازتابی از ارزش‌ها، پیش‌فرض‌ها و منافع سازندگان آن است و به‌صورت ناخودآگاه یا آگاهانه، ساختارهای قدرت موجود را تقویت یا تضعیف می‌کند. طراحی الگوریتم‌ها، معماری پلتفرم‌ها و حتی انتخاب‌های فنی مانند پیش‌فرض‌های حریم خصوصی، همگی دارای بار سیاسی هستند؛ چراکه نحوه تعامل، دسترسی به اطلاعات و شکل‌گیری گفتمان عمومی را تعیین می‌کنند. برای مثال، الگوریتم‌های شبکه‌های اجتماعی که برای حداکثر تعامل طراحی شده‌اند، اغلب محتوای قطبی‌کننده را تقویت می‌کنند و بدین‌ترتیب به‌صورت غیرمستقیم بر افکار عمومی و حتی نتایج انتخابات تأثیر می‌گذارند. از این منظر، فن‌آوری نه‌تنها ابزاری بی‌طرف نیست، بلکه عاملی فعال در بازتولید هنجارهای اجتماعی، تبعیض‌های ساختاری و روابط قدرت است. این دیدگاه بر مسئولیت اخلاقی طراحان و ضرورت شفافیت، پاسخگویی و نظارت دموکراتیک بر نظام‌های دیجیتال تأکید می‌کند.

پانویس:

[۱] برنامه «سلام، جهان!» (Hello, World!) به‌عنوان یک نمونه کد اولیه در آموزش برنامه‌نویسی شناخته می‌شود که اولین بار در کتاب The C Programming Language (1978) نوشته برایان کرنیگان و دنیس ریچی معرفی شد. اِلی پارایزر در فیلتر حباب (منتشرشده در ۲۰۱۱ با عنوان The Filter Bubble: What the Internet Is Hiding from You) این برنامه را به‌عنوان نمادی از انگیزه خلاقانه و خداگونه برنامه‌نویسان برای خلق و کنترل جهان‌های دیجیتال توصیف می‌کند.

[۲] واژه «گیک» (Geek) به‌طور کلی به فردی اشاره دارد که علاقه‌مندی عمیق و تخصصی به حوزه‌های فن‌آوری، کامپیوتر، برنامه‌نویسی، یا فرهنگ‌های مرتبط با علوم تخیلی و بازی‌های دیجیتال دارد. این اصطلاح در متون مختلف به‌کار رفته است، اما در اینجا به منبعی مرتبط با فرهنگ دیجیتال اشاره می‌شود:

[۳] Winner, Langdon. The Whale and the Reactor: A Search for Limits in an Age of High Technology. Chicago: University of Chicago Press, 1986.