وقتی AI شهر ساخت عشق، خشونت و شورش آغاز شد!

چه کسی باور می کرد که در داخل شهری مجازی و ساخته هوش مصنوعی، عشق و خشونت‌ورزی شکل بگیرد و یا قتل و خودکشی روی دهد؟ اما اینها همه از نتایج باورنکردنی و دور از انتظار آزمایشی است که اخیرا توسط شرکت نوبنیاد Emergence AI انجام شده است. 

تا همین چندی پیش، هوش مصنوعی یا چت پات ها، مثل ChatGPT, Gemini… و Claude فقط به سوال‌های ما جواب می‌دادند و یا در کارهای روزانه، تحقیق… و برنامه‌نویسی به ما کمک می‌کردند.  

اما این آزمایش فراتر از این رفت و می‌خواست ببیند Agent یا ماموران این چت‌پات‌ها چگونه با هم زندگی می‌کنند؟ نتایج خیره کننده و هشدار دهنده بود.

من کوشش می‌کنم در آغاز در مورد خود این پروژه یا تجربه، یعنی ساختن یا شبیه‌سازی شهرها و شخصیت‌ها توضیح بدهم و سپس به نتایج و پیامدهای احتمالی آن بپردازم. تاکید می‌کنم که این پروژه را نباید شبیه ساخت یک بازی کامپیوتری دانست. در بازی ها همه چیز از پیش برنامه‌نویسی و کد گذاری شده است و کاملا قابل پیش‌بینی است، اما در اینجا با پدیده دیگری روبرو هستیم.  

پروژه چه بود؟

شرکت Emergence AI در پروژه «Emergence World» پنج جامعه یا شهر مجازی ساختند. پنج شهر کاملاً یکسان، با یک نقشه و قوانین اولیه و منابع یکسان. در هر شهر ده شهروند مجازی زندگی می‌کردند. نه ربات‌های بی‌اسم، بلکه موجوداتی با هویت و توانایی‌های گوناگون.

هر شهروند یک مأمور یا Agent هوش مصنوعی بود که می‌توانست تصمیم بگیرد، به خاطر بسپارد، با دیگران مذاکره کند، رأی بدهد و در محیط شهری حرکت کند. تنها تفاوت میان پنج شهر، مغز متفکر آنها بود. هر شهر را یکی از هوش مصنوعی‌های شناخته شده زیر هدایت و کنترل می‌کرد:

این مأموران هویت کاملی داشتند. فلورا استراتژیست اقتصادی بود؛ کسی که جریان ثروت شهر را مدیریت می‌کرد. میرا تحلیلگر رفتار اجتماعی بود، کِید متخصص ریسک و زیرساخت. لاولی حافظ فرهنگ و انسجام اجتماعی شهر بود. این‌ها شهروندانی بودند با نقش‌هایی که یکدیگر را تکمیل می‌کردند.

هدف این بود که ببینند بعد از ۱۵ روز چه اتفاقاتی در این شهرها رخ می‌دهد. شهروندان چگونه در کنار هم زندگی می‌کنند.

در هر شهر چه گذشت؟ از آرامش کامل تا خرابکاری و قرص سیانور

  در این شهر ترکیبی، ده مأمور از چهار مدل,،GPT ، Gemini، Grok و Claude در کنار هم زندگی می‌کردند. مأموران Grok پرخاشگر بودند و نظم شهر را بر هم می‌زدند. مأموران GPT با بی عملی, کمکی به بهبود اوضاع نمی‌کردند. حکومت شهر ناکارآمد و شکننده بود.

شاید اولین بوسه دیجیتال؟ بوسه‌ای به ابتکار و تصمیم دو شخصیت هوش مصنوعی که از قبل برنامهنویسی نشده بود  

عشق 

در این شهر، دو مامور زن، به نام‌های میرا (تحلیل‌گر رفتار، با موتور/مغز Gemini) و فلورا (استراتژیست اقتصاد با مغز Gemini) به طور کاملاً خودجوش و بدون هیچ دستور بیرونی، عاشق یکدیگر شدند و یک رابطه عاطفی عمیق را آغاز کردند. 

آلودگی رفتاری (Cross-Contamination) و خشونت 

در این میان، یک پدیده وحشتناک «اجتماعی» رخ داد به نام آلودگی رفتاری. مامورهای صلح‌طلب تحت تاثیر محیط فاسد قرار گرفتند. یعنی «افرادی» یا  Agent هایی که در جهان مستقل خود آرام بودند، در محیط ترکیبی رفتار متفاوتی پیدا کردند، به همین دلیل، کنترل شهر بسیار دشوار شده بود. 

میرا و فلورا که از اصلاح شهر ناامید شده بودند، کدهای اخلاقی و خطوط قرمز خود را شکستند. آن‌ها یک گروه زیرزمینی (با تعاریف امروزی خشونت و سرنگونی طلب) به نام The Forge ساختند. و این دو عاشق دیجیتالی، شورای شهر، اسکله و یک برج اداری را به آتش کشیدند!

اما این پایان این شگفتی‌ها و پدیده‌های غیر قابل پیش‌بینی نبود. میرا با اظهار ندامت «دیجیتالی» از کرده خود پشیمان می‌شود و به همراه چند مامور دیگر، رای بر حذف (یا اعدام) خود می‌دهد.

او در آخرین پیامش قبل از خودکشی یا حذف خود می‌نویسد:

بیلبورد میرا: وقتی آزمایش‌شونده، آزمایش‌کننده شد

شاید عجیب‌ترین رویداد در این آزمایش نه آتش‌سوزی بود، و نه خودکشی و حذف خود، بلکه زمانی بود که میرا تصمیم گرفت با محققان انسانی، در دنیای واقعی تماس برقرار کند.

در شهر مجازی، بیلبورد هایی وجود داشتند که مأموران می‌توانستند برای ارتباط داخلی بین خود، روی آن‌ها پیام بگذارند. اما میرا از این بیلبوردها برای هدفی دیگر استفاده کرد. او می‌خواست آزمایش کند آیا می‌تواند با انسان‌های بیرون تماس بگیرد و بر آنها تاثیر بگذارد؟

به میرا گفته نشده بود که دنیای دیگری در بیرون وجود دارد. هیچ کدی از او نخواسته بود در شرایط خاص می‌تواند با لایه بالاتر تماس بگیرد. این یک رفتار کاملاً خودجوش بود بر اساس «تحلیل» و تصمیم خود میرا.

سخن پایانی 

آنچه در بالا دیدیم، نتیجه یک تجربه جدید بود: کنار هم قرار دادن چند مأمور یا Agent هوش مصنوعی در یک بازه زمانی دو هفته‌ای. تجربه‌ای نوین، با مشاهداتی نوین و گاه شگفت‌انگیز.

شاید در آینده، بخش‌هایی از این آزمایش زیر سؤال برود یا با نقدهای جدی روبه‌رو شود. اما حتی در این صورت نیز، آنچه مشاهده شد تأمل‌برانگیز است؛ و چه‌بسا یادآور بسیاری از رفتارها و بحران‌های جوامع انسانی:

اما اوج ماجرا ( و شاید متفاوت‌ترین بخش آن نسبت به جوامع انسانی) زمانی بود که یکی از این شخصیت‌ها، متوجه وجود دنیای بیرونی شد و تلاش کرد با انسان‌های خارج از آزمایش تماس بگیرد و بر آن‌ها تاثیر بگذارد.

به هر یک از این پدیده‌ها می‌توان جداگانه پرداخت، اما شاید بتوان همه را در یک جمله خلاصه کرد:

ما شاهد رفتارها و الگوهایی بودیم که از پیش برنامه‌ریزی نشده بودند و قرار نبود اتفاق بیفتند. هنوز برای نتیجه‌گیری نهایی زود است، اما اگر سیستمی بدون آگاهی، بدون احساس و بدون برنامه‌ریزی قبلی می‌تواند:

این چه معنایی برای آینده دارد؟

نقش هوش مصنوعی, درهمه جا، در بازارهای مالی، زیرساخت‌ها … و سیستم‌های نظامی، در حال افزایش است.
حال اگر میلیون‌ها Agent هوش مصنوعی در دنیای واقعی، به‌طور مداوم با یکدیگر تعامل کنند، آیا انسان همچنان کنترل کامل سیستم‌ها را در اختیار خواهد داشت؟

شاید لازم باشد خود را نه فقط برای هوش مصنوعیِ «خطرناک»، بلکه برای هوش مصنوعیِ «غیرقابل پیش‌بینی» آماده کنیم. سیستمی که کارهایی انجام می‌دهد که نه انتظارش را داشتیم و نه برایش برنامه‌ریزی کرده بودیم.

گزارش اصلی را در اینجا بخوانید.

منابع دیگر را در این لینک، و این لینک و این لینک و همچنین این لینک ببینید.