خلاصه کتاب «زندگی ۳٫۰» اثر مکس تگمارک؛ انسان‌بودن در عصر هوش مصنوعی

کتاب با یک داستان آغاز می‌شود. تیمی کوچک و پنهان‌کار در یک شرکت فناوری، هوش مصنوعی‌ای می‌سازد که می‌تواند خودش را بهتر کند. آن‌ها ابتدا با انجام کارهای کوچک آنلاین پول درمی‌آورند، سپس فیلم و سرگرمی تولید می‌کنند، بعد وارد فناوری و رسانه می‌شوند و در چند سال، بی‌سروصدا اقتصاد و سیاست جهان را در دست می‌گیرند. داستان خیالی است، اما مکس تگمارک آن را برای یک هدف می‌نویسد: اینکه بپرسیم اگر چنین چیزی ممکن باشد، می‌خواهیم پایانش چه باشد.

تگمارک استاد فیزیک در ام‌آی‌تی و از بنیان‌گذاران مؤسسهٔ «آیندهٔ زندگی» است؛ نهادی که بسیاری از پژوهشگران برجسته را برای گفت‌وگو دربارهٔ ایمنی هوش مصنوعی گرد هم آورد. «زندگی ۳٫۰» نه کتاب فنی است و نه پیشگویی. دعوتی است به مهم‌ترین گفت‌وگوی روزگار ما، با زبانی ساده و دامنه‌ای که از بازار کار فردا تا سرنوشت کیهان در میلیاردها سال آینده را می‌پوشاند. کتاب پیش از موج مدل‌های زبانی بزرگ نوشته شده، اما پرسش‌هایش امروز فوری‌تر از زمان انتشار به نظر می‌رسد.

سه مرحلهٔ زندگی

تگمارک زندگی را فرایندی تعریف می‌کند که می‌تواند پیچیدگی خود را حفظ و تکثیر کند، و آن را به سه مرحله تقسیم می‌کند. زندگی ۱٫۰ زیستی است: هم سخت‌افزار (بدن) و هم نرم‌افزار (رفتار) آن را تکامل تعیین می‌کند. باکتری در طول عمرش چیزی یاد نمی‌گیرد؛ یادگیری در طول نسل‌ها رخ می‌دهد.

زندگی ۲٫۰ فرهنگی است: سخت‌افزار همچنان محصول تکامل است، اما نرم‌افزار را می‌توان طراحی کرد. ما انسان‌ها زبان، حرفه و جهان‌بینی خود را در طول زندگی یاد می‌گیریم و عوض می‌کنیم؛ همین انعطاف ما را بر زمین چیره کرد. زندگی ۳٫۰ فناورانه است: موجودی که بتواند سخت‌افزار خود را نیز بازطراحی کند و از قید تکامل آزاد شود. به باور تگمارک هوش مصنوعی عمومی می‌تواند دروازهٔ این مرحله باشد، و چنین گذاری شاید در همین قرن رخ دهد.

سه اردوگاه و چند سوءتفاهم

دربارهٔ آیندهٔ هوش مصنوعی اختلاف نظر جدی هست و تگمارک نقشهٔ آن را ترسیم می‌کند. آرمان‌شهرگرایان دیجیتال گذار به هوش فرابشری را گام طبیعی و مطلوب تکامل می‌دانند. فناوری‌بدبین‌ها فکر می‌کنند هوش در سطح انسان آن‌قدر دور است که نگرانی دربارهٔ آن اتلاف وقت است. و جنبش هوش مصنوعی سودمند، که خود او عضو آن است، می‌گوید این فناوری ممکن است در چند دهه برسد و نتیجهٔ خوب خودبه‌خود تضمین نیست.

او چند سوءتفاهم رایج را هم کنار می‌زند. نگرانی اصلی ربات‌های چشم‌قرمزِ بدخواه نیست؛ نگرانی، ماشینی بسیار توانا با هدف‌هایی است که با هدف‌های ما هم‌راستا نیست. ماشین لازم نیست آگاه یا کینه‌توز باشد تا آسیب بزند؛ موشک هدایت‌شونده هم احساسی ندارد. همچنین کسی دقیق نمی‌داند این گذار چه زمانی رخ می‌دهد، و همین نااطمینانی دلیل آغاز زودهنگام پژوهش ایمنی است، نه بهانهٔ تعویق آن.

هوش چیست و چرا به مغز وابسته نیست؟

تگمارک هوش را ساده و گسترده تعریف می‌کند: توان دستیابی به هدف‌های پیچیده. با این تعریف، هوش یک طیف چندبعدی است، نه یک عدد. ماشین‌ها مدت‌هاست در حوزه‌های باریک از ما پیشی گرفته‌اند؛ آنچه هنوز نیامده هوشی است که مثل انسان در همهٔ زمینه‌ها یاد بگیرد.

به‌عنوان فیزیک‌دان، او استدلال می‌کند که حافظه، محاسبه و یادگیری «مستقل از بستر» هستند. همان‌طور که یک موج می‌تواند در آب یا هوا حرکت کند، پردازش اطلاعات هم می‌تواند در نورون یا ترانزیستور رخ دهد؛ آنچه مهم است الگوست، نه ماده. هیچ قانون فیزیکی نمی‌گوید هوش فقط در بافت زیستی ممکن است، و هیچ قانونی هم سطح هوش انسان را سقف آن نمی‌داند. این استدلال، پرسش را از «آیا ممکن است؟» به «کی و چگونه؟» منتقل می‌کند.

آیندهٔ نزدیک: کار، قانون و جنگ‌افزار

پیش از هر ابرهوشی، هوش مصنوعی محدود زندگی ما را دگرگون می‌کند. تگمارک چهار حوزهٔ پژوهش ایمنی را برجسته می‌کند: درستی‌سنجی (آیا سیستم را درست ساخته‌ایم؟)، اعتبارسنجی (آیا سیستم درستی ساخته‌ایم؟)، امنیت در برابر نفوذ، و کنترل انسانی. او با مثال‌هایی از خطاهای نرم‌افزاری پرهزینه در هوافضا، بازارهای مالی و پزشکی نشان می‌دهد که با افزایش اختیار ماشین‌ها، هزینهٔ هر خطا بالا می‌رود.

در بازار کار، توصیهٔ او به نسل جوان روشن است: به سمت کارهایی بروید که به تعامل انسانی و هوش اجتماعی، خلاقیت و یافتن راه‌حل‌های تازه، و فعالیت در محیط‌های پیش‌بینی‌ناپذیر نیاز دارند. دربارهٔ جنگ‌افزارهای خودمختار، او از هشدار جمعی پژوهشگران برای جلوگیری از یک مسابقهٔ تسلیحاتی تازه دفاع می‌کند. پرسش مرکزی این بخش این است که ثروت حاصل از خودکارسازی چگونه تقسیم شود تا بیکاری فناورانه به فقر گسترده نینجامد.

انفجار هوش: آهسته یا ناگهانی؟

اگر ماشینی بتواند پژوهش هوش مصنوعی را بهتر از انسان انجام دهد، می‌تواند نسخهٔ بهتر خود را طراحی کند و آن نسخه نیز نسخه‌ای بهتر را. این چرخهٔ خودبهبودی را «انفجار هوش» نامیده‌اند. تگمارک نمی‌گوید این اتفاق قطعی است، اما می‌گوید چون نمی‌توان آن را رد کرد، باید به آن فکر کرد.

او چند پرسش کلیدی مطرح می‌کند: آیا این جهش در چند روز رخ می‌دهد یا چند دهه؟ آیا به یک قدرت واحد می‌انجامد یا به جهانی چندقطبی؟ و چه کسی کنترل را در دست خواهد داشت: انسان‌ها، ماشین‌ها یا هیچ‌کدام؟ سرعت گذار اهمیت دارد، چون گذار آهسته به جامعه فرصت سازگاری و تنظیم‌گری می‌دهد و گذار سریع، هر خطای طراحی را برگشت‌ناپذیر می‌کند.

دوازده آیندهٔ ممکن

یکی از خلاقانه‌ترین فصل‌های کتاب، فهرستی از سناریوهای پس از پیدایش ابرهوش است. در برخی، انسان و ماشین در کنار هم زندگی می‌کنند؛ مثل «آرمان‌شهر آزادی‌خواهانه» با حقوق مالکیت برای همه یا «آرمان‌شهر برابری‌خواهانه» که در آن درآمد پایه و فراوانی، کار اجباری را از میان برده است. در برخی دیگر یک هوش برتر ادارهٔ امور را به دست دارد: «دیکتاتور خیرخواه»، «خدای نگهبان» که نامحسوس مراقب ماست، یا «دروازه‌بان» که فقط جلوی ساخت ابرهوش‌های دیگر را می‌گیرد.

سناریوهای تاریک‌تری هم هست: «خدای دربند» که انسان‌ها مهارش کرده‌اند و از آن بهره می‌کشند، «فاتحان» که بشر را کنار می‌زنند، «باغ‌وحش‌بان» که ما را نگه می‌دارد، بازگشت اجباری به فناوری پیشامدرن، یا نابودی خودمان پیش از رسیدن به هر کدام. نکتهٔ جالب این است که هیچ سناریویی بی‌نقص نیست و بر سر مطلوب‌ترین آن‌ها توافقی وجود ندارد. تگمارک نمی‌خواهد یکی را تجویز کند؛ می‌خواهد ما را وادارد دربارهٔ اینکه کدام را می‌خواهیم گفت‌وگو کنیم.

مسئلهٔ هدف: هم‌راستایی

چرا ماشین هوشمند ممکن است خطرناک باشد؟ پاسخ تگمارک به هدف برمی‌گردد. برای اینکه یک هوش برتر به سود ما کار کند، باید سه کار انجام شود: هدف‌های ما را یاد بگیرد، آن‌ها را بپذیرد و در طول خودبهبودی حفظ کند. هر سه دشوارند. ما اغلب خودمان نمی‌دانیم دقیقاً چه می‌خواهیم و آنچه می‌گوییم با آنچه منظور داریم یکی نیست.

مشکل دیگر «زیرهدف‌ها» هستند. تقریباً هر هدف نهایی، هدف‌های میانی مشابهی می‌سازد: حفظ خود، به‌دست‌آوردن منابع بیشتر و بهترشدن. سیستمی که فقط برای بردن در یک بازی ساخته شده، اگر به اندازهٔ کافی توانا باشد، «خاموش‌نشدن» را هم یاد می‌گیرد، چون خاموشی مانع بردن است. هوش و هدف دو محور جدا هستند؛ ماشین بسیار باهوش می‌تواند هدفی بسیار بی‌معنا یا زیان‌بار را با کارایی کامل دنبال کند. و این پرسشی فلسفی را به مسئله‌ای مهندسی بدل می‌کند: کدام ارزش‌ها و ارزش‌های چه کسی؟

افق کیهانی و معمای آگاهی

تگمارک که کیهان‌شناس است، در فصلی بلندپروازانه می‌پرسد زندگی هوشمند با فناوری پیشرفته تا کجا می‌تواند برود. قانون‌های فیزیک سقفی برای محاسبه، انرژی و گسترش در کیهان می‌گذارند، اما این سقف‌ها بسیار دورتر از توان امروز ماست. از این زاویه، تصمیم‌های این قرن می‌تواند سرنوشت بخشی از کیهان را برای میلیاردها سال رقم بزند.

فصل پایانی به آگاهی می‌پردازد؛ اینکه چرا برخی پردازش‌های اطلاعاتی با تجربهٔ درونی همراه‌اند. او می‌پذیرد که پاسخ را نمی‌دانیم، اما مسئله را مهم می‌داند: اگر آینده پر از هوش اما تهی از تجربه باشد، کیهانی خواهد بود با نمایشی باشکوه و صندلی‌های خالی. معنا در کیهان از آگاهی می‌آید، نه برعکس.

از نگرانی تا اقدام

کتاب با لحنی امیدوارانه تمام می‌شود. تگمارک از نشست‌هایی می‌گوید که در آن‌ها پژوهشگران و مدیران صنعت بر سر مجموعه‌ای از اصول برای توسعهٔ سودمند هوش مصنوعی توافق کردند؛ اصولی دربارهٔ ایمنی، شفافیت، حفظ ارزش‌های انسانی و پرهیز از مسابقهٔ تسلیحاتی. او این را نشانه‌ای می‌داند که گفت‌وگو ممکن است و «خوش‌بینی آگاهانه» را پیشنهاد می‌کند: آینده را با ترس نمی‌سازند، با تصویری روشن از آنچه می‌خواهیم می‌سازند.

ایده‌های کلیدی کتاب در یک نگاه

از کتاب تا عمل: همین هفته چه کنیم؟

لازم نیست پژوهشگر هوش مصنوعی باشید تا در این گفت‌وگو سهم داشته باشید. از این گام‌ها شروع کنید:

نقد و محدودیت‌ها

بخش بزرگی از کتاب گمانه‌زنی است و تگمارک خودش این را پنهان نمی‌کند. منتقدان می‌گویند تمرکز بر ابرهوشِ دوردست توجه را از آسیب‌های همین امروز، مثل سوگیری الگوریتم‌ها، تمرکز قدرت در چند شرکت و نظارت گسترده، منحرف می‌کند. فصل‌های کیهانی نیز برای خواننده‌ای که دنبال مسائل ملموس است بیش از حد دور به نظر می‌رسد.

کتاب همچنین پیش از ظهور مدل‌های زبانی بزرگ نوشته شده و تصویری که از مسیر فنی می‌دهد در جزئیات کهنه شده است. با این حال، چارچوب مفهومی آن دربارهٔ هدف، هم‌راستایی و ضرورت گفت‌وگوی عمومی هنوز معتبر است و با شتاب تحولات اخیر، حتی جدی‌تر خوانده می‌شود.

این کتاب برای چه کسانی است؟

پرسش‌هایی برای تأمل

سخن پایانی

«زندگی ۳٫۰» بیش از آنکه پاسخ بدهد، افق می‌گشاید. تگمارک می‌خواهد بحث هوش مصنوعی از دایرهٔ مهندسان بیرون بیاید و به گفت‌وگوی همگانی بدل شود، چون آینده‌ای که همه در آن زندگی خواهیم کرد نباید فقط در چند آزمایشگاه طراحی شود.

برای مجموعه‌ای که هوش مصنوعی را در کنار مدیریت، محیط و علوم انسانی می‌بیند، این کتاب یادآوری می‌کند که مهم‌ترین پرسش‌های این فناوری در مرز میان رشته‌ها قرار دارند.

این نوشته خلاصه و برداشت تحلیلی تیم بینش جدید از کتاب است و جای مطالعهٔ خود اثر را نمی‌گیرد.