خلاصه کتاب «موج آینده» اثر مصطفی سلیمان؛ هوش مصنوعی، زیست‌فناوری و مسئلهٔ مهار

هشدار دربارهٔ خطر یک فناوری وقتی شنیدنی‌تر می‌شود که از زبان سازندهٔ آن باشد. مصطفی سلیمان از بنیان‌گذاران دیپ‌مایند است، یکی از آزمایشگاه‌هایی که مسیر هوش مصنوعی نوین را شکل داد. او در «موج آینده» که با همکاری مایکل باسکار نوشته، از درون صنعت می‌گوید که آنچه در راه است از تصور بیشتر مردم و سیاست‌مداران بزرگ‌تر است، و مهم‌ترین پرسش قرن ما این است که آیا می‌توانیم آن را مهار کنیم.

به باور او این موج دو قله دارد: هوش مصنوعی و زیست‌شناسی مصنوعی. یکی مهندسی هوش است و دیگری مهندسی حیات؛ دو بنیاد جهانی که می‌شناسیم. کتاب نه تبلیغ فناوری است و نه نفی آن. سلیمان هم به منافع عظیم آن باور دارد و هم نگران پیامدهایش است، و می‌کوشد مسیر باریکی میان فاجعه و خفقان پیدا کند. برای مدیران، سیاست‌گذاران و هر کسی که می‌خواهد تصویر بزرگ این تحول را ببیند، این کتاب روایتی روشن و دست‌اول است.

منطق موج‌ها: تکثیر، قاعده است

سلیمان تاریخ را به شکل رشته‌ای از موج‌های فناوری می‌بیند: آتش، کشاورزی، چاپ، موتور بخار، برق، رایانه. هر موج از فناوری‌های همه‌منظوره ساخته شده که ارزان‌تر و بهتر می‌شوند و به همه‌جا می‌رسند. وقتی موتور درون‌سوز ساخته شد، در چند دهه میلیاردها دستگاه در جهان پخش شد و شکل شهرها، جنگ‌ها و اقلیم را عوض کرد.

الگو همیشه یکی است: تقاضا بالا می‌رود، هزینه پایین می‌آید، و فناوری پخش می‌شود. تلاش‌ها برای جلوگیری تقریباً همیشه شکست خورده‌اند؛ از امپراتوری‌هایی که چاپ را ممنوع کردند تا کارگرانی که ماشین‌های نساجی را شکستند. تنها استثنای نسبی، جنگ‌افزار هسته‌ای است که بسیار گران، دشوار و آشکارا هولناک بود. سلیمان می‌گوید موج تازه هیچ‌کدام از این سه ویژگی بازدارنده را ندارد.

مسئلهٔ مهار

مفهوم محوری کتاب «مهار» است: توان کنترل، محدودکردن و در صورت لزوم متوقف‌کردن یک فناوری در هر مرحله از توسعه و به‌کارگیری آن. مهار فقط قانون نیست؛ مجموعه‌ای به‌هم‌پیوسته از سازوکارهای فنی، فرهنگی، حقوقی و سیاسی است.

سلیمان به یک مانع روانی هم اشاره می‌کند که آن را «گریز از بدبینی» می‌نامد: گرایش نخبگان به نادیده‌گرفتن روایت‌هایی که بیش از حد تاریک به نظر می‌رسند. او می‌گوید بارها در جمع مدیران و سیاست‌مداران هشدار داده و واکنش، سر تکان‌دادن مؤدبانه و بازگشت به کار روزمره بوده است. مهار از جایی آغاز می‌شود که بپذیریم مسئله واقعی است و راه‌حل آسانی ندارد.

دو قلهٔ موج: هوش و حیات

در بخش فناوری، سلیمان مسیر هوش مصنوعی را از پیروزی ماشین در بازی‌های پیچیده تا مدل‌های زبانی بزرگ مرور می‌کند و می‌گوید مرحلهٔ بعد، سیستم‌هایی است که فقط حرف نمی‌زنند بلکه کار انجام می‌دهند. او برای سنجش این مرحله آزمونی عملی پیشنهاد می‌کند: آیا سیستمی می‌تواند با سرمایه‌ای محدود و کمترین نظارت، یک کسب‌وکار اینترنتی راه بیندازد و آن را سودآور کند؟ او این سطح را «هوش مصنوعی توانمند» می‌نامد و آن را نزدیک‌تر از هوش عمومی می‌داند.

قلهٔ دوم زیست‌شناسی مصنوعی است. هزینهٔ خواندن ژنوم انسان در دو دهه از میلیاردها دلار به چند صد دلار رسیده و ابزارهای ویرایش و ساخت دی‌ان‌ای در حال رسیدن به آزمایشگاه‌های کوچک‌اند. این یعنی داروها، مواد و محصولات کشاورزی تازه، و هم‌زمان خطر ساخت عوامل بیماری‌زا. این دو فناوری با رباتیک، محاسبات کوانتومی و انرژی فراوان درهم می‌تنند و یکدیگر را شتاب می‌دهند.

چهار ویژگی که مهار را دشوار می‌کند

سلیمان چهار ویژگی را برمی‌شمارد که موج تازه را از موج‌های پیشین جدا می‌کند. عدم تقارن: یک فرد یا گروه کوچک می‌تواند اثری بسیار بزرگ بگذارد؛ پهپاد ارزانی که تانک گران را از کار می‌اندازد نمونهٔ سادهٔ آن است. تکامل شتابان: این فناوری‌ها با سرعتی پیش می‌روند که نهادها به آن نمی‌رسند.

همه‌کاره‌بودن: همان مدلی که دارو طراحی می‌کند می‌تواند سم طراحی کند؛ مرز میان کاربرد خوب و بد در خود فناوری نیست. و خودمختاری: برای نخستین بار ابزارهایی می‌سازیم که می‌توانند بدون نظارت لحظه‌به‌لحظهٔ انسان تصمیم بگیرند و عمل کنند. هر کدام از این چهار ویژگی به‌تنهایی دردسرساز است؛ ترکیبشان مسئله‌ای می‌سازد که پیش‌تر نداشته‌ایم.

انگیزه‌های توقف‌ناپذیر

چرا نمی‌توان به‌سادگی ترمز کشید؟ پاسخ سلیمان پنج نیروی محرک است. نخست رقابت ژئوپلیتیک: دولت‌ها این فناوری‌ها را مسئلهٔ امنیت ملی می‌دانند و عقب‌ماندن را تحمل نمی‌کنند. دوم فرهنگ باز پژوهش: یافته‌ها منتشر می‌شوند و هر پیشرفتی به‌سرعت تکرار می‌شود. سوم سود اقتصادی عظیمی که در انتظار برندگان است.

چهارم نیاز واقعی جهان: برای غذا دادن به میلیاردها انسان، مهار تغییر اقلیم و درمان بیماری‌ها به این ابزارها نیاز داریم. و پنجم انگیزهٔ انسانیِ دانشمندان و سازندگان برای اینکه اولین و بهترین باشند. هیچ‌کدام از این انگیزه‌ها شرورانه نیست، و درست به همین دلیل متوقف‌کردنشان دشوار است. هر بازیگری که کنار بکشد، فقط جای خود را به دیگری می‌دهد.

دولت‌های شکننده و تقویت‌کننده‌های بحران

بخش سوم کتاب به پیامدهای سیاسی می‌پردازد. دولت ملی بر یک قرارداد استوار است: شهروندان بخشی از آزادی را واگذار می‌کنند و در برابر، امنیت و نظم می‌گیرند. سلیمان می‌گوید موج تازه این قرارداد را از چند سو زیر فشار می‌گذارد: حمله‌های سایبری خودکار به زیرساخت‌ها، جعل عمیق و سیل اطلاعات نادرست که اعتماد عمومی را می‌فرساید، خطر نشت یا ساخت عامل بیماری‌زا، و خودکارسازی که بازار کار را زودتر از توان سازگاری جامعه تکان می‌دهد.

او دو مسیر متضاد را پیش‌بینی می‌کند. در یکی، قدرت در دست چند شرکت و دولت بسیار توانا متمرکز می‌شود. در دیگری، قدرت چنان پخش می‌شود که هر گروه کوچکی توان آسیب بزرگ دارد و دولت‌ها ناتوان می‌شوند. هر دو مسیر، دولت دموکراتیکِ میانه را تضعیف می‌کنند، همان نهادی که برای مهار بیش از همه به آن نیاز داریم.

دوراهی بزرگ: فاجعه یا خفقان

از اینجا سلیمان به هستهٔ تلخ استدلالش می‌رسد. اگر فناوری را بی‌مهار رها کنیم، دیر یا زود حادثه‌ای بزرگ رخ می‌دهد؛ از سر خطا یا بدخواهی. واکنش طبیعی به چنین خطری، نظارت فراگیر است: برای اینکه هیچ‌کس نتواند آسیب بزند، باید همه دیده شوند. اما این خودش کابوسی دیگر است.

گزینهٔ سوم، یعنی توقف کامل پیشرفت، نیز به باور او راه نجات نیست. جامعه‌های مدرن برای حفظ سطح زندگی، با جمعیت سالخورده و منابع رو به کاهش، به بهره‌وری تازه نیاز دارند و رکود فناوری خود به فروپاشی تدریجی می‌انجامد. پس میان سه بن‌بستِ فاجعه، خودکامگی و رکود، باید راه چهارمی ساخت. او این راه را «مسیر باریک» می‌نامد.

ده گام به سوی مهار

سلیمان ادعا نمی‌کند راه‌حل دارد، اما ده لایهٔ هم‌پوشان پیشنهاد می‌کند. از ایمنی فنی آغاز می‌کند و می‌خواهد سهم بسیار بیشتری از بودجه و نیروی پژوهش صرف آن شود. سپس ممیزی و شفافیت: آزمون‌های مستقل و دسترسی بازرسان به سیستم‌های پیشرفته. سوم گلوگاه‌ها: تولید تراشه‌های پیشرفته و زیرساخت ابری در دست شمار اندکی شرکت است و می‌توان از این نقاط برای خریدن زمان استفاده کرد.

گام‌های بعدی به آدم‌ها و نهادها مربوط است. سازندگان باید مسئولیت بپذیرند و منتقدان هم باید وارد میدان ساختن شوند. کسب‌وکارها به ساختارهایی نیاز دارند که سود را با رسالت متعادل کند. دولت‌ها باید دانش فنی درون خود بسازند، نه اینکه فقط از بیرون تنظیم‌گری کنند. پیمان‌های بین‌المللی لازم است، هرچند دشوار. فرهنگ صنعت باید مثل هوانوردی از خطاها آشکارا درس بگیرد. و جنبش‌های مردمی باید فشار بیاورند. دهمین گام، هماهنگی همهٔ این‌هاست: هیچ لایه‌ای به‌تنهایی کافی نیست، اما مجموع آن‌ها می‌تواند کافی باشد.

مهار یک مقصد نیست

سلیمان تأکید می‌کند که مهار کاری نیست که یک بار انجام شود و تمام شود. فناوری پیش می‌رود و مهار باید همراهش به‌روز شود؛ مثل راه‌رفتن روی لبه‌ای باریک که هر گامش به تعادل تازه نیاز دارد. او کتاب را با یادی از کارگرانی که دو قرن پیش ماشین‌ها را می‌شکستند به پایان می‌برد: حق با آن‌ها بود که زندگی‌شان در خطر است، اما راهشان شکست خورد. درس او این است که فناوری را نمی‌توان پس زد؛ باید آن را شکل داد.

ایده‌های کلیدی کتاب در یک نگاه

از کتاب تا عمل: همین هفته چه کنیم؟

بیشتر پیشنهادهای کتاب در سطح دولت و صنعت است، اما در مقیاس یک سازمان هم می‌توان گام برداشت:

نقد و محدودیت‌ها

مهم‌ترین نقد به جایگاه نویسنده برمی‌گردد. سلیمان خود از بازیگران اصلی این صنعت است و هم‌زمان با هشدار دادن، به ساختن سیستم‌های قدرتمندتر ادامه داده است. برخی منتقدان این را تناقض می‌دانند و برخی دیگر می‌گویند برجسته‌کردن خطرهای آخرالزمانی به سود شرکت‌های بزرگ تمام می‌شود، چون هم فناوری را قدرتمندتر جلوه می‌دهد و هم تنظیم‌گری را به سمتی می‌برد که تازه‌واردها را کنار بزند.

از نظر محتوا نیز ده گام پایانی در مقایسه با قوت تشخیص مسئله، کلی و گاه آرمانی است و سازوکار اجرای آن در جهان پررقابت امروز روشن نیست. کتاب به آسیب‌های موجود مانند شرایط کار، مالکیت داده و سوگیری نیز کمتر می‌پردازد. با این حال، صورت‌بندی او از مسئلهٔ مهار و دوراهی فاجعه و خفقان، چارچوبی ماندگار برای بحث است.

این کتاب برای چه کسانی است؟

پرسش‌هایی برای تأمل

سخن پایانی

«موج آینده» کتاب آرام‌کننده‌ای نیست و قرار هم نیست باشد. سلیمان می‌خواهد خواننده را از دو وسوسه دور کند: خوش‌بینی ساده‌ای که می‌گوید «همیشه درست شده، این بار هم می‌شود» و بدبینی فلج‌کننده‌ای که می‌گوید «کاری نمی‌شود کرد».

پیام نهایی او این است که فناوری سرنوشت نیست، انتخاب است؛ انتخابی که هر روز در آزمایشگاه‌ها، هیئت‌مدیره‌ها، مجلس‌ها و حتی در تصمیم‌های کوچک ما برای استفاده یا عدم استفاده از یک ابزار گرفته می‌شود.

این نوشته خلاصه و برداشت تحلیلی تیم بینش جدید از کتاب است و جای مطالعهٔ خود اثر را نمی‌گیرد.