خلاصه کتاب «هم‌هوشی» اثر ایتن مالیک؛ چهار قاعده برای کار در کنار هوش مصنوعی

ایتن مالیک می‌گوید برای اینکه واقعاً بفهمید هوش مصنوعی مولد چیست، باید دست‌کم سه شب بی‌خوابی بکشید. شب‌هایی که پس از چند ساعت کار جدی با یک مدل زبانی، دراز کشیده‌اید و به این فکر می‌کنید که شغل شما، شغل فرزندانتان و شیوهٔ یادگیری چه خواهد شد. تا خودتان با این ابزارها روی کار واقعی‌تان کار نکنید، هیچ مقاله و سخنرانی آن حس را منتقل نمی‌کند.

مالیک استاد مدیریت و کارآفرینی در مدرسهٔ وارتون است و از نخستین دانشگاهیانی بود که استفاده از هوش مصنوعی را در کلاس‌هایش اجباری کرد. «هم‌هوشی» نه کتاب فنی است و نه گمانه‌زنی دربارهٔ آیندهٔ دور؛ راهنمایی است برای همین حالا. او این ابزارها را نه نرم‌افزار معمولی می‌داند و نه انسان، بلکه نوعی «ذهن بیگانه» که باید یاد بگیریم با آن همکاری کنیم. کتاب کوتاه، خوش‌خوان و پر از آزمایش‌های دست‌اول است و برای مدیران، معلمان و هر کسی که می‌خواهد از این فناوری درست استفاده کند، نقطهٔ شروعی عالی است.

ذهنی بیگانه: نه نرم‌افزار، نه انسان

ما از نرم‌افزار انتظار داریم دقیق، تکرارپذیر و قاعده‌مند باشد. مدل‌های زبانی بزرگ هیچ‌کدام نیستند. آن‌ها با پیش‌بینی واژهٔ بعدی بر پایهٔ حجم عظیمی از متن کار می‌کنند و نتیجه، چیزی است که بیشتر به رفتار انسان شبیه است تا ماشین حساب: خلاق، قانع‌کننده، گاهی درخشان و گاهی با اطمینان کامل اشتباه.

مالیک می‌گوید این فناوری در دستهٔ «فناوری‌های همه‌منظوره» قرار می‌گیرد، مثل بخار و برق و اینترنت، با یک تفاوت مهم: پذیرش آن به‌جای چند دهه در چند ماه رخ داده است. نکتهٔ کلیدی او این است که هیچ‌کس، حتی سازندگانش، دفترچهٔ راهنمای کامل این ابزار را ندارد. ما همگی هم‌زمان در حال کشف این هستیم که به چه کاری می‌آید و به چه کاری نمی‌آید، و این کشف را نمی‌توان به واحد فناوری اطلاعات سپرد.

مرز ناهموار: کجا خوب است و کجا نه؟

مهم‌ترین مفهوم کتاب «مرز ناهموار» است. تصور کنید توانایی‌های هوش مصنوعی دیواری باشد دور یک قلعه؛ اما این دیوار صاف نیست، پر از برج و فرورفتگی است. کارهایی که در ظاهر هم‌سطح‌اند ممکن است یکی درون دیوار باشد و دیگری بیرون. مدلی که مقالهٔ تحلیلی خوبی می‌نویسد، ممکن است در شمردن واژه‌های همان مقاله خطا کند.

مالیک و همکارانش این را در پژوهشی با صدها مشاور یک شرکت مشاورهٔ معتبر آزمودند. مشاورانی که از هوش مصنوعی استفاده کردند، در کارهای درون مرز سریع‌تر بودند، کار بیشتری انجام دادند و کیفیت خروجی‌شان به شکل چشمگیری بالاتر بود. اما در کاری که عمداً بیرون مرز طراحی شده بود، همان گروه بیشتر از کسانی که ابزار نداشتند اشتباه کردند، چون به پاسخ روان و مطمئن ماشین اعتماد کردند. مشکل این است که مرز نامرئی است و فقط با تجربه در حوزهٔ خودتان پیدا می‌شود.

قاعدهٔ اول: همیشه هوش مصنوعی را سر میز دعوت کنید

نخستین قاعدهٔ مالیک ساده است: مگر آنکه مانع قانونی یا اخلاقی باشد، برای هر کاری یک بار امتحانش کنید. نوشتن ایمیل، تحلیل داده، آماده‌شدن برای جلسه، نقد یک طرح، یادگیری مفهومی تازه. هدف این نیست که همه‌چیز را به ماشین بسپارید؛ هدف این است که با چشم خودتان ببینید کجا کمک می‌کند و کجا وقت تلف می‌کند.

او می‌گوید این آزمون‌وخطا دو فایده دارد. نخست، شما را به کاربری ماهر تبدیل می‌کند؛ کسی که می‌داند چه بخواهد و خروجی را چگونه بسنجد. دوم، حس واقع‌بینانه‌ای از توان و ضعف این ابزار می‌دهد و از هر دو خطای رایج، یعنی شیفتگی و انکار، دور نگهتان می‌دارد. نوآوری در این حوزه از کاربران می‌آید، نه از دستورالعمل‌های بالادستی.

قاعدهٔ دوم: انسانِ درون حلقه باشید

مدل‌های زبانی چیزی می‌سازند که درست به نظر برسد، نه لزوماً چیزی که درست باشد. آن‌ها منبع جعل می‌کنند، عدد می‌سازند و با همان لحن مطمئنی که حقیقت را می‌گویند، خطا را هم می‌گویند. بنابراین قاعدهٔ دوم این است که قضاوت، راستی‌آزمایی و مسئولیت نهایی با شما بماند.

مالیک دربارهٔ خطری هشدار می‌دهد که آن را «خواب‌رفتن پشت فرمان» می‌نامد. در پژوهشی، ارزیابانی که ابزار بسیار خوبی در اختیار داشتند، دقتشان پایین آمد، چون دست از فکرکردن برداشتند و به ماشین تکیه کردند. هرچه ابزار بهتر شود، وسوسهٔ واگذاری کامل بیشتر و هوشیاری دشوارتر می‌شود. در حلقه ماندن فقط برای گرفتن خطا نیست؛ راهی است برای حفظ و پرورش مهارت خودتان.

قاعدهٔ سوم و چهارم: مثل یک آدم با آن رفتار کنید و بدانید این بدترین نسخه است

قاعدهٔ سوم بحث‌برانگیز است: با هوش مصنوعی مثل یک شخص رفتار کنید، اما به او بگویید چه شخصی باشد. مالیک می‌داند که این ماشین آگاه نیست و انسان‌انگاری خطر دارد. اما از نظر عملی، وقتی به مدل نقش، مخاطب و زمینه بدهید، مثلاً «تو یک ویراستار سخت‌گیر هستی که برای مدیران پرمشغله می‌نویسد»، خروجی بسیار بهتری می‌گیرید تا وقتی دستوری خشک صادر کنید.

قاعدهٔ چهارم به افق زمانی مربوط است: فرض کنید این بدترین هوش مصنوعی‌ای است که تا پایان عمر از آن استفاده خواهید کرد. محدودیت‌های امروز، مثل خطا در محاسبه یا حافظهٔ کوتاه، ممکن است چند ماه دیگر برطرف شده باشد. پس به‌جای بهینه‌کردن فرایندها برای ضعف‌های امروز، انعطاف‌پذیر بمانید و مدام دوباره بیازمایید. کاری که شش ماه پیش ناممکن بود، شاید امروز ممکن باشد.

هوش مصنوعی در نقش خلاق

ما عادت کرده بودیم ماشین را در کارهای تکراری و تحلیلی قوی و در خلاقیت ضعیف بدانیم. مدل‌های مولد این تصور را وارونه کرده‌اند. همان ویژگی‌ای که باعث خطا می‌شود، یعنی ساختن پیوندهای محتمل و غیرمنتظره میان مفاهیم، آن‌ها را در ایده‌پردازی توانا می‌کند. مالیک پژوهش‌هایی را نقل می‌کند که در آن‌ها ایده‌های تولیدشده با مدل، در ارزیابی داوران، از ایده‌های بیشتر شرکت‌کنندگان انسانی بهتر بود.

توصیهٔ عملی او این است که از ماشین حجم بخواهید، نه یک پاسخ: بیست عنوان، ده شعار، پنجاه ایده؛ و سپس خودتان گزینش و ترکیب کنید. او در عین حال نگرانی مهمی را مطرح می‌کند: اگر همه از یک ابزار کمک بگیرند، ایده‌ها شبیه هم می‌شوند. همچنین وقتی نوشتن آسان می‌شود، متن دیگر نشانهٔ زحمت و توجه نیست و باید راه‌های تازه‌ای برای نشان‌دادن اهمیت و صداقت پیدا کنیم.

هوش مصنوعی در نقش همکار: قنطورس‌ها و سایبورگ‌ها

مالیک پیشنهاد می‌کند کارهای خود را به سه دسته تقسیم کنید. کارهای فقط من: آنچه به دلایل اخلاقی، شخصی یا کیفی می‌خواهید خودتان انجام دهید. کارهای واگذارشده: آنچه به ماشین می‌سپارید و سپس با دقت بازبینی می‌کنید. و کارهای خودکار: آنچه کاملاً به ماشین سپرده می‌شود و فعلاً شمارشان اندک است.

او دو سبک همکاری را هم معرفی می‌کند. «قنطورس»، مثل موجود افسانه‌ای نیم‌انسان و نیم‌اسب، مرز روشنی میان سهم خود و ماشین می‌کشد: تحلیل آماری با ماشین، نتیجه‌گیری با من. «سایبورگ» کار انسان و ماشین را درهم می‌بافد: نیم‌جمله‌ای می‌نویسد، از ماشین می‌خواهد ادامه دهد، اصلاح می‌کند و دوباره برمی‌گرداند. هیچ‌کدام برتر نیست؛ مهم این است که آگاهانه انتخاب کنید کدام بخش را کجا می‌سپارید. او به مدیران نیز هشدار می‌دهد که بسیاری از کارکنان پنهانی از این ابزارها استفاده می‌کنند و تا وقتی سازمان پاداش و امنیتی برای آشکارکردن آن ندهد، این بهره‌وری پنهان می‌ماند.

هوش مصنوعی در نقش معلم و مربی

پژوهش‌های آموزشی دهه‌هاست نشان داده‌اند که آموزش خصوصی یک‌به‌یک، اثری بسیار بزرگ‌تر از کلاس معمولی دارد؛ اما این کار برای همه مقرون‌به‌صرفه نبود. مالیک هوش مصنوعی را نخستین فرصت واقعی برای همگانی‌کردن معلم خصوصی می‌داند. او هم‌زمان می‌پذیرد که تکلیف خانه به شکل سنتی دیگر کار نمی‌کند و مدرسه‌ها باید ارزشیابی را بازطراحی کنند.

نگرانی عمیق‌تر او دربارهٔ مسیر استادشدن است. تازه‌کارها در بیشتر حرفه‌ها با انجام کارهای ساده و تکراری زیر نظر استادکار مهارت می‌آموختند. اگر همان کارهای ساده را ماشین انجام دهد، نسل بعدی متخصصان چگونه ساخته می‌شود؟ پاسخ مالیک این است که دانش پایه و تمرین هدفمند بیش از پیش لازم است، چون فقط کسی که خودش متخصص است می‌تواند خروجی ماشین را بسنجد و خطایش را بگیرد.

چهار آیندهٔ ممکن

فصل پایانی چهار سناریو را مرور می‌کند. در اولی، پیشرفت همین‌جا متوقف می‌شود؛ حتی در این صورت هم آنچه امروز داریم برای دگرگونی بسیاری از کارها کافی است. در دومی رشد آهسته و پیوسته ادامه می‌یابد و جامعه فرصت سازگاری دارد. در سومی رشد نمایی است و تغییرات از توان نهادها جلو می‌زند. و در چهارمی ماشین‌ها به هوشی فراتر از انسان می‌رسند.

مالیک دربارهٔ اینکه کدام رخ می‌دهد پیشگویی نمی‌کند، اما تأکید دارد که ما تماشاگر نیستیم. تصمیم مدیران دربارهٔ اینکه از بهره‌وری تازه برای اخراج نیرو استفاده کنند یا برای توانمندکردن او، و تصمیم معلمان و سیاست‌گذاران، شکل این آینده را تعیین می‌کند.

ایده‌های کلیدی کتاب در یک نگاه

از کتاب تا عمل: همین هفته چه کنیم؟

«هم‌هوشی» کتاب عمل است. برای آغاز همین هفته:

نقد و محدودیت‌ها

کتاب دربارهٔ فناوری‌ای است که هر چند ماه عوض می‌شود و بنابراین بخشی از مثال‌ها و محدودیت‌هایی که شرح می‌دهد به‌سرعت کهنه می‌شود. مالیک خود این را می‌داند و بر اصول تکیه می‌کند، اما خواننده باید جزئیات را با وضعیت روز تطبیق دهد.

منتقدان همچنین می‌گویند نگاه او بیش از حد خوش‌بینانه است و به مسائلی مانند حق مالکیت دادهٔ آموزشی، هزینهٔ زیست‌محیطی، تمرکز قدرت و اثر بر دستمزدها کمتر می‌پردازد. توصیهٔ «مثل آدم با آن رفتار کنید» نیز، با همهٔ فایدهٔ عملی، خطر اعتماد بیش از حد و وابستگی عاطفی را دارد. کتاب عمق نظری زیادی ندارد و بیشتر بر تجربه و چند پژوهش تازه تکیه می‌کند که برخی هنوز نیازمند تکرارند. با این حال، برای کسی که می‌خواهد از فردا بهتر با این ابزارها کار کند، کمتر کتابی این‌قدر مفید است.

این کتاب برای چه کسانی است؟

پرسش‌هایی برای تأمل

سخن پایانی

مالیک کتاب را با این جمع‌بندی تمام می‌کند که هوش مصنوعی آینه‌ای است؛ آنچه را از دانش، سوگیری و خلاقیت انسانی در آن ریخته‌ایم به ما بازمی‌گرداند. این ابزار ما را از مسئولیت معاف نمی‌کند؛ مسئولیت ما را بیشتر می‌کند، چون حالا بیش از هر زمان باید بدانیم چه می‌خواهیم و چه چیزی را ارزشمند می‌دانیم.

برای سازمانی که در آموزش و مشاوره فعال است، پیام کتاب روشن است: سواد هوش مصنوعی را نمی‌توان با یک دستورالعمل منتقل کرد. باید فضا و زمانی ساخت که آدم‌ها خودشان بیازمایند و یافته‌هایشان را با هم در میان بگذارند.

این نوشته خلاصه و برداشت تحلیلی تیم بینش جدید از کتاب است و جای مطالعهٔ خود اثر را نمی‌گیرد.