آیا ما بیش از اندازه به رایانه‌ها متکی شده‌ایم؟

آیا وجود انسان‌ها ضروری است؟ با یقین نمی‌توان به این پرسش، پاسخ داد. رایانه‌ها پیوسته به پیشرفتِ بی‌امانِ خویش ادامه می‌دهند، و در حوزه‌هایی مانند حساب‌داری و پزشکی و معماری و حقوقْ نرم‌افزارها کارهای حساس و پیچیده‌ای را انجام می‌دهند که پیش‌تر انسان انجام می‌داد. جادوگرانِ شرکتِ گوگل خبر از این داده‌اند که روبات‌ها پشتِ فرمانِ خودروی ما خواهند نشست و هواپیماها را خواهند راند، بیماری‌های ما را تشخیص و نسخه خواهند داد، به کودکانِ ما آموزش خواهند داد و از والدینِ سالخورده‌ی ما مراقبت خواهند کرد؛ در کل، روبات‌ها قرار است زندگیِ ما را سازمان‌دهی کنند. گوگل پیش‌بینی کرده است که در پایانِ دهه‌ی بعدی، هوشِ مصنوعی از بشر پیشی خواهد گرفت. ما همگی تبدیل به مازادی برای ماشین‌های خود خواهیم شد.

درست است که کار و زندگیِ ما روز-به-روز خودکارتر می‌شود، و به جرأت می‌توان گفت که همین جریان ادامه خواهد یافت. رایانه‌ها خیال ندارند که کُندتر یا خِنگ‌تر شوند. اما حالا نباید خود را مشغولِ این قضیه کرد و درباره‌ی آن نوشت. فن‌آوریِ دیجیتال با سرعتِ تمام دارد رشد می‌کند؛ ما نباید فقط به امکان‌ها و فرصت‌های هوشِ رایانه‌ای مشغول شویم، و از محدودیت‌ها و ثغورهای آن غافل شویم. ظریف‌ترین و دقیق‌ترین مهارت‌های انسانیِ ما (عقلِ سلیمِ ما، نبوغ و سازگارپذیریِ ما، سیالیتِ اندیشیدنِ ما) ورای چنگِ برنامه‌ریزها می‌ماند. خودکاریِ رایانه‌ای، که به هیچ وجه نمی‌تواند جایگزینِ ما شود، استعدادهای ارزشمند و تکینِ ما را دست‌کم گرفته است.

برای مثال به همین خودرویِ خود-ران که این همه تبلیغ و تحسین‌اش می‌کنند نگاه کنید. وقتی گوگل در ۲۰۱۰ اعلام کرد که «Pirus» را ساخته که می‌تواند به‌طور خودکار در جاده‌ها و خیابان‌های شهر براند (که بی‌شک دست‌آوردِ بزرگی است)، این شرکت هم‌چنین پیش‌بینی کرده که در پایانِ این دهه وسایلِ نقلیه‌ی تماما-خودکار به بازار عرضه خواهند شد. این اتفاق نخواهد افتاد. در دلِ اعتیاد به خودروهای روباتی، این واقعیت خوابیده که راننده‌های انسانی هم‌چنان نقشِ مهمی در این عملیات بازی می‌کنند. روبات‌ها هنوز هم در گیر و دارِ رویدادهای غریب و پیش‌بینی‌نشده‌ای مثل مسیرهای انحرافی و علایمِ پلیسِ راهنمایی و هزار ریزه‌کاری‌های اعصاب-خوردکن، گرفتار هستند که رانندگانِ انسانی می‌توانند با اطمینان و اعتماد-به-نفسی چشمگیر از پسِ آن گیر و دارها برآمده و تفسیرشان کرده و واکنش نشان دهند.

کارشناسانِ روبات می‌گویند حتی اگر مهندسین موفق شوند وسایلِ نقلیه‌ی روباتی‌ای بسازند که در ۹۹درصدِ شرایط از پسِ مشکلات برآیند، باز هم راهی بسیار طولانی تا خودکاریِ کاملِ آن وسایل مانده که باید طی شود. می‌توان به این فکر کرد که خودروهای خود-رانی تولید شود که در شرایطِ شدیدا کنترل‌شده‌ای مثل خطوطِ ویژه‌ در اتوبان‌ها، به‌طور مستقل عمل کنند؛ اما مادام که این خودروها بتوانند از پسِ انواع و اقسامِ مسائلِ ترافیکی در شهرها و محله‌ها برآیند، انسانِ دوراندیش و زِبردست هم‌چنان جایگاهِ خود را در صندلیِ راننده حفظ خواهد کرد.

کارشناسانِ روبات می‌گویند حتی اگر مهندسین موفق شوند وسایلِ نقلیه‌ی روباتی‌ای بسازند که در ۹۹درصدِ شرایط از پسِ مشکلات برآیند، باز هم راهی بسیار طولانی تا خودکاریِ کاملِ آن وسایل مانده که باید طی شود.

همین امر در موردِ هوانوردی نیز صادق است. امروزه، هوانوردهای خودکار یک‌عالم پرواز انجام می‌دهند؛ اما این فن‌آوری هنوز دچار عیب و کاستی است. وقتی سامانه‌های خودکار از کار می‌افتند یا با شرایطی روبه‌رو می‌شوند که نرم‌افزارشان قادر نیست بر آن‌ها چیره شود، خلبان باید کنترلِ هوانورد را بر عهده بگیرد. ما هنوز تجربه‌ی تلخِ سال ۲۰۰۹ و محدودیت‌های پروازهای خودکار را فراموش نکرده‌ایم؛ جتِ هواپیماییِ ایالاتِ متحده در این سال پس از برخورد با دسته‌ی غازها در آسمانِ فرودگاهِ لاگاردیای نیویورک هر دو موتورش را از دست داد، اما خلبان (چلسی سولنبرگر) با خونسردی و مهارتِ تمام توانست هوانورد را به سلامت بر رودخانه‌ی هادسن بنشاند. شاهکارِ این خلبان واقعا باشکوه بود، اما همین خلبان‌های بامهارت هستند که هرروزه و در شرایطِ پرخطر دارند هواپیماها را هدایت می‌کنند.

کاستی‌های روبات‌های راننده و خلبان این نکته را می‌رساند که مهارت‌هایی که ما انسان‌ها بدیهی و پیش‌پاافتاده تلقی می‌کنیم (یعنی همین توانایی برای فهمیدنِ جهانِ پیش‌بینی‌ناپذیر و یافتنِ راهی در این پیچیده‌گی‌ها و دشواری‌ها) مهارت‌هایی هستند که رایانه‌ها به‌طور کامل نمی‌توانند داشته باشند. وقتی شرایط دشوار و پیچیده می‌شود، نرم‌افزار فرمان را به دستِ انسان می‌دهد. با این‌که الگوریتم‌های نرم‌افزاری حالا در حوزه‌ی دانش نیز کارهای مهمی را در دست گرفته‌اند، می‌بینیم که مهارت‌های عالیِ فکری و عقلیِ انسان هنوز هم ورای چنگِ برنامه‌ریزان قرار دارند. تواناییِ رایانه‌ها و الگوریتم‌های «داده بزرگ» در تحلیل و داوریِ پدیده‌های پیچیده، راهی بس طولانی را پیموده تا به این‌جا رسیده. اما هنوز نتوانسته نیاز به بینش و شهودِ انسانی را برطرف کند.

خطرِ واقعی‌ای که خودکاریِ رایانه‌ها برای ما ایجاد می‌کنند، وابستگیِ ما به آن‌هاست. ما تمایل داریم که فرض کنیم رایانه‌ها جایگزینی شایسته و بسنده برای هوشِ ما فراهم می‌کنند.

در حوزه‌ی پزشکی، وعده‌های گزافی درباره‌ی این داده‌اند که فن‌آوریِ اطلاعات منجر به بهبودِ مراقبت و کاهشِ هزینه‌ها خواهد شد. اما مطالعاتِ اخیر درباره‌ی سامانه‌های دیجیتالیِ ثبتِ گزارش‌های پزشکی و تشخیصی نشان می‌دهد که در واقع هزینه‌های بهداشتی و مراقبتی را بیش‌تر کرده و با این همه تفاوتِ مهمی در کیفیتِ نتایجِ بیمار ایجاد نکرده‌اند. رایانه‌ها می‌توانند اطلاعاتِ ارزشمندی را برای پزشک‌ها فراهم کنند، اما توانایی و تجربه‌ی پزشک را ندارند و نمی‌توانند پیچیدگی‌های شرایطِ بیمار را بفهمند یا بیمار را به وضعیتِ سلامت راهنمایی کرده و بازگردانند. همان‌طور که اتول گاواندی (جراح و نویسنده) می‌نویسد، نهایتِ کاری که ما می‌توانیم در حوزه‌ی پزشکی انجام دهیم، رویه‌مندکردنِ آن است. «جسارت و بی‌پرواییِ کارشناسیِ» پزشک‌های باتجربه را نمی‌توان با الگوهای نرم‌افزاری و الگوریتم‌های پیش‌گویانه جایگزین کرد.

در حوزه‌ی آموزش، رایانه‌ها از پسِ همه‌ی انتظارها و توقع‌ها برنمی‌آیند. چند سال پیش، همه فکر می‌کردند که دوره‌های آموزشیِ آنلاین و توده‌ای (Moocs) انقلابی در دانشگاه‌ها ایجاد خواهد کرد. این‌گونه پنداشته می‌شد که دقت و کارآمدیِ درس‌های رایانه‌ای‌شده، کلاس‌ها و آموزگارها را دور خارج خواهد کرد. اما Moocها عمدتا با شکست روبه‌رو شدند. گویی ما دست‌کم گرفته‌ایم که آوردنِ دانش‌آموز و دانش‌جو به کلاس‌های واقعی و آموزگارهای واقعی، چه منافعِ نامشهودی دارد. الهام‌گیری و یادگیری را نمی‌توان به‌خوبی از طریقِ کابل‌های فیبرِ نوری منتقل کرد.

شاید الان خوانندگانِ فن‌آوری‌دوست از عصبانیت دارند موهای‌شان را می‌کشند. قطعا خواهند گفت که امروزه رایانه‌ها محدودیت‌هایی دارند اما این ضعف‌ها و کاستی‌ها موقتی هستند. چون شتابِ رایانه‌ها هم‌چنان رو به افزایش است، با گذشتِ زمان می‌توان ماشین‌هایی داشت که قادر باشند هر کاری که ما قادر به انجام‌اش هستیم را انجام دهند. واکنشِ فهمیدنی و البته معمولی است؛ اما چنین واکنشی برآمده از تفکری است معیوب. این‌که چه چیزی نهایتا نمی‌گذارد رایانه‌ها جایِ تعقل و تفکرِ انسان را بگیرند، ربطی به مشخصه‌های فنی‌ای مثل سرعتِ پردازش و گنجایشِ حافظه‌ی مجازی ندارد. بل به این مربوط می‌شود که ماشین‌ها فاقدِ بودن [و هستی و زیست] هستند. همان‌طور که هکتور لِوک (رایانه‌شناسِ دانشگاهِ تورنتو) می‌نویسد، حتی پیشرفته‌ترین و موفق‌ترین سامانه‌ها نیز هم‌چنان «دانشمند اما احمق» باقی مانده‌اند. آن‌ها را می‌توان برنامه‌ریزی کرد تا در تمرین‌های ذهنیِ شدیدا محدودشده‌ای مثل شطرنج‌بازی یا نگه‌داشتنِ خودرو در محدوده‌ی خطوطِ اتوبان، به‌خوبی عمل کنند؛ اما «بیرون از این حوزه‌های تخصصی کاملا بی‌استفاده هستند». آن‌ها زندانیِ کدگذاری‌های خود هستند. دقتِ آن‌ها شاید تحسین‌برانگیز باشد، اما ناگزیرْ درک و دریافتی محدود و تنگی دارند.

باهوش‌بودنِ ما ربطی به تواناییِ مغزِ ما برای اداره‌کردنِ داده‌های زیاد یا برطرف‌کردنِ مشکلاتِ مشخص از طریقِ رویه‌های ثبت‌شده ندارد. هوش همانا تواناییِ ما برای معنادهی و فهمیدنِ چیزها است؛ به لطفِ هوش است که می‌توانیم دانشِ فراهم‌شده از مشاهده و تجربه را به فهمی غنی و سیال تبدیل کنیم که در هر مورد و چالشی، کاربردپذیر باشد. این انعطاف‌پذیریِ ذهنی (که زاییده‌ی آگاهی‌داشتنِ ما از خود و از پیرامون‌مان است) به ما اجازه می‌دهد که مفهوم‌پردازی و نقد کنیم و استعاری و خلاق بیاندیشیم. امتیاز و رجحانِ بزرگی که ما نسبت به رایانه‌ها داریم این است که ما زنده هستیم و آن‌ها نیستند. جدای از خیال‌پردازی‌های علمی-تخیلی، ما اما به این زودی‌ها چنین امتیازی را از دست نخواهیم داد.

اگر ماشین‌های اندیشه‌وَرز را به‌درستی طراحی کرده و به کار بگیریم، امکان‌ها و فرصت‌های تازه‌ای برای ما فراهم می‌کنند. آن‌ها کمک‌مان خواهند کرد تا مشکلاتِ دشوار را حل کرده و به دست‌آوردهای بزرگ‌تری برسیم.

خطرِ واقعی‌ای که خودکاریِ رایانه‌ها برای ما ایجاد می‌کنند، وابستگیِ ما به آن‌هاست. ما تمایل داریم که فرض کنیم رایانه‌ها جایگزینی شایسته و بسنده برای هوشِ ما فراهم می‌کنند و همین نیز ما را بر آن می‌دارد که کارهای مهم را مشتاقانه به دستِ نرم‌افزارها بدهیم و نقشِ تابع و مادونی برای خود قائل شویم. مهندسین و برنامه‌ریزها نیز در طراحیِ سامانه‌های خودکارشده، تمایل دارند که منافعِ فن‌آوری را مقدم بر منافعِ مردم بگذارند. آن‌ها هر کاری که ممکن بوده را بر عهده‌ی نرم‌افزارها گذاشته‌اند و کارهای منفعل و رویه‌مندی نظیر واردکردنِ داده‌ها و نظارت بر خروجی‌ها را به انسان‌ها واگذار کرده‌اند. مطالعاتِ اخیری که درباره‌ی تاثیراتِ خودکارشدنِ کارْ انجام شده، نشان می‌دهد که حتی انسان‌هایی با مهارتِ بالا چه‌طور به رایانه‌ها وابستگیِ کُشنده‌ای پیدا می‌کنند. کارگران وقتی به نرم‌افزارها اعتماد کرده و هر چالشی را به آن‌ها واگذار می‌کنند، قربانیِ پدیده‌ای می‌شوند که «خود-خشنودیِ خودکاری» نامیده می‌شود. [در این پدیده، ] توجه و تمرکزِ کارگران کاهش می‌یابد و نمی‌توانند مهارت‌های خویش را به کار بسته و استعدادهای‌شان پژمرده می‌شود. در ایالاتِ متحده، اداره‌ی هوانوردیِ فدرال شواهدی یافته که نشان می‌دهند خلبان‌ها قادر به هدایتِ دستیِ هواپیما نیستند و این امر در بدترین موارد منجر به تصادفات می‌شود. و حالا مدام تشویق و تبلیغ می‌کنند تا خلبان‌ها در طولِ پرواز خود-خلبانی را خاموش کرده و هوانورد را به‌طور دستی هدایت کنند. مطالعاتی که درباره‌ی حساب‌دارها و رادیولوژیست‌ها و دیگر حرفه‌ها صورت گرفته، نشانه‌هایی دال بر «مهارت‌زدایی»ای یافته‌اند که نتیجه‌ی خودکاری است.

اگر ماشین‌های اندیشه‌وَرز را به‌درستی طراحی کرده و به کار بگیریم، امکان‌ها و فرصت‌های تازه‌ای برای ما فراهم می‌کنند. آن‌ها کمک‌مان خواهند کرد تا مشکلاتِ دشوار را حل کرده و به دست‌آوردهای بزرگ‌تری برسیم. اگر روندِ کنونی را هم‌چنان ادامه دهیم، خود را محکوم به کارهای غیر-جذاب و فرسایشِ مداومِ مهارت‌های خویش کرده‌ایم. بالاخره روزی می‌رسد که این گفته حقیقت پیدا کند که الگوریتم‌ها باهوش‌تر از ما هستند. ما حتما باید توانایی‌های رایانه‌ها را تصدیق کرده و محترم شماریم. اما این نباید باعث شود که استعدادهای خود را دست‌کم گرفته و ارزشمندتر از توانایی‌های رایانه‌ها ندانیم.

منبع: گاردین