در آینده هوش مصنوعی، کدام توانایی انسان ارزشمندتر می شود؟
در این یادداشت
پیش بینی آینده فناوری همیشه وسوسه انگیز است. می توان درباره مدل هایی حرف زد که متن، صدا و تصویر را همزمان می فهمند، عامل هایی که چند ابزار را به کار می گیرند، ربات هایی که در محیط واقعی حرکت می کنند و سیستم هایی که در علم و صنعت کمک بیشتری خواهند کرد. بخشی از این مسیر امروز شروع شده، اما سرعت و شکل نهایی آن قطعی نیست.
به نظرم برای مدیران و متخصصان پرسش مفیدتر این است: اگر این توانایی ها بهتر و ارزان تر شوند، چه چیزی در کار ما باید تغییر کند؟ پیش بینی دقیق نام مدل آینده کمتر از آماده کردن سازمان برای یادگیری مداوم اهمیت دارد.
از پاسخ دادن به انجام دادن
یکی از تغییرهای مهم، حرکت از ابزارهایی است که فقط پاسخ می دهند به سیستم هایی که می توانند چند مرحله کار را دنبال کنند. مثلا داده جمع کنند، گزارشی بسازند، با ابزار دیگری محاسبه کنند و نتیجه را برای تایید به کاربر نشان دهند.
این توانایی فرصت بزرگی است، اما مرز مسئولیت را هم حساس تر می کند. وقتی سیستم فقط متن پیشنهاد می دهد، کاربر می تواند آن را نادیده بگیرد. وقتی اجازه ارسال پیام یا تغییر اطلاعات پیدا می کند، خطا دیگر روی صفحه نمی ماند و وارد عملیات می شود. بنابراین آینده عامل های هوشمند فقط به توانایی مدل وابسته نیست؛ به طراحی اختیار، کنترل و امکان بازگشت هم وابسته است.
جهان فیزیکی سخت تر از یک پنجره گفت و گوست
در رباتیک و صنعت، یک پاسخ نادرست ممکن است به توقف دستگاه یا آسیب فیزیکی منجر شود. داده حسگرها ناقص می شود، محیط تغییر می کند و موقعیت های پیش بینی نشده رخ می دهند. برای همین نباید موفقیت یک مدل در گفتگو را به سادگی معادل آمادگی آن برای کنترل یک فرایند واقعی دانست.
همچنین درباره هوش مصنوعی عمومی و فناوری های دورتر باید میان پژوهش، امکان نظری و محصول قابل اتکا تفاوت گذاشت. سازمان نباید بودجه امروز را بر اساس وعده هایی بنا کند که زمان و تحقق آنها نامطمئن است.
مزیت انسان فقط در انجام کارهایی نیست که ماشین بلد نیست
این مرز هر روز می تواند جابه جا شود. ارزش انسان را بهتر است در مسئولیت تصمیم، فهم زمینه، رابطه با دیگران و انتخاب هدف ببینیم. ماشین می تواند گزینه ها را زیاد کند؛ اما اینکه کدام هدف ارزش دنبال کردن دارد و چه پیامدی را می پذیریم، همچنان یک پرسش مدیریتی و انسانی است.
در یک شرکت، دو مدیر ممکن است به یک تحلیل یکسان دسترسی داشته باشند و تصمیم های متفاوتی بگیرند، چون مسئولیت، ارزش ها و شرایط بازار را متفاوت می بینند. ابزار باید کمک کند این تفاوت روشن و قابل گفت و گو شود، نه اینکه آن را پشت یک پاسخ ظاهرا قطعی پنهان کند.
آمادگی برای آینده، یک عادت است
به جای آنکه هر ماه دنبال پرهیاهوترین محصول برویم، سه توانایی در سازمان بسازیم: مسئله ها را دقیق تعریف کنیم، فناوری تازه را با شواهد واقعی بسنجیم و کارکنان را برای تغییر روش کار آماده نگه داریم. چنین سازمانی با هر نسل تازه ابزار از صفر شروع نمی کند.
اگر جوانی هستید که وارد این حوزه می شوید، فقط یاد گرفتن نام ابزارها را هدف نگذارید. آمار، داده، برنامه نویسی، منطق مسئله و توان توضیح دادن نتیجه را جدی بگیرید. اگر مدیر هستید، محیطی بسازید که افراد بتوانند سوال بپرسند و درباره خروجی سیستم قضاوت کنند.
آینده را با قطعیت پیش بینی نکنیم
مدل هایی که متن، تصویر، صدا و اطلاعات محیطی را با هم پردازش می کنند، امکانات تازه ای در آموزش، خدمات و صنعت می سازند. سامانه های عامل محور نیز می توانند چند مرحله کار را با استفاده از ابزارهای مختلف انجام دهند. اما از مشاهده پیشرفت کنونی نمی توان با اطمینان نتیجه گرفت همه محدودیت ها به زودی از میان می روند. سرعت توسعه فنی، هزینه اجرا، قوانین، اعتماد عمومی و دشواری اتصال به محیط واقعی، همگی آینده را شکل می دهند.
برای مدیر کسب و کار، این عدم قطعیت نباید به بی عملی منجر شود. می توان میان دو نوع تصمیم تفاوت گذاشت: تصمیم هایی که همین امروز با شواهد کافی ارزش دارند و شرط بندی هایی که به تحول آینده وابسته اند. برای گروه اول، اجرا و ارزیابی دقیق لازم است. برای گروه دوم، آزمایش کوچک و حفظ انعطاف منطقی تر است. شرکتی که همه بودجه را به یک پیش بینی آینده می سپارد، در معرض خطر بزرگی قرار می گیرد.
اختیار سامانه را محدود و قابل بازبینی کنید
برای هر اقدام خودکار، محدوده مجاز را دقیق تعریف کنید: به کدام داده و ابزار دسترسی دارد، چه تغییری می تواند انجام دهد و کدام کار نیازمند تایید انسان است؟ ثبت درخواست و اقدام، امکان لغو تغییر و مسیر بازگشت باید بخشی از طراحی باشند. این کنترل ها در سامانه های چندمرحله ای اهمیت بیشتری دارند، چون خطا ممکن است از یک ابزار به مرحله بعد منتقل شود پیش از آنکه کاربر آن را ببیند.
سامانه های فیزیکی به برنامه نگهداری نیاز دارند
در محیط صنعتی، کیفیت یک بار برای همیشه سنجیده نمی شود. حسگر ممکن است جابه جا یا فرسوده شود، قطعه عوض شود و شرایط کاری از نمونه های آزمون فاصله بگیرد. برنامه بهره برداری باید بازرسی دوره ای، ثبت تغییرات و معیار توقف داشته باشد. موفقیت در نمایش کنترل شده، تضمین عملکرد پایدار در کارخانه یا بیمارستان نیست؛ شناخت فرایند و نگهداری منظم در کنار الگوریتم اهمیت دارند.
ارزش مهارت های انسانی تغییر می کند
اگر تولید پیش نویس متن، تحلیل اولیه و حتی بخش هایی از برنامه نویسی آسان تر شود، ارزش حرفه ای انسان بیشتر به سمت تعریف مسئله، قضاوت، ارتباط و مسئولیت نتیجه حرکت می کند. این به معنای بی اهمیت شدن دانش تخصصی نیست. برعکس، کسی که موضوع را عمیق می فهمد بهتر می تواند خروجی ابزار را ارزیابی کند و محدودیت های آن را ببیند. اگر دانش پایه نداشته باشیم، پاسخ روان ماشین می تواند ما را به آسانی فریب دهد.
در آموزش نیز باید این تغییر را جدی بگیریم. دانشجو فقط با دریافت پاسخ سریع متخصص نمی شود. باید یاد بگیرد فرضیه بسازد، شواهد را بررسی کند، استدلال مخالف را بشنود و نتیجه را به زبان قابل فهم توضیح دهد. ابزار می تواند شریک تمرین باشد، ولی تمرین مستقل و نقد خروجی نباید حذف شود. مهارت قضاوت از مواجهه با مسئله های دشوار رشد می کند.
این مهارت ها با یک دوره کوتاه به دست نمی آیند. بهتر است سازمان ها برای کارکنان فرصت بازبینی کارهای واقعی، گفت و گو درباره خطا و یادگیری از همکاران باتجربه فراهم کنند. اگر هر موفقیت فقط به سرعت نسبت داده شود و هر مکث برای بررسی نشانه ضعف تلقی شود، قضاوت حرفه ای به تدریج کم ارزش می شود. سرعت مفید است، اما باید در خدمت نتیجه درست قرار بگیرد.
رابطه انسان و ماشین یک تصمیم اجتماعی است
اینکه از هوش مصنوعی برای تقویت توانایی کارکنان استفاده کنیم یا صرفا برای فشار بیشتر بر آنها، تصمیمی مدیریتی است. اینکه خدمت هوشمند دسترسی افراد بیشتری را ممکن کند یا شکاف موجود را افزایش دهد، به طراحی و سیاست بستگی دارد. فناوری جهت واحد و اجتناب ناپذیری برای جامعه تعیین نمی کند. مدیران، قانون گذاران، متخصصان و کاربران در شکل دادن به نتیجه نقش دارند.
به همین دلیل در گفت و گو درباره آینده باید فراتر از قابلیت مدل برویم. چه کسانی از مزیت آن بهره می برند؟ چه مهارت هایی باید دوباره آموخته شوند؟ چه حقی برای اعتراض و اصلاح تصمیم باقی می ماند؟ و چگونه مطمئن می شویم انسان اختیار و مسئولیت خود را از دست نمی دهد؟ این پرسش ها شاید از پیش بینی نام مدل های بعدی مهم تر باشند.
امروز چه کاری از دست ما بر می آید؟
به جای انتظار برای آینده قطعی، می توانیم چهار عادت بسازیم: یادگیری مستمر، آزمایش محدود، ارزیابی شواهد و بازنگری در فرایندها. مدیران باید برای تصمیم های مهم، مسئولیت و شاخص مشخص تعریف کنند. متخصصان باید علاوه بر یادگیری ابزار، توان نقد آن را حفظ کنند. سازمان ها نیز باید از هم اکنون داده و روش کارشان را قابل اعتمادتر کنند. این سرمایه گذاری ها با تغییر نسل مدل ها بی ارزش نمی شوند؛ برعکس، پایه استفاده بهتر از فناوری آینده خواهند بود.
آینده ممکن است از تصور امروز ما شگفت انگیزتر باشد. اما یک اصل به نظرم پایدار می ماند: هر قدر ماشین ها تواناتر شوند، اهمیت انتخاب مسئولانه اینکه از آنها برای چه کاری استفاده کنیم کمتر نمی شود.