راهبری هوش مصنوعی را با راهبرد آغاز کنید، نه با کمیته ها

شرکت برای هوش مصنوعی کمیته، فرم پیشنهاد، فهرست ابزار های مجاز و جلسه بازبینی دارد؛ با این حال هر واحد راه خودش را می رود و معلوم نیست سازمان کدام مسئله را می خواهد حل کند. داشتن فرایند به معنی داشتن راهبرد نیست.

راهبری وقتی مفید است که کار ها را به انتخاب های کسب وکار وصل کند: کدام کاربرد ارزش ساختن دارد، چه ریسکی قابل قبول است، چه چیزی باید مشترک باشد و چه کسی مسئول نتیجه است. اگر فقط درخواست ها را در صف بگذارد، به کنترل ترافیک داخلی تبدیل می شود.

پیش از رتبه بندی، جهت را روشن کنید

تقریبا هر واحد می تواند ایده ای معقول پیشنهاد دهد: پشتیبانی خواهان دسته بندی درخواست هاست، مالی توضیح هزینه می خواهد، منابع انسانی به غربال رزومه فکر می کند و مهندسی دستیار کدنویسی می خواهد. اگر همه با وعده کلی «بهره وری» وارد یک صف شوند، پروژه ای برنده می شود که حامی پرنفوذتر یا نمایش قانع کننده تری دارد.

مدیران باید پیش تر انتخاب کنند هوش مصنوعی در خدمت چه جهتی است: بهتر کردن تجربه مشتری، کم کردن زمان چرخه، کمک به تصمیم ها یا ساخت محصول تازه؟ کدام گردش کار باید بازطراحی شود و کدام ایده فعلا ارزش منابع محدود مهندسی و داده را ندارد؟ راهبری می تواند این انتخاب ها را اجراپذیر کند، اما جای مدیرانی را که جهت را تعیین می کنند نمی گیرد.

به سبد نگاه کنید، نه فقط تک پروژه

هر پروژه ممکن است جداگانه قابل دفاع باشد، اما چند تایید محلی می تواند سازمان را با ابزار های هم پوشان، مالکیت مبهم هزینه و چند سامانه ارزیابی ناسازگار روبه رو کند. بازبینی سبد باید بپرسد کدام قابلیت بهتر است خدمت مشترک باشد، کدام آزمایش کوچک بماند، کدام تیم ها مسئله ای تکراری را حل می کنند و کدام پروژه باید متوقف شود.

توقف کردن هم بخشی از راهبری است. اگر هیچ وقت «نه» یا «فعلا نه» نمی گوییم، فقط تقاضا ها را ثبت کرده ایم. سبد منسجم چند اولویت روشن، مالک مشخص و الگویی برای استفاده دوباره دارد؛ قرار نیست هر ایده ای را به پایلوت تبدیل کند.

سطح کنترل را با پیامد تنظیم کنید

«آیا هوش مصنوعی ریسک دارد؟» پاسخ روشنی ندارد. پرسش مفید این است که سامانه بر چه چیزی اثر می گذارد. خلاصه کردن سند عمومی با غربال متقاضی، پیشنهاد قیمت یا عامل دارای مجوز تغییر پرونده یکسان نیست.

قانون هوش مصنوعی اتحادیه اروپا نمونه ای از رویکرد مبتنی بر سطح ریسک است و برای سامانه های پرریسک الزام هایی چون کاهش ریسک، کیفیت داده، ثبت وقایع، مستندسازی، نظارت انسانی، استحکام و امنیت سایبری پیش بینی می کند. بیرون از اتحادیه نیز اصل عملی به کار می آید: میزان بازبینی باید با پیامد احتمالی متناسب باشد.

برای کاربرد کم خطر، مسیر آزمایش باید سبک باشد. برای گردش کار موثر بر مشتری یا تصمیم های پراثر، دسترسی، ارزیابی، ثبت، بازبینی انسانی و پایش بیشتری لازم است. این سطح بندی هم از تیم های کم خطر محافظت می کند و هم مانع نمی شود نمایش محصول قانع کننده جای کنترل واقعی را بگیرد.

سامانه های عاملی این موضوع را فوری تر می کنند. اگر عامل سند می خواند، ابزار فراخوانی می کند یا پرونده را تغییر می دهد، باید مالک فرایند، هویت، مجوز ها، گزارش اقدام ها، تایید های لازم و راه توقفش معلوم باشد. پیش از دادن اختیار عملیاتی بپرسید چه داده ای را می خواند، چه اقدامی می تواند بکند، چه کسی خرابی را می بیند و با چه نشانه ای کار را متوقف می کنیم.

چارچوب مدیریت ریسک هوش مصنوعی NIST و پروفایل هوش مصنوعی مولد NIST مدیریت ریسک را در سراسر چرخه عمر سامانه می بینند. ترجمه عملی آن روشن است: زمینه کاربرد را بشناسید، رفتار را بسنجید، سامانه را پس از انتشار پایش کنید و با تغییرش کنترل ها را بازبینی کنید.

استاندارد ابزار است، نه جایگزین رهبری

ISO/IEC 42001 چارچوبی برای ایجاد و بهبود سامانه مدیریت هوش مصنوعی در سازمان است. استاندارد می تواند نقش ها و روش ها را روشن کند، اما به تنهایی نمی گوید سازمان باید کدام مسئله را حل کند. حتی انطباق مرتب هم می تواند کار کم ارزشی را مرتب تر کند.

مدل عملیاتی باید نشان دهد چه کسی کاربرد را پیشنهاد می کند، سطح ریسک را تعیین می کند، داده را آماده می سازد، هزینه را می پردازد، پیش از انتشار آن را می آزماید و پس از آن کیفیت و خرابی را پایش می کند. مسیر امن باید از مسیر پنهانی آسان تر باشد؛ ابزار تاییدشده، الگوی دسترسی و راهنمای روشن فراهم کنید تا کارکنان برای انجام کار واقعی ناچار به دور زدن سیاست نشوند.

گزارش هزینه نشت داده IBM در ۲۰۲۵ می گوید ۶۳ درصد سازمان ها سیاست های راهبری هوش مصنوعی برای مدیریت آن یا پیشگیری از استفاده سایه ای نداشتند؛ گزارش همچنین به ضعف کنترل دسترسی در بسیاری از سازمان هایی اشاره می کند که رخداد مرتبط با هوش مصنوعی داشتند. این ارقام همه شرکت ها را توصیف نمی کنند، اما نشان می دهند نبود مالکیت و کنترل می تواند ریسکی پنهان بسازد.

ارزش را هم بسنجید

اگر راهبری فقط ترمز باشد، تیم ها دورش می زنند. در کنار کنترل، ارزش را هم اندازه بگیرید: آیا پشتیبانی تماس تکراری را کم کرد، دستیار داخلی زمان جست وجو را پایین آورد یا ابزار کدنویسی کیفیت تحویل را بهتر کرد؟ این نتیجه ها را با نرخ ارجاع انسانی، هزینه هر کار موفق، خطا، اصلاح خروجی و رضایت کاربران کنار هم بگذارید.

در مقاله آشکار کردن کار هوش مصنوعی پیش از آسیب دیدن اعتماد درباره پیوند دادن ارزش، ریسک و مسئولیت نوشته ام. در راهبری ابزار های هوش مصنوعی کارکنان نیز توضیح داده ام که ممنوعیت کلی معمولا نیاز واقعی را برطرف نمی کند؛ باید فهمید چه تقاضایی را می توان امن پشتیبانی کرد و چه چیزی را باید متوقف کرد.

در جلسه بعدی راهبری، فقط نپرسید «آیا درخواست تایید شده؟» بپرسید: «این کار کدام اولویت سازمان را جلو می برد، چه کسی پاسخ گوی نتیجه است و با چه شواهدی ادامه یا توقفش را تصمیم می گیریم؟» اگر این پرسش ها جواب ندارند، کمیته بیشتر مشکل را حل نخواهد کرد.

مهدی لطفی نژاد متخصص داده و هوش مصنوعی، مشاور و مدرس رسمی با نزدیک به ۲۰ سال تجربه صنعتی است. او به صدها متخصص در خاورمیانه و جنوب شرق آسیا آموزش داده و در DATATWEETS می نویسد تا این تجربه عملی را رایگان و خودآموز در اختیار همه بگذارد.