استقرار مطمئن هوش مصنوعی در سیستم‌های حیاتی کسب‌وکار

• اکنون بیشتر سازمان‌ها از هوش مصنوعی در محیط عملیاتی استفاده می‌کنند. اما تقریباً هیچ‌کدام آن را در حوزه‌های واقعاً مهم به کار نگرفته‌اند؛ یعنی تجربه‌های مشتری‌محور، تصمیم‌های حیاتی کسب‌وکار یا فرایندهایی با حداقل نظارت انسانی. مزیت رقابتی دقیقاً در همین شکاف به دست می‌آید یا از دست می‌رود.

• مانع اصلی معمولاً اعتماد است، نه توانمندی. در استقرار هوش مصنوعی در حوزه‌های حساس، این اعتماد حاصل برآورده‌شدن چهار معیار مشخص است.

• این معیارها شیوه آزمودن رفتار هوش مصنوعی، ساخت و راهبری راهکارها در مقیاس سازمانی و میزان باور واقعی رهبران شما به اهمیت این موضوع را در بر می‌گیرند.

• برآورده‌کردن این معیارهای اعتماد باعث می‌شود این شیوه‌ها در سازمان جا بیفتند و پاسخ‌گویی تقویت شود؛ در نتیجه، برای به‌کارگیری هوش مصنوعی در ایجاد تغییرات معنادار کمتر تردید خواهید داشت. بدون این پشتوانه، هوش مصنوعی به صرفه‌جویی مالی در کاربردهای حاشیه‌ای محدود می‌شود، بی‌آنکه تأثیر محسوسی بر نحوهٔ عملکرد سازمان داشته باشد.

همین موقع در سال گذشته، که در مقیاس زمانی هوش مصنوعی چند دهه پیش محسوب می‌شود، بیشتر شرکت‌ها در «برزخ اثبات مفهوم هوش مصنوعی» گرفتار بودند: تعداد زیادی اثبات مفهوم جالب که توانایی بالقوه هوش مصنوعی را نشان می‌داد، اما عملیاتی‌کردن هیچ‌یک آسان نبود. یک سال بعد، بسیاری از سازمان‌ها دست‌کم چند راهکار هوش مصنوعی را وارد محیط عملیاتی کرده‌اند که گام بزرگی رو به جلو است.

بااین‌حال، هوش مصنوعی اغلب در فرایندهای حاشیه‌ای به کار می‌رود: اجرای آن آسان‌تر است، تیم نوآوری می‌تواند با همکاری یک کاربر مشتاق کسب‌وکار آن را توسعه دهد و اگر مشکلی پیش بیاید، «دنیا به آخر نمی‌رسد». خود فرایند چندان مهم نیست، یک فرایند پشتیبان دستی وجود دارد یا چندین «انسان در حلقه» پیامدهای منفی احتمالی را محدود می‌کنند.

نتیجه این رویکرد قابل‌درک اما محافظه‌کارانه، تأثیری به همان اندازه محدود است: بعید است تغییر محسوسی در فرصت‌های رشد، تجربه مشتری یا ساختار هزینه ایجاد کرده باشد.

همین موضوع برندگان آینده را از دیگران متمایز می‌کند: شرکت‌های پیشرو برای بهره‌گیری از هوش مصنوعی در حوزه‌های مؤثر بر عملکرد کسب‌وکار سرمایه‌گذاری می‌کنند.

عقب‌مانده‌ها نیز «با هوش مصنوعی کار می‌کنند»، اما نه در جایی که تأثیری معنادار بر کسب‌وکار داشته باشد.

بله، استفاده از هوش مصنوعی در تصمیم‌های سرمایه‌گذاری، تجربه مشتری، توسعه محصول، تحقیق & طراحی و «خودکارسازی‌های بدون انسان در حلقه» پرریسک‌تر به نظر می‌رسد؛ اما پاداش واقعی نیز همان‌جاست.

شرکت‌های پیشتاز این حوزه شاید هنوز برای بازار شناخته‌شده نباشند، اما وقتی دیده شوند، نه‌تنها شکاف چشمگیر خواهد بود، بلکه سرعت بیشتر آن‌ها در استقرار هوش مصنوعی باعث می‌شود این فاصله همچنان افزایش یابد؛ درحالی‌که عقب‌مانده‌ها تازه متوجه می‌شوند تمام این مدت چه اشتباهی کرده‌اند.

پس پرسش این است: یک سازمان برای به‌کارگیری مطمئن هوش مصنوعی در فرایندهای واقعاً مهم به چه چیزهایی نیاز دارد؟

ابتدا فرض کنیم مسیر «یک ابزار هوش مصنوعی مانند ChatGPT داریم» تا «چند اثبات مفهوم داریم» و سپس «۱۰ راهکار ساده هوش مصنوعی فعال داریم» را طی کرده‌اید. اگر نه، باید در اولویت نخست به آن رسیدگی کنید. این گام‌های اولیه شاید ساده باشند، اما برای آغاز سواد هوش مصنوعی در سطح سازمان، یافتن ایده‌های بهتر برای موارد استفاده و روشن‌شدن مراحل داخلی لازم برای ورود هر راهکار هوش مصنوعی به محیط عملیاتی ضروری‌اند.

در این مرحله، سازمان باید بلندپروازتر شود و ابتدا به ارائه «راهکارهای کاربردی و معنادار هوش مصنوعی با نظارت انسانی» و سپس به جایگاه متمایزکننده «ما هوش مصنوعی را در فرایندهای اصلی و تجربه‌های مشتری به کار می‌بریم» برسد.

این گام‌های پایانی پیشرفت به‌ندرت با محدودیت فناوری روبه‌رو هستند؛ مانع اصلی اعتماد سازمانی است. زیرا همیشه دلیلی برای تأخیر یا دوری از کارهای دشوار وجود دارد:

«اگر بینش نادرستی ارائه کند چه؟»، «اگر رفتار نادرستی داشته باشد و خبرساز شویم چه؟»، «اگر محاسبه را اشتباه انجام دهد و تصمیم نادرستی بگیریم چه؟»، «اگر به مشتریان توهین کند چه؟»، «اگر مدل از دسترس خارج شود چه؟»، «چگونه از به‌روزرسانی‌های آن پشتیبانی کنیم؟»، «اگر مقررات تغییر کند چه؟»، «آیا باید منتظر مدل جدید بمانیم؟» و غیره.

از دید ما، معمولاً چهار شرط وجود دارد که اعتماد لازم برای فشردن دکمه «راه‌اندازی» یک تغییر پراُثر مبتنی بر هوش مصنوعی را فراهم می‌کند.

1. چرایی: آیا سازمان، به‌ویژه مدیران ارشد، واقعاً روایت «چرا هوش مصنوعی برای موفقیت کسب‌وکار ما مهم است» را پذیرفته‌اند؟ زیرا در غیر این صورت، سازمان احتمالاً دلایل بیشتری برای عقب‌نشینی از تصمیم‌های دشوار پیدا می‌کند.

2. توانمندسازی: آیا تیمی برای تغییر، تحول یا توانمندسازی هوش مصنوعی وجود دارد که هنگام تحول سازمان با هوش مصنوعی از آن پشتیبانی کند؟ تیمی که پذیرش، آموزش، مقررات، روش‌های جدید کار، به‌چالش‌کشیدن فرضیات، تأمین بودجه لازم و موارد دیگر را مدیریت کند. هوش مصنوعی تغییری نیست که مانند بسیاری از طرح‌های ابری یا دیجیتال بتوان گفت «فناوری آن را حل می‌کند». این تحول باید با هدایت کسب‌وکار و پشتیبانی کافی انجام شود.

3. چگونگی: آیا معماری سازمانی و راهکار مشخصی برای هوش مصنوعی کاربردی وجود دارد؟ با اینکه این حوزه پیوسته در حال تحول است، داشتن یک دیدگاه مشخص، تفکر و دانش‌افزایی درباره حفاظ‌های مناسب، هزینه، مشاهده‌پذیری، کنترل‌ها، دسترسی به مدل و موارد دیگر را الزامی می‌کند. این کار به‌تدریج در داخل سازمان اعتبار ایجاد می‌کند که در زمینه هوش مصنوعی «می‌داند چه می‌کند» و از شکل‌گیری روش‌های متعدد و ناسازگار برای ساخت راهکارها جلوگیری می‌کند.

4. آزمون اعتماد برای راه‌اندازی: صاحبان راهکار می‌توانند پاسخ به این پرسش را بی‌نهایت به تعویق بیندازند: «آیا برای راه‌اندازی به‌اندازه کافی خوب است؟» آزمون سنتی به‌دست تیم‌های تضمین کیفیت، چنین اعتماد و حس پاسخ‌گویی را برای یک سیستم هوش مصنوعی غیردترمینیستی ایجاد نمی‌کند. ارزیابی‌ها این کار را انجام می‌دهند.

بیایید این موارد را از آخر به اول بررسی کنیم، زیرا این ترتیب به تصمیم‌گیری درباره اعتماد لازم برای راه‌اندازی نزدیک‌تر است.

سازمان‌ها دهه‌ها برای تصمیم‌گیری درباره مناسب‌بودن یک نسخه به تیم تضمین کیفیت متکی بوده‌اند. روی کاغذ، آزمون را ذی‌نفعان کسب‌وکار انجام می‌دادند؛ اما در واقع تیم تضمین کیفیت مسئول آن بود. نتیجه یا قبولی بود یا ردشدن، بر پایه بی‌شمار قانون «اگر این، آنگاه آن». کاری پرحجم، اما سرراست بود.

این روش برای هوش مصنوعی جواب نمی‌دهد، زیرا باید رفتار را ارزیابی کنیم.

ارزیابی‌ها یا evalها روشی برای سنجش‌پذیرکردن رفتار کیفی هوش مصنوعی هستند. به‌جای قبولی یا ردشدن، معیارهایی مانند درستی، لحن، اتکا به واقعیت‌ها و رفتار در امتناع را تعریف می‌کنید و به آن‌ها امتیاز می‌دهید. هم‌زمان با بهبود پرامپت‌ها، مدل‌ها، محدودیت‌های کنترلی و موارد دیگر، این امتیازها را در طول پروژه دنبال می‌کنید تا تیم پروژه، کمیته‌های تغییر و رهبران کسب‌وکار مبنایی داشته باشند که بتوانند با اطمینان بر اساس آن اقدام کنند؛ برای مثال، امتیاز درستی که در طول پروژه از x به y رسیده است.

این عدد دو کار انجام می‌دهد. نخست، با نشان‌دادن بهبود در گذر زمان و ارائه شواهد ملموس به ذی‌نفعان مبنی بر اینکه سیستم در چارچوب انتظارات تعیین‌شده همواره به‌شکلی قابل‌اعتماد رفتار می‌کند، اعتماد می‌سازد.

دوم، باعث می‌شود مسئولیت‌پذیری مشخصی شکل بگیرد. این اعداد و سابقهٔ مستند ارزیابی‌ها چیزی هستند که می‌توان به آن‌ها استناد کرد. یک مجموعهٔ ارزیابی مستند که در دامنه‌ای مشخص از سناریوها آزموده شده باشد، برای هوش مصنوعی همان نقشی را دارد که گزارش آزمون در فرایند تأیید نهایی دارد: نشان می‌دهد بررسی‌های لازم انجام شده‌اند و سیستم فقط همان کاری را انجام می‌دهد که باید، آن هم فقط به همان روشی که باید.

البته این اعداد فقط زمانی معنا دارند که معیارهای ارزیابی به‌اندازهٔ کافی جامع باشند. این موضوع مستلزم تغییری در مدل عملیاتی است که بیشتر سازمان‌ها در ابتدا در آن اشتباه می‌کنند: مالکیت معیارهای ارزیابی باید با «کسب‌وکار» باشد، نه تیم فناوری یا تیم تضمین کیفیت، و نباید هم به یک کاربر کم‌تجربه واگذار شود. صاحبان محصول و متخصصان، حوزهٔ تخصصی، موارد مرزی، لحن مطلوب، انواع تعاملاتی که ممکن است کاربران با سیستم داشته باشند، مراحل منطقی استدلال، حالت‌های شکست، جفت‌های درست پرسش و پاسخ و موارد دیگر را بهتر می‌شناسند. کسانی که از راهکار استفاده می‌کنند و آن را مستقر می‌کنند باید تعیین کنند یک نتیجهٔ خوب چه ویژگی‌هایی دارد.

بنابراین، اگر قرار است راهکاری را تأیید کنید که هوش مصنوعی را در قلب تجربه مشتری به کار می‌گیرد، کافی است دو پرسش مطرح کنید:

(۱) چه کسی معیارهای ارزیابی را طراحی کرده است؟ و

(۲) آیا عملکرد ارزیابی در گذر زمان طبق این معیارها بهتر شده و اکنون از حداقل آستانه عبور کرده است؟

اگر پاسخ این است که "تیم فناوری آن‌ها را ساخته، اما ما از نتایج راضی هستیم"، برنامه آماده نیست. اگر پاسخ این است که «بله، هفته گذشته آزمودیم و قبول شد»، احتمالاً بلوغ ارزیابی به حدی نیست که اعتماد لازم را ایجاد کند، زیرا بعید است ارزیابی‌ها نقطه آغاز ساخت راهکار بوده باشند.

اما اگر صاحب محصولِ بخش کسب‌وکار در تمام مراحل ساخت، ارزیابی‌ها را تعریف، بازبینی و به‌طور مستمر بهبود داده باشد و بتواند نشان دهد که روند عملکرد در مسیر درستی پیش می‌رود، آن‌وقت چیزی دارید که ارزش تأیید نهایی را دارد.

لایه دیگری از اعتماد، از هم‌سویی با اصول و استانداردهای معماری هوش مصنوعی حاصل می‌شود. شاید برای پنج برنامه نخست هوش مصنوعی مناسب بود که هرکدام را به هر روش مقتضی و صرفاً برای شروع بسازید؛ اما برای توسعه در مقیاس سازمانی و استقرار سریع، ایمن و تحت راهبری مناسب، رویکردی ساختاریافته‌تر شامل معماری‌های مرجع برنامه و یک پلتفرم هوش مصنوعی سازمانی ضروری می‌شود.

همه تیم‌های مهندسی باید بتوانند دسترسی به مدل، حفاظ‌ها، مشاهده‌پذیری، مقیاس‌پذیری، مدیریت هزینه و موارد مشابه را به‌سرعت «به ارث ببرند» تا تمرکز خود را بر مهندسی راهکار بگذارند.

داشتن دیدگاهی درباره پلتفرم هوش مصنوعی سازمانی و رویکردهای معماری، حتی اگر به‌دلیل سرعت بالای تغییر عمر کوتاهی داشته باشد، اعتماد سازمان به توانایی استقرار ایمن هوش مصنوعی در سیستم‌های حیاتی را بیشتر می‌کند. زیرا نشان می‌دهد فردی همه عوامل کلیدی را بررسی و مسیر بهینه استقرار را انتخاب کرده است؛ موضوعی که اعتماد به پشتیبانی راهکار از آن فرایندهای مهم را افزایش می‌دهد.

منظور این نیست که «همان کار قبلی را انجام دهیم، اما به یک ابزار هوش مصنوعی دسترسی داشته باشیم». شاید کلیشه‌ای باشد، اما تحول یعنی بازطراحی فرایندها، بازنگری محصولات و خدمات، تکامل تجربه مشتری و تغییر روش‌های کار و به‌احتمال زیاد ساختار تیم‌ها.

چنین تحولی با کارهای جنبی پیش نمی‌رود و واحد فناوری نیز نمی‌تواند هدایتش کند؛ حتی تیم «نوآوری» شما با ظرفیت معادل سه نیروی تمام‌وقت (3 FTE) هم از عهدهٔ آن برنمی‌آید. اگر هم رویکرد «خودش درست می‌شود» را در پیش بگیرید، به سرعت تغییری که رقبای برنده ممکن است به آن برسند دست نخواهید یافت.

افزون بر این، شناسایی موارد استفاده واقعاً «تحول‌آفرین» و جلب حمایت برای آن‌ها، مستلزم شناخت عمیق هوش مصنوعی در سراسر سازمان و نگرشی مثبت به آن است.

بنابراین، تحول هوش مصنوعی شما به افرادی نیاز دارد که نیازهای سازمان و چگونگی ایجاد تغییر را بدانند و هوش مصنوعی را بشناسند؛ هیئت‌مدیره نیز باید اختیار تحقق آن و تأمین هماهنگی، انرژی، بودجه، نفوذ، راهبری، اولویت‌بندی و تصمیم‌گیری را به آن‌ها بدهد.

به‌ویژه در مراحل اولیه، وجود یک واحد مرکزی مانند «مرکز هوش مصنوعی»، «تحول هوش مصنوعی» یا «دفتر هوش مصنوعی» می‌تواند بسیار مؤثر باشد. این تیم مرکزی اطمینان ایجاد می‌کند که سازمان راهبردی مشخص برای اجرا دارد، تصمیم‌های کلان می‌توانند به‌سرعت اتخاذ شوند و اختیار تصمیم‌گیری در سراسر سازمان توزیع شود، و همچنین معیارهای کیفی تحول هوش مصنوعی را تعیین می‌کند. بدون چنین واحدی، رویکرد ممکن است بیش‌ازحد پراکنده شود و به ناهماهنگی در تصمیم‌ها، انتخاب محصولات یا راهکارها و سطح کیفیت بینجامد؛ وضعیتی که در نهایت اعتماد لازم برای به‌کارگیری هوش مصنوعی در حوزه‌های حساس و پرپیامد را تضعیف می‌کند.

همان‌طور که پیش‌تر گفتیم، شرکت‌هایی از هوش مصنوعی مزیت رقابتی واقعی به دست می‌آورند که تجربه، تخصص و اعتماد سازمانی لازم را ایجاد کنند تا هوش مصنوعی را مکرر و سریع در قلب فرایندها و تجربه‌های مهمی به کار گیرند که تجربه مشتری، عملکرد محصول، سرعت تولید و موارد دیگر را بهبود می‌دهند.

شیوه‌های ارزیابی مناسب، معماری سریعاً سازگار و مقیاس‌پذیر و نگرش تحول‌گرای «می‌توانیم انجامش دهیم» که به یادگیری، سازگاری و ایجاد روش‌های جدید کار کمک کند، همگی ضروری‌اند.

بااین‌حال، هیچ‌یک از این موارد با رویکرد «از پایین به بالا» موفق نخواهد شد. سرعت و تأثیر تغییرات بیش از آن است که چنین رویکردی جواب بدهد. «تأیید هیئت‌مدیره» یا «حمایت مدیریت» نیز کافی نیست.

اگر کارکنان شما به‌روشنی ندانند چرا تغییر ضروری است، چه پیامد خوب یا بدی برای شخص آن‌ها دارد و چه چیزی نصیبشان می‌شود، تحول از مسیری غیررسمی و با خسارت‌های جانبی فراوان رخ خواهد داد.

بنابراین، چهارمین مؤلفه کسب مزیت واقعی از پذیرش هوش مصنوعی این است که رهبران شرکت واقعاً درک کنند و باور داشته باشند سرمایه‌گذاری در هوش مصنوعی برای موفقیت مستمر شرکت ضروری است. این راهبرد هوش مصنوعی خود آن‌هاست که در بیانیه مأموریت و اهداف گنجانده شده، مرتب آن را ترویج می‌کنند و تصمیم‌هایشان را با اقدام عملی همراه می‌سازند.

این امر انگیزه، حمایت و احساس فوریت لازم را برای تیم‌های سراسر سازمان ایجاد می‌کند تا مهارت‌هایشان را ارتقا دهند و با وجود کمی دشواری، تصمیم‌های مهمی بگیرند که آن‌ها را به مسیر سخت‌تر اما پربازده‌تر هدایت می‌کند. این همان اعتمادی است که اجازه می‌دهد برای تجربه مشتری یا فرایند تصمیم‌گیری سرمایه‌گذاری مبتنی بر هوش مصنوعی، دکمه «راه‌اندازی» را فشار دهید.

برندگان عرصه هوش مصنوعی در دو سال آینده، شرکت‌هایی با بیشترین تعداد استقرار نخواهند بود. برندگان کسانی‌اند که هوش مصنوعی را در سیستم‌ها و فرایندهای مهم، مشتری‌محور، اثرگذار بر تصمیم‌گیری و حیاتی کسب‌وکار به کار انداخته‌اند و توان سازمانی لازم را برای انجام مستمر و ایمن این کار ایجاد کرده‌اند.

اقدام بعدی شما چیست؟ اگر سازمان شما «با هوش مصنوعی کار می‌کند» اما این فناوری بر موفقیت شرکت اثری ندارد، بکوشید به پرسش‌های زیر پاسخ دهید:

1. آیا نقش هوش مصنوعی در تحقق مأموریت شرکت شما روشن است؟ آیا احساس می‌کنید رهبران واقعاً باور دارند پذیرش هوش مصنوعی برای موفقیت آینده شرکت ضروری است؟

2. آیا واحدی مرکزی برای پیشبرد برنامه هوش مصنوعی، آموزش سازمان و هماهنگی فعالیت‌ها وجود دارد؟

3. آیا تیم فناوری در حال ایجاد تخصص، ظرفیت و الگوهایی است که مهندسی سریع‌تر و ایمن‌تر هوش مصنوعی را تسهیل کنند؟

4. آیا نسخه‌ها بدون موانع ناشی از پرسش‌های بی‌پاسخ درباره رفتار هوش مصنوعی وارد محیط عملیاتی می‌شوند؟

اگر پاسخ هرکدام منفی است، اکنون می‌دانید برای افزایش اعتماد سازمانی از کجا شروع کنید؛ اعتمادی که امکان استقرار سریع و یکپارچه هوش مصنوعی و دستیابی به مزیت رقابتی در حوزه‌های واقعاً مهم را فراهم می‌کند.