آموزش مدیران برای مدیریت هوش مصنوعی

مدیران آینده باید توانایی مدیریت سامانه‌های هوشمند را نیز کسب کنند. این موضوع نیازمند توسعه مهارت‌هایی جدید است، از جمله:

تعیین سطح مناسب استقلال عمل برای عامل‌های هوش مصنوعی
ارزیابی انتقادی پیشنهادها و خروجی‌های تولیدشده توسط هوش مصنوعی
تشخیص زمان‌هایی که نیاز به مداخله انسانی وجود دارد
توانایی نادیده گرفتن یا اصلاح تصمیم‌های هوش مصنوعی در شرایط مناسب

این قابلیت‌ها با حرکت سازمان‌ها به سمت ساختارهای سازمانی مسطح‌تر و افزایش دامنه نظارت مدیران، اهمیت بیشتری پیدا می‌کنند. در چنین محیط‌هایی، مدیران باید بتوانند علاوه بر هدایت کارکنان، عملکرد سیستم‌های هوشمند را نیز مدیریت و کنترل کنند. بانک DBS با استفاده از اصول PURE رویکردی مسئولانه برای تصمیم‌گیری مبتنی بر هوش مصنوعی ایجاد کرده است. این اصول شامل چهار مفهوم کلیدی هستند:

Purposeful هدفمند
Unsurprising قابل پیش‌بینی و بدون غافلگیری
Respectful محترمانه و مبتنی بر احترام
Explainable قابل توضیح

این چارچوب به مدیران کمک می‌کند تصمیم‌هایی شفاف و مبتنی بر داده اتخاذ کنند، در حالی که نظارت و قضاوت انسانی همچنان حفظ می‌شود.

ارزیابی عملکرد هوش مصنوعی

هوش مصنوعی نباید صرفاً در سازمان مستقر شود و سپس بدون نظارت رها گردد. سازمان‌ها باید روش‌های نظام‌مندی برای ارزیابی عملکرد هوش مصنوعی در تمام چرخه عمر آن ایجاد کنند.
ارزیابی مؤثر هوش مصنوعی شامل موارد زیر است:

تعریف دقیق معیارهای عملکرد
پایش مستمر پس از استقرار سیستم
بازآموزی منظم مدل‌ها و بهبود مستمر آن‌ها
ایجاد سازوکارهای نظارتی متناسب با سطح ریسک و میزان تأثیرگذاری هوش مصنوعی

نکته مهم این است که ارزیابی هوش مصنوعی تفاوت اساسی با ارزیابی عملکرد کارکنان انسانی دارد. ارزیابی مدل‌های هوش مصنوعی به تخصص‌های ویژه، فرآیندهای اختصاصی و قابلیت‌های پایش در مقیاس گسترده نیاز دارد.

پایش مستمر رفتار هوش مصنوعی
سازمان‌ها باید به‌صورت مستمر سیستم‌های هوش مصنوعی خود را از نظر موارد زیر بررسی کنند:

دقت عملکرد
قابلیت اعتماد
عدالت و عدم تبعیض
سوگیری
ثبات عملکرد در طول زمان

پژوهش‌های جدید در زمینه همکاری انسان و هوش مصنوعی همچنین پیشنهاد می‌کنند که سازمان‌ها تنها عملکرد فنی مدل را اندازه‌گیری نکنند، بلکه پیامدهای انسانی استفاده از هوش مصنوعی را نیز ارزیابی کنند.

این موارد شامل:

میزان اعتماد کاربران به سیستم
میزان اطمینان افراد به پیشنهادهای ارائه‌شده توسط هوش مصنوعی
حفظ توانایی قضاوت مستقل انسان‌ها
کیفیت همکاری میان انسان و هوش مصنوعی

برای مثال، شرکت Spotify از چنین رویکردی استفاده کرده است. متخصصان انسانی ابتدا معیارهای یک خلاصه باکیفیت برای پادکست‌ها را تعریف کردند، سپس همین استانداردهای انسانی به‌عنوان مبنایی برای ارزیابی خودکار و بهبود مستمر خروجی‌های تولیدشده توسط هوش مصنوعی مورد استفاده قرار گرفتند.