هوش مصنوعی در لحظه ای حساس است. ظهور سریع هوش مصنوعی مولد، پیش‌بینی‌های زیادی در مورد رشد و تأثیر هوش مصنوعی بر تجارت و جامعه به همراه داشته است. اما یک مسئله ممکن است سازمان شما را از افزایش سطح هوش مصنوعی به پتانسیل کامل خود باز دارد: اعتماد.
بیش از نیمی از مصرف کنندگان فکر می کنند هوش مصنوعی یک تهدید جدی برای جامعه است. و بدون اعتماد به هوش مصنوعی چه در داخل شرکت شما و چه فراتر از آن، هوش مصنوعی هرگز به پتانسیل خود نمی رسد.
راه حل این چالش «هوش مصنوعی قابل اعتماد» است: هوش مصنوعی طراحی، توسعه، استقرار و اداره می شود تا نیازهای ذینفعان مختلف را برای پاسخگویی، شایستگی، ثبات، قابلیت اطمینان، همدلی، صداقت و شفافیت برآورده کند. معرفی هوش مصنوعی قابل اعتماد یک استراتژی کاملاً تعریف شده است که به کسب و کارها اجازه می دهد هوش مصنوعی را به گونه ای به کار گیرند که از تمام مزایای آن بهره ببرند و در عین حال خطر و تردید را به حداقل برسانند.
شکاف اعتماد
در زمینه هوش مصنوعی، اعتماد به معنای اطمینان به یک نتیجه خاص است. کاربران هوش مصنوعی – چه توسعه دهندگان نرم افزاری که برنامه های کاربردی می سازند و چه مصرف کنندگانی که با ربات های چت ارتباط برقرار می کنند – باید مطمئن باشند که خروجی های هوش مصنوعی که استفاده می کنند دقیق، بی طرفانه و مفید هستند. نتایج نادرست یا غیرمنتظره، خواه توهمات genAI یا خطا در نتایج مبتنی بر متن، و تعصب جاسازی شده از جمله نگرانی‌های اصلی کاهش اعتماد مدیران تجاری به هوش مصنوعی هستند.
شکاف اعتماد در شرکت چقدر است؟ در نظرسنجی اخیر Forrester، 25٪ از تصمیم گیرندگان داده و تجزیه و تحلیل گفتند که عدم اعتماد به سیستم های AI یک نگرانی اصلی در استفاده از AI است، و 21٪ به عدم شفافیت سیستم ها و مدل های AI / یادگیری ماشینی (ML) اشاره می کنند.
با این حال، مصرف‌کنندگان بسیار بدبین هستند و می‌گویند که می‌خواهند بدانند هوش مصنوعی در کجای مسیر خریدشان قرار دارد و می‌خواهند سازمان‌هایی که با آنها تعامل دارند از هوش مصنوعی استفاده کنند. تنها 28 درصد از بزرگسالان آنلاین در ایالات متحده می گویند که به شرکت هایی که از مدل های هوش مصنوعی استفاده می کنند با مشتریان خود اعتماد دارند، در حالی که 46 درصد می گویند که اینطور نیست. و بیش از نیمی (52٪) گفتند که احساس می کنند “هوش مصنوعی یک تهدید جدی برای جامعه است.”
برای گروه رو به رشد سازمان هایی که هوش مصنوعی را جزء کلیدی رشد خود می دانند، شکاف اعتماد باید برطرف شود.
ساخت هوش مصنوعی قابل اعتماد
با وجود این همه تردید و بی اعتمادی در بازار، عقب نشینی از ابتکارات هوش مصنوعی در این مقطع حساس ممکن است بزرگترین اشتباهی باشد که یک تجارت می تواند مرتکب شود. با توجه به پتانسیل عظیم هوش مصنوعی، راه حل این چالش ها استفاده کمتر از آن نیست، بلکه استفاده از هوش مصنوعی قابل اعتماد بیشتر است.
طبق تعریف، هوش مصنوعی قابل اعتماد شامل “هفت اهرم اعتماد” است:
1. شفافیت: برای بسیاری از کاربران، هوش مصنوعی یک جعبه سیاه است. رویکردهای هوش مصنوعی قابل توضیح می توانند شفافیت و قابلیت تفسیر مدل را بهبود بخشند.
2. شایستگی: هوش مصنوعی احتمالی است. ماشین‌ها از داده‌های دنیای واقعی یاد می‌گیرند و بنابراین عدم قطعیت ذاتی در جهان را منعکس می‌کنند. رهبران مشاغلی که از هوش مصنوعی استفاده می کنند باید با این واقعیت راحت باشند که پیش بینی های هوش مصنوعی قطعی نیستند.
3. سازگاری: “دریفت مدل” زمانی اتفاق می افتد که عملکرد یک مدل در طول زمان به دلیل تغییرات داده ها یا عوامل دیگر تغییر می کند. بهترین راه برای اطمینان از ثبات هوش مصنوعی، پذیرش ModelOps است – ابزارها، فناوری‌ها و شیوه‌هایی که به سازمان‌ها کمک می‌کنند تا به طور موثر مدل‌های هوش مصنوعی را استقرار، نظارت، بازآموزی و مدیریت کنند.
4. مسئولیت پذیری: هوش مصنوعی هرگز کامل نخواهد بود. بنابراین، اگر هوش مصنوعی سازمان شما دچار مشکل شد – مانند زمانی که یک ربات چت برای سایتی در مورد اختلالات خوردن که به بازدیدکنندگان توصیه می شود شروع به شمارش کالری می کند – مسئولیت را بر عهده بگیرید، توضیح دهید که چه چیزی اشتباه بوده و چرا، و اقدامات روشنی را برای جلوگیری از تکرار آن اشتباه در آینده انجام دهید.
5. صداقت: تعیین یک مدیر ارشد اخلاق یا اعتماد در سازمان شما می تواند به هدایت فرآیند هوش مصنوعی آن و ایجاد اعتماد در داخل و خارج کمک کند. حتی بدون چنین موقعیتی، یک سازمان باید به وضوح مشخص کند که کدام نقش مسئول یکپارچگی هوش مصنوعی است.
6. قابلیت اطمینان: اعتماد به هوش مصنوعی به معنای اعتماد به نتایج آن است. و قابل اعتماد بودن باعث ایجاد اعتماد به نفس می شود. موثرترین راه برای تقویت قابلیت اطمینان هوش مصنوعی، آزمایش آن با شبیه سازی موقعیت ها به صورت مجازی قبل از آزمایش یک مدل در دنیای واقعی است.
7. همدلی: درگیر کردن گروه گسترده و متنوعی از سهامداران برای آزمایش مدل‌ها و ترکیب بازخورد می‌تواند سوگیری را حذف کند و سطحی از همدلی برای کاربران و مشتریان را در مدل‌های هوش مصنوعی تعبیه کند.
البته، تمرکز شرکت شما بر روی کدام یک از این اهرم ها به عواملی مانند صنعت و اهداف شما بستگی دارد. اما موفقیت بلندمدت با هوش مصنوعی با تعداد ابزارهایی که سازمان شما به کار می‌گیرد یا سرعت به کارگیری آنها اندازه‌گیری نمی‌شود. داستان‌های موفقیت‌آمیز هوش مصنوعی، کسب‌وکارهایی خواهند بود که ارزش واقعی را از هوش مصنوعی به دست می‌آورند – و این به وضوح به میزان اعتماد مشتریان و کارمندان شما به این فناوری بستگی دارد.
به دنبال شریک مناسب برای کمک به شما در طول سفر هوش مصنوعی خود هستید؟ Forrester را بشناسید.