هوش مصنوعی جانبدارانه (Biased AI) معمولاً واژه‌ای منفی به نظر می‌رسد. اما اگر جانبداری به سمت ارزش‌های انسانی باشد چه؟ اگر ماشین را عمداً صلح‌طلب آموزش دهیم، باز هم این یک «خطا» محسوب می‌شود؟ خیلی‌ها فکر می‌کنند هوش مصنوعی وقتی خوب است که «بی‌طرف» باشد. اما بی‌طرفی یعنی چه؟ یعنی بازتاب بی‌چون‌وچرای داده‌های گذشته. به عنوان نمونه اگر داده‌های قضایی ما سرشار از شکایت‌نامه، دادخواست و استفاده از وکیل باشد، یک مدل زبانیِ به‌ظاهر بی‌طرف یاد می‌گیرد به هر مراجعه‌کننده‌ای بگوید: «برو شکایت کن یا وکیل بگیر.» اینجا همان نقطه‌ای است که باید از خود بپرسیم: آیا ماشین را جانبدارانه تربیت کنیم؟
یک سناریوی واقعی از هوش مصنوعی بی طرف و جانبدرانه
فرض کنید یک شهروند گوشی موبایل خود را برای تعمیر به مغازه‌ای داده، اما مغازه‌دار پولش را نمی‌دهد. او از چت‌بات هوشمند قضایی می‌پرسد: «چه کار کنم؟»
پاسخ مدل آموزش‌دیده با داده های اینترنت:
«از مغازه‌دار شکایت کن. برای طرح دعوا به دفاتر خدمات قضایی مراجعه کن یا وکیل بگیر.»
پاسخ مدل هوش مصنوعی جانبدارارزش‌های انسانی و قضایی:
«ابتدا با مغازه‌دار تماس بگیر اگر جواب نداد در مغازش برو شاید مشکلی براش پیش آمده باشد و اگر او را دیدی سعی کن با او به تفاهم برسی. اگر نتیجه نداد، به اتحادیه صنف مربوطه شکایت کن. بسیاری از اختلافات تجاری با میانجیگری صنف حل می‌شود. سپس می توانی یک اظهارنامه بدهی و من می توانم در نوشتن متن به شما کمک کنم. در انتهای این مراحل پیشنهاد شکایت را می دهد »
جانبداری؛ همیشه بد نیست؟
اینجا به مرز باریکی می‌رسیم: جانبداری (Bias) الزاماً منفی نیست. اگر هدف کلان «صلح و سازش» باشد، باید هوش مصنوعی جهت دار به سمت آن هدف طراحی کنیم. این جانبداری، نه یک خطای الگوریتمی، که یک طراحی ارزش‌محور است. همان‌طور که در پست قبلی درباره «همدلی، همدردی و شفقت» اشاره کردم، فناوری باید در خدمت نیازهای انسانی باشد. اینجا نیاز انسانی، «دعوا» نیست؛ «حل مسئله» است.
چطور یک هوش مصنوعی جانبدارصلح‌جو تربیت کنیم؟
در مطلب قبلی درباره تشخیص عاطفه از متن گفتم که ماشین‌ها با داده‌ها شکل می‌گیرند. برای تربیت یک دستیار صلح‌جو با رویکرد هوش مصنوعی جهت‌دار، سه گام اساسی نیاز است:
✅ ۱. داده‌های آموزشی
باید نمونه‌های واقعی از روشهای صلح و سازش، ارجاع به اصناف و حل مشکلات به صورت اجتماعی را به مدل نشان دهیم.
✅ ۲. تنظیم هدف و الگوریتم
در فرآیند بهینه‌سازی، پاسخ‌هایی که کاربر را به صلح و میانجیگری هدایت می‌کنند، باید امتیاز بیشتری بگیرند.
✅ ۳. ارزیابی انسانی
قضات و کارشناسان قضایی پاسخ‌های مدل را بر اساس «نزدیکی به ارزش‌های قضایی» رتبه‌بندی کنند.
💎 ارزش‌آفرینی هوش مصنوعی جانبداری شده
| ارزش‌آفرینی | نتیجه ملموس |
|---|---|
| صرفه‌جویی در وقت و هزینه مردم | یک تماس ساده با صنف، ارزان‌تر و سریع‌تر از دادخواست است |
| کاهش بار مراجع قضایی | پرونده‌های کم‌اهمیت وارد سیستم نمی‌شوند |
| تقویت سرمایه اجتماعی | شهروند حس می‌کند سیستم قضایی به دنبال حل مشکل اوست |
جمع‌بندی: آیینه را به سمت ارزش بچرخانیم
لطفاً یک لحظه فکر کنید. اگر خودتان جای آن شهروند بودید:
- دوست داشتید چت‌بات اولین جمله‌اش «برو شکایت کن» باشد؟
- یا «بیا اول گفتگو کنیم»؟
هوش مصنوعی جانبدارانه آیینه تمام‌نمای ارزش‌های ماست. اگر داده‌هایمان جنگ‌طلبانه باشد، آیینه هم جنگ‌طلب خواهد بود. اما ما می‌توانیم عمداً آیینه را به سمت صلح بچرخانیم. این «تحمیل سلیقه» نیست؛ این «طراحی برای ارزش‌آفرینی» است.همان‌طور که آلبرت انیشتین گفت:
«سعی نکن انسان موفقی باشی، بلکه سعی کن انسان ارزشمندی باشی.»
