هوش مصنوعی و پرسشهای نوپیدا
هوش مصنوعی بهسرعت در حال تبدیل شدن به یکی از مؤثرترین نیروهای شکلدهنده به زندگی اجتماعی، اقتصادی و سیاسی جوامع است. از نظامهای تصمیمگیری خودکار و الگوریتمهای استخدام گرفته تا نظارت دیجیتال، تحلیل دادههای کلان و خدمات عمومی، این فناوری فرصتهایی کمسابقه و در عین حال مخاطراتی جدی برای حقوق بشر، عدالت اجتماعی و برابری ایجاد کرده است.
در چنین زمینهای، پرسش اصلی دیگر این نیست که آیا از هوش مصنوعی استفاده خواهیم کرد یا نه، بلکه این است که بر اساس چه اصولی، با چه نظارتی، و به نفع چه کسانی این فناوری توسعه و بهکار گرفته میشود.
بیانیهٔ رم: پاسخی جهانی به موضوعی جهانی
بیانیهٔ رم دربارهٔ اخلاق هوش مصنوعی که در ۲۸ فوریهٔ ۲۰۲۰ معرفی شد، پاسخی به پرسشهای پیشگفته است. این بیانیه تلاشی است برای ایجاد قواعدی اخلاقی و حقوقمحور مشترک که بتواند توسعه و استفاده از هوش مصنوعی را در مسیر کرامت انسانی، عدالت و خیر عمومی هدایت کند.
آنچه بیانیهٔ رم را متمایز میکند، ماهیت بینابخشی و میانرشتهای آن است. در شکلگیری این ابتکار، بازیگرانی از حوزههای گوناگون—از نهادهای مذهبی جهانی مانند واتیکان گرفته تا شرکتهای پیشرو فناوری مانند مایکروسافت و IBM، و نیز نهادهای دانشگاهی و مدنی—در کنار یکدیگر قرار گرفتهاند. این مشارکت نشان میدهد که پرسشهای اخلاقی فناوری را نمیتوان در چارچوب یک رشته، یک بخش یا یک گفتمان محدود پاسخ داد.
متن کامل بیانیهٔ رم در این نشانی در دسترس است:
https://www.romecall.org
شش اصل بنیادین بیانیهٔ رم
بیانیهٔ رم شش اصل کلیدی را بهعنوان پایهٔ اخلاقی استفاده از هوش مصنوعی معرفی میکند:
۱- شفافیت: نظامهای هوش مصنوعی باید قابل فهم و قابل توضیح باشند، بهویژه زمانی که بر زندگی انسانها اثر میگذارند.
۲- شمولپذیری: فناوری باید همهٔ انسانها را در نظر بگیرد و به بازتولید یا تشدید حذف و حاشیهرانی نینجامد.
۳- مسئولیتپذیری: طراحان، توسعهدهندگان و استفادهکنندگان از هوش مصنوعی باید در برابر پیامدهای آن پاسخگو باشند.
۴- بیطرفی و انصاف: الگوریتمها نباید تبعیضهای موجود را تقویت کنند یا نابرابریهای ساختاری را بازتولید نمایند.
۵- اعتمادپذیری: سیستمها باید ایمن، پایدار و قابل اتکا باشند و اعتماد عمومی را تضعیف نکنند.
۶- امنیت و حفظ حریم خصوصی: حفاظت از دادههای شخصی و کرامت انسانی باید در مرکز طراحی فناوری قرار گیرد.
این اصول، پیوندی روشن میان اخلاق فناوری و ارزشهای بنیادین حقوق بشر برقرار میکنند.
اهمیت نگاه بینابخشی
تجربهٔ جهانی نشان میدهد که بدون گفتوگوی واقعی میان بخشهای مختلف—حقوق بشر، فناوری، سیاستگذاری، جامعهٔ مدنی و حتی سنتهای اخلاقی و فرهنگی—هوش مصنوعی میتواند به ابزاری برای تعمیق نابرابری، نظارت گسترده و سلب حقوق بدل شود.
بیانیهٔ رم یادآوری میکند که همکاری فرابخشی نه یک گزینهٔ لوکس، بلکه یک ضرورت حقوقبشری است. تنها از طریق چنین همکاریهایی میتوان از فناوری بهعنوان ابزاری برای عدالت اجتماعی، کاهش تبعیض و تقویت کرامت انسانی بهره برد.
دیدگاه انستیتوت رویا
انستیتوت رویا از بیانیهٔ رم دربارهٔ اخلاق هوش مصنوعی و ابتکارات مشابهی که به دنبال پیوند دادن فناوری با حقوق بشر، عدالت اجتماعی و کاهش تبعیض هستند، حمایت میکند. ما باور داریم که بدون چارچوبهای اخلاقی روشن و مشارکت فعال جامعهٔ مدنی، فناوریهای نوین میتوانند بیش از آنکه توانمندساز باشند، آسیبزا شوند.
انستیتوت رویا از همه ابتکارات و برنامههایی که میکوشند فناوری، از جمله هوش مصنوعی در خدمت انسان، برابری و کرامت انسانی باشند پشتیبانی کرده، همه فعالان اجتماعی را به مشارکت در این ابتکارات و برنامهها دعوت میکند.