فصل پنجم «کتاب حکمرانی آینده» با این ادعا آغاز میشود که اخلاق ماشینی -شاخهای که به «اخلاقورزی ماشینها» بهعنوان سوژه اخلاقی میپردازد- بهشدت گرفتار سوگیری تکلیفمحور است. یعنی بیشتر بحثها حول «وظیفه»، «الزام»، «ممنوعیت» و «اجازه» میچرخد و بخش ارزشمحور و فضیلتمحور اخلاق تقریباً نادیده گرفته میشود. این سوگیری باعث میشود تصویر ناقصی از اخلاق ارائه شود و پیشرفت نظری در اخلاق ماشینی کند گردد.
برای نشاندادن این مشکل، فصل مفهوم فراوظیفهگرایی را وارد بحث میکند: کنشهایی که «فراتر از وظیفه» هستند—مثل قهرمانی اخلاقی، نیکوکاری، داوطلبی و بخشش. این کنشها شایسته ستایشاند، اما انجامشان الزامی نیست. نویسنده نشان میدهد که تصور چنین رفتارهایی در ماشینها دشوار است، زیرا فراوظیفهگرایی به سه عنصر نیاز دارد که در ماشینها مبهم یا غایباند:
۱) دو چهره اخلاق: «درست» و «خوب»
اخلاق انسانی هم تکلیفمحور است (وظایف، ممنوعیتها، حقوق) و هم ارزشمحور (فضیلتها، آرمانها، انگیزهها). اما اخلاق ماشینی تقریباً فقط به بخش «درست» میپردازد و بخش «خوب» را کنار میگذارد. فراوظیفهگرایی دقیقاً در نقطه تلاقی این دو قرار دارد—و همین باعث میشود در ماشینها نامتعارف و پیچیده باشد.
۲) اختیار اخلاقی
کنش فراوظیفهای باید داوطلبانه باشد و از «فضای آزاد از الزام» ناشی شود. اما در هوش مصنوعی، هرچه بیشتر برای کنترل خطرات، محدودیت و نظارت اعمال کنیم، اختیار اخلاقی ماشین کاهش مییابد. این یعنی ماشین نمیتواند «از سر ارزش شخصی» کاری انجام دهد، چون ارزش شخصی ندارد و آزادیاش محدود است.
۳) بعد شخصی اخلاق
بسیاری از کنشهای فراوظیفهای—مثل بخشش یا مراقبت—ریشه در روابط شخصی، احساسات و طرح زندگی فرد دارند. اما ماشینها فاقد این «بعد شخصی» هستند. بنابراین، حتی اگر رفتاری شبیه بخشش انجام دهند، معنای اخلاقی آن برای انسانها معتبر نیست.
پس از این تحلیل، فصل نشان میدهد که سوگیری تکلیفمحور چگونه اخلاق ماشینی را محدود میکند:
- مفاهیم اخلاقی به «حقوق و تکالیف» تقلیل مییابند.
- واژگان اخلاقی بهصورت «اسب تروای زبانی» استفاده میشوند؛ یعنی از ظاهر اخلاقیشان بهره میبرند، اما محتوای اخلاق انسانی را منتقل نمیکنند.
- بحث مسئولیت اخلاقی ماشینها نیز به همین دلیل ناقص میماند، چون فقط به مسئولیت حقوقی و تکلیفی توجه میشود و لایههای انگیزشی و ارزشی نادیده گرفته میشود.
در پایان، فصل تأکید میکند که برای پیشرفت واقعی در اخلاق ماشینی باید از این سوگیری عبور کرد و مفاهیم ارزشمحور، انگیزشی و شخصی اخلاق را نیز وارد بحث کرد—حتی اگر این کار دشوار باشد. بدون این گسترش مفهومی، اخلاق ماشینی تصویری سادهانگارانه و ناقص از اخلاق انسانی ارائه خواهد داد.