فصل ششم کتاب حکمرانی آینده، با بازگشت به ریشههای هوش مصنوعی و سایبرنتیک آغاز میشود و نشان میدهد که از همان دهه ۱۹۵۰، برخی پیشگامان مانند نوربرت وینر نسبت به پیامدهای اخلاقی و نظامی این فناوری هشدار داده بودند. وینر نگران بود که «منطق رایانشی» بهتدریج جای «منطق اخلاقی» را بگیرد و جامعه بهجای پرسش از اینکه چه هدفی ارزشمند است، تنها بر این تمرکز کند که چگونه میتوان چیزی را ساخت. این جابهجایی مفهومی -غلبه دانستن چگونه بر دانستن چه چیزی- در حوزه تسلیحات خودکار مرگبار امروز به اوج رسیده است.
فصل توضیح میدهد که توسعه سامانههای خودمختار مرگبار با سرعتی بیسابقه در حال پیشروی است. هوش مصنوعی اکنون در تمام زنجیره کشتار -از شناسایی و ردیابی تا انتخاب و حمله به هدف- نقشآفرینی میکند. نمونههایی مانند پروژه Maven پنتاگون، آزمایشهای DARPA، و پهپاد خودران «کارگو ۲» در لیبی نشان میدهند که تصمیمگیری مرگبار بهطور فزایندهای به ماشینها سپرده میشود. این روند، بهویژه در شرایطی که دادههای آموزشی ناقص، سوگیریها گسترده و محیط جنگی آشفته است، خطر خطاهای مرگبار را اجتنابناپذیر میسازد.
در ادامه، فصل به رابطه پیچیده و مسئلهساز میان صنعت فناوری خصوصی و ارتش میپردازد. شرکتهای سیلیکونولی -از غولهایی مانند گوگل تا استارتاپهایی مانند Anduril و Palantir- بهسرعت وارد حوزه نظامی شدهاند و منطق «سرعت، چابکی و عرضه سریع» را به حوزه تسلیحات منتقل کردهاند. «رویکرد هکری» که بر آزمونگری، میانبرزدن، پذیرش خطا و اصلاح پسینی استوار است، اکنون به الگوی مسلط در توسعه فناوریهای نظامی تبدیل شده است. این منطق، که در کسبوکارهای نرمافزاری قابلتحمل است، در حوزه تصمیمگیری مرگبار پیامدهایی فاجعهبار دارد.
فصل نشان میدهد که این درهمتنیدگی میان صنعت فناوری و ارتش، همراه با نبود مقررات کافی، خطرات اخلاقی و امنیتی جدی ایجاد میکند. شرکتهای فناوری چندملیتی، برخلاف پیمانکاران دفاعی سنتی، به دولتها پاسخگو نیستند و انگیزه اصلیشان سودآوری است. در نتیجه، توسعه سامانههای خودمختار مرگبار در فضایی پیش میرود که شفافیت اندک، نظارت ناکافی و اولویتدادن به سرعت بر دقت، ویژگیهای اصلی آن است.
در بخش پایانی، نویسنده استدلال میکند که غلبه منطقهای ماشینی بر چشمانداز اخلاقی، توان ما برای مهار خشونت فناورانه را تضعیف میکند. وقتی تصمیمگیری مرگبار به الگوریتمها سپرده میشود و «روش هکری» بر سیاستگذاری و اخلاق سایه میاندازد، مسئولیتپذیری انسانی کمرنگ میشود و خطر آن وجود دارد که در جنگهای آینده، خشونت نهتنها مهار نشود، بلکه بهواسطه سرعت و خودمختاری ماشینها تشدید گردد. فصل با بازگشت به هشدارهای وینر، بر ضرورت بازاندیشی در اهداف، ارزشها و مسئولیتهای انسانی در عصر تسلیحات خودکار تأکید میکند.