فصل دوم با این ایده آغاز میشود که هوش مصنوعی بهسرعت در فرهنگ جهانی نفوذ کرده و در سیاست، اقتصاد، امنیت، ارتباطات و زندگی روزمره نقش تعیینکننده یافته است. اما چون مسیر آینده این فناوری هنوز روشن نیست، نویسندگان بر ضرورت تأمل درباره ارزشهایی که باید در طراحی و بهکارگیری آن دخیل شوند تأکید میکنند.
فصل توضیح میدهد که ایدئولوژی مسلط بر هوش مصنوعی حول کنترل و اقتدار شکل گرفته و با مفاهیمی مانند «سرمایهداری نظارتی» و مدل «پناپتیکون» همراستاست؛ مدلی که در آن نظارت نامتقارن، افراد را به خودتنظیمی وامیدارد. این ساختارهای قدرت از آغاز توسعه هوش مصنوعی مورد توجه اندیشمندان سایبرنتیک بودهاند. بااینحال، نویسندگان نشان میدهند که سنتهای فرهنگی و دینی نیز بهطور پنهان بر مسیر توسعه هوش مصنوعی اثر میگذارند؛ گاه در جهت تقویت کنترل، و گاه در جهت کاهش خطرات اقتدارگرایی و بیعدالتی.
بخش مهمی از فصل به هوش مصنوعی آخرالزمانی میپردازد: نوعی جهانبینی شبهدینی که از سنتهای یهودی–مسیحی الهام گرفته و در فرهنگ فناوری آمریکا ریشه دارد. این نگرش، که توسط چهرههایی مانند موراوک و کورزویل ترویج شده، وعدههایی چون ظهور هوشهای خداگونه، جاودانگی از طریق آپلود ذهن، و رستگاری دیجیتال را مطرح میکند. ساختار این جهانبینی چهار ویژگی دارد: دوگانهانگاری خیر و شر، احساس بیگانگی، امید به نجات، و جاودانگی در کالبدی نو. این روایت در ادبیات علمیتخیلی، آیندهباوری دیجیتال و حتی برخی تفسیرهای مهندسان از مدلهای زبانی بزرگ بازتاب یافته است.
در ادامه، فصل به اخلاق در دوران آخرالزمان میپردازد. نویسندگان نشان میدهند که ظهور هوش مصنوعی فراتر از انسان، پرسشهای اخلاقی بنیادینی ایجاد میکند: از خطرات ناخواسته و اختلالات اقتصادی–سیاسی گرفته تا امکان تهدید مستقیم بشر. آنها سه سطح اخلاق در هوش مصنوعی را تفکیک میکنند: ۱) اخلاق کاربردها، ۲) اخلاق تعبیهشده در ساختار سامانهها، ۳) اخلاقی که هوش مصنوعی ممکن است در آینده بیاموزد.
در این بخش، به چالشهای اخلاقی ناشی از کاربردهای نظامی و مالی، خطرات انقراض، و ضرورت همراستاسازی ارزشهای انسانی و ماشینها اشاره میشود. نویسندگانی مانند بوستروم و یودکوسکی بر شفافیت، مسئولیتپذیری، فسادناپذیری و پیشبینیپذیری بهعنوان اصول طراحی تأکید میکنند.
فصل سپس به نقش ارزشهای دینی در پذیرش و هدایت هوش مصنوعی میپردازد. در سنت مسیحی، برخی هوش مصنوعی فراتر از انسان را ناسازگار با ایمان میدانند، اما گروهی دیگر امکان همسویی آن با مفاهیم نجات، تعالی و تحول شخصی را بررسی میکنند. الهیدانانی مانند هرتسفلد، کول ترنر، لوریمار، مورلی، فیشر و پیترز هر یک از زاویهای متفاوت به رابطه میان دین و فناوری میپردازند؛ برخی منتقد، برخی بازاندیش، و برخی معتقد به امکان بازتعریف الهیات در پرتو فناوری.
در نهایت، فصل نتیجه میگیرد که توسعه جهانی هوش مصنوعی نیازمند مشارکت جهانی در شکلدادن به فرهنگ و ایدئولوژی آن است. اگر ارزشهای فرهنگی و دینی متنوع در این فرایند دخیل نشوند، خطر آن وجود دارد که هوش مصنوعی در مسیر اقتدارگرایی، طرد اجتماعی و بیعدالتی اقتصادی حرکت کند. اما اگر این سنتها بهدرستی وارد گفتوگو شوند، میتوانند به هدایت هوش مصنوعی در جهت شکوفایی انسانی کمک کنند.