هوش مصنوعی و آینده جنگ

به گزارش خبرگزاری رسا، احتمالا تصمیمی بزرگ‌تر از پرتاب سلاح‌های هسته‌ای و کشیدن احتمالی ماشه یک هولوکاست اتمی وجود ندارد. پرزیدنت جان اف کندی که درطول بحران موشکی کوبا در سال ۱۹۶۲ در چنین موقعیتی قرار گرفت، بعد از آنکه پیامد فاجعه بار یک تبادل آتش اتمی بین شوروی و آمریکا را در نظر گرفت، به این نتیجه رسید که قدرت‌های اتمی باید موانع سختگیرانه‌ای را بر سر راه استفاده از چنین تسلیحاتی وضع کنند.

 

از جمله تمهیداتی که او و دیگر رهبران جهانی به آن رسیدند، تدوین خط مشی‌هایی بود که نه فقط پرسنل نظامی بلکه کلیه مقامات ارشد را ملزم می‌کرد تا درهر تصمیم گیری در مورد پرتاب این تسلیحات نقشی داشته باشند.

 

البته این موضوع مربوط به آن زمان بود و اکنون اکنون است؛ و اکنون چه اکنونی هم هست! با توجه به اینکه به زودی هوش مصنوعی عملا همچون تمام دیگر شئون زندگی ما، نقشی همواره فزاینده در امور نظامی ایفا خواهد کرد، احتمالا هر چه می‌گذرد نقش انسان‌ها حتی در تصمیم گیری‌های اتمی بیشتر تقلیل خواهد یافت.

 

در واقع در آینده‌ای که هوش مصنوعی سراسر جهان را فرا گرفته، ممکن است نقش انسانی به کلی ناپدید شود و ماشین‌ها به حال خود گذاشته شوند تا برای سرنوشت انسان تصمیم بگیرند.

 

این حدس و گمانی مبتنی بر فیلم‌های علمی تخیلی یا داستان‌های نشان دهنده آینده‌ای تیره و تار نیستند. این تهدیدی بسیار واقعی است و مربوط به همین جا و هم اکنون یا دست کم همین جا و به زودی زود است.

 

وقتی پنتاگون و فرماندهان نظامی سایر قدرت‌های بزرگ به آینده نگاه می‌کنند، چیزی که می‌بینند یک میدان جنگ به شدت پر رقابت است - برخی آن را محیط «هایپر جنگ» نامیده اند- که در آن انبوهی از تسلیحات روباتیک تحت هدایت هوش مصنوعی با سرعتی بسیار سریع‌تر از توانایی فرماندهان انسانی برای دنبال کردن مسیر جنگ، به مبارزه با یکدیگرخواهند پرداخت.

 

اعتقاد بر این است که در چنین زمانی هرچه می‌گذرد فرماندهان بیشتر مجبور می‌شوند بر ماشین‌هایی همواره هوشمندتر برای اتخاذ تصمیم در این باره که از چه سلاحی باید چه وقت و کجا استفاده کرد متکی شوند. شاید درابتدا این موضوع شامل سلاح‌های اتمی نشود، اما با افزایش سرعت جنگ و «آتش متقابل» بین متخاصمین و کاسته شدن از تسلیحات متعارف، ممکن است روشن شود که حتی جلوگیری از خودکارسازی هراس آور تصمیم گیری درمورد پرتاب سلاح‌های اتمی غیرممکن شده است.

 

چنین نتیجه‌ای فقط می‌تواند این احتمال را افزایش دهد که با توجه به تغییرات اساسی که در سازمان ارتش آمریکا صورت می‌گیرد، از یک جنگ اساسا کوچک برای مقابله با سازمانی تروریستی فاصله بگیرد و توجه خود را به جنگی یک به یک و متمرکز با چین و روسیه کند. وزارت دفاع در «راهبرد امنیت ملی» دسامبر ۲۰۱۷ خود به چنین چرخشی اشاره کرده است.

 

ارتش آمریکا به جای اینکه بر تسلیحات و تاکتیک‌هایی تمرکز کند که هدف آن‌ها مبارزه با شورشیانی است که از تسلیحات ضعیفی برخوردارند و پای این کشور را به کشمکش‌های مقیاس کوچکی که هرگز پایان نمی‌یابند می‌کشانند، اکنون در حال طراحی سازمان خود برای جنگی هرچه مجهزتر با نیرو‌های چینی و روسی در درگیر‌هایی چند بعدی (هوا، دریا، خشکی، فضا، فضای سایبری) است که در آن سیستم‌های تهاجمی متعدد (تانک ها، هواپیماها، موشک ها، راکت ها) با حداقل نظارت انسانی کار خود را انجام دهند.

 

«ژنرال بازنشسته نیروی دریایی جان آلن و کارآفرین هوش مصنوعی امیر حسین می‌گویند: «تاثیر/ نتیجه بزرگ تمام این قابلیت‌ها درمجموع یک نوآوری در رزم خواهد بود که هرگز قبلا دیده نشده است: با به حداقل رسیدن تصمیم گیری انسانی در اکثریت قریب به اتفاق روند‌هایی که در شکل سنتی خود مستلزم به راه انداختن جنگ هستند، در عصر پیش روی هایپرجنگ ما شاهد خواهیم بود که انسان‌ها داده‌های گسترده و سطح بالای لازم را تامین می‌کنند درحالی که این ماشین‌ها هستند که بار برنامه ریزی، اجرا و سازگاری با واقعیت ماموریت را بر دوش می‌گیرند و هزاران تصمیم فردی را بدون هیچ داده اضافی به اجرا می‌گذارند.»

 

«به حداقل رساندن تصمیم گیری انسانی» کاربست‌های عمیقی را در آینده نبرد‌ها خواهد داشت. در حالت عادی رهبران ملی به دنبال کنترل فضا و جهت نبرد برای اطمینان از بهترین نتیجه ممکن هستند، حتی اگر این کار به معنای به تعلیق درآوردن جنگ برای اجتناب از خسارات بیشتر یا جلوگیری از فاجعه‌ای انسانی باشد. ماشین‌ها حتی ماشین‌های بسیار هوشمند محتمل نیست که قادر به ارزیابی زمینه‌های اجتماعی و سیاسی نبرد باشند، در نتیجه فعال کردن آن‌ها می‌تواند به وضعیت‌هایی منجر شود که در آن‌ها سطح درگیری به شکل کنترل نشده‌ای تشدید شود.

 

ممکن است سال‌ها و احتمالا دهه‌ها طول بکشد تا ماشین‌ها بتوانند در ایفای نقش تصمیم سازی‌های حساس نظامی جایگزین انسان‌ها شوند، اما آن زمان هم اکنون درافق قرار دارد. همانطور که جیم متیس وزیر دفاع از مصاحبه اخیر خود گفته، زمانی که کنترل سیستم‌های تسلیحاتی قادر به استفاده از هوش مصنوعی از راه برسند: «در آینده نزدیک عنصر انسانی همچنان اهمیت دارد. شاید تا ۱۰ سال. شاید ۱۵ سال. اما تا ۱۰۰ سال دیگر حتما چنین نخواهد بود.»

چرا هوش مصنوعی

 

حتی پنج سال پیش در تشکیلات نظامی عده اندکی بودند که وقتی پای عملیات‌های رزمی بزرگ به میان می‌آمد، به نقش هوش مصنوعی یا تجهیزات روباتیک فکر کنند.

 

بله، هواپیمای بدون سرنشین کنترل از راه دور یا پهباد‌ها به طور گسترده‌ای در آفریقا و خاورمیانه بزرگ‌تر برای شکار ستیزه جویان دشمن مورد استفاده قرار گرفته بودند، اما این اقدامات عمدتا عملیات‌های جنبی (و گاه عملیات‌های انجام شده توسط سیا) بوده اند که با هدف برداشتن فشار از روی فرماندهان و نیرو‌های متحد آمریکا که با دسته‌های پراکنده افراط گرایان خشونت پیشه رو به رو بودند، انجام شده اند.

 

بعلاوه هواپیما‌های بدون سرنشین امروزی همچنان اگرچه از راه دور توسط عوامل انسانی کنترل می‌شوند و –هنوز- از سیستم‌های شناسایی و حمله به هدف مجهز به هوش مصنوعی درحداقل حالت برخوردارند. اما انتظار می‌رود که در آینده این قبیل سیستم‌ها بخش اعظم میادین نبرد را در اختیار بگیرند و در بسیاری یا حتی اکثر کارکرد‌های رزمی جایگزین انسان‌ها شوند.

 

وزارت دفاع برای سرعت بخشیدن به این تحول تاکنون صد‌ها میلیون دلار را در تحقیقات مرتبط با هوش مصنوعی هزینه کرده است: «متیس در آوریل گذشته در کنگره گفت: «ما نمی‌توانیم انتظار داشته باشیم که در کشمکش‌های فردا با تفکر، تسلیحات یا تجهیزات دیروز پیروز میدان باشیم.»

 

وی افزود برای اطمینان از تداوم برتری نظامی پنتاگون، باید بر «سرمایه گذاری روی نوآوری‌های تکنولوژیک برای افزایش قدرت کشندگی تسلیحات، از جمله تحقیقات درمورد سیستم‌های خودکار پیشرفته، هوش مصنوعی یا تسلیحات هایپر سونیک تمرکز شود»

 

چرا تاکیدی چنین ناگهانی بر تجهیزات روباتیک و هوش مصنوعی صورت می‌گیرد؟ البته این روند با پیشرفت حیرت انگیز رخ داده در حوزه فناوری - که عمده آن در سیلیکون، ولی کالیفرنیا مستقراست- در تقویت هوش مصنوعی و به کار گیری آن در کارکرد‌های متعدد از جمله شناسایی تصاویر و تشخیص صدا آغاز شده است.

 

یکی از این کارکرد‌ها «خدمات صوتی آلکسا» است، یک سیستم رایانه‌ای که پشت سخنگوی هوشمند آمازون قرار دارد و نه تنها می‌تواند از طریق اینترنت به فرمان‌های شما عمل کند، بلکه فرمان‌های شما را تفسیر نیز می‌کند. (فرمان‌هایی از قبیل: «آلکسا، موسیقی کلاسیک پخش کن»، «آلکسا، آب و هوا چطور است»، «آلکسا چراغ‌ها را خاموش کن.») یک کاربرد دیگر هوش مصنوعی نوعی فناوری وسیله نقلیه خودران است که انتظار می‌رود انقلابی درحوزه حمل و نقل پدید آورد.

 

تحلیلگران در سرویس تحقیقات کنگره که یک سازمان داده و اطلاعات غیرحزبی است توضیح می‌دهند: «هوش مصنوعی یک فناوری «تک کاربردی» است، چرا که این فناوری پتانسیل یکی شدن با عملا هر چیزی را دارد.» همچنین یک فناوری «دوکاربردی» است که بر الگوریتم‌های اختصاصی شده‌ای برای پردازش داده‌های ارسالی از ردیفی از حسگر‌هایی که بر وضعیت ترافیک نظارت می‌کنند اتکا دارد تا تصمیم می‌گیرد کدام مسیر را در پیش بگیرد، کی تغییر لاین دهد و از این قبیل.

 

روزی همین فناوری و نسخه‌های ارتقا یافته همین الگوریتم‌ها برای راه اندازی تانک‌های خودران و رها کردن آن‌ها درمیادین جنگ آینده به کار گرفته خواهند شد. به همین ترتیب روزی هواپیما‌های بدون سرنشین، بدون اپراتور‌های انسانی نشسته در مکان‌هایی دوردست، از قابلیت رساندن خود به میدان جنگ برای انهدام اهداف از پیش تعیین شده (تانک ها، سیستم‌های راداری، جنگجویان) و تعیین اینکه چیزی که «می بیند» واقعا در فهرست اهداف آن قرار دارد یا نه و «تصمیم گیری» در مورد پرتاب کردن یک موشک به سمت آن اهداف برخوردار خواهند شد.

 

برای دریافتن اینکه مقامات پنتاگون قطعا در پی به اختیار گرفتن چنین فناوری‌ای خواهند بود، نیاز به داشتن مغزی با توانایی‌های خاص نیست: آن‌ها فکر می‌کنند که این فناوری‌ها مزیت قابل توجهی را در جنگ‌های آینده به آن‌ها خواهد بخشید.

 

در این صورت مثلا هر کشمکش تمام عیاری بین آمریکا و چین یا روسیه (یا هر دو) دست کم با خشونتی فوق العاده همراه خواهد بود، با احتمالا صد‌ها کشتی جنگی و هزاران هواپیما و وسایل نقلیه زرهی که همگی در فضا‌های جنگی به شدت در هم تنیده‌ای متمرکز شده اند. در چنین محیطی سرعت تصمیم گیری، به کارگیری و درگیر شدن بی شک یک دارایی حیاتی به حساب می‌آید و با توجه به تسلیحات سوپرهوشمند و هدایت دقیق آینده، هر کس که اول شلیک کند، به نسبت دشمنی که از آتش کندتری برخوردار است، شانس بیشتری برای پیروزی یا حتی بقا خواهد داشت.

 

انسان‌ها در چنین موقعیت‌هایی زمانی که مجبور به انجام این کار شوند می‌توانند به چابکی حرکت کنند، اما ماشین‌های آینده بسیار چابک‌تر عمل خواهند کرد، در حالی که می‌توانند متغیر‌های بیشتری را نیز در میدان جنگ دنبال کنند.

 

همانطور که پل سلوا معاون ستاد مشترک ارتش در سال ۲۰۱۷ به کنگره گفته: «زمانی که انسان به قابلیت‌هایی نگاه می‌کند که هوش مصنوعی می‌تواند برای افزایش سرعت و دقت فرماندهی و کنترل به همراه آورد و نیز توانایی‌هایی که تجهیزات روباتیک پیشرفته می‌توانند به یک فضای جنگی پیچیده بیاورند، به اجبار به این نتیجه می‌رسد که تعامل ماشین با ماشین در فضا و فضای سایبری است که در آن‌ها سرعت حرف اول را می‌زند.»

 

مقامات نظامی آمریکایی گذشته از اینکه بهره برداری از هوش مصنوعی در توسعه تسلیحات را هدف خود قرار داده اند، کاملا آگاهند که متخصصان اصلی آن‌ها نیز در حال حرکت به سمت تسلیحاتی کردن هوش مصنوعی و تجهیزات روباتیک هستند و به دنبال راه‌های جدیدی برای غلبه کردن بر مزیت‌های آمریکا در زمینه تسلیحات متعارف می‌گردند.

 

مثلا به گفته سرویس تحقیقاتی کنگره، چین در حال سرمایه گذاری‌های سنگینی در زمینه توسعه هوش مصنوعی و به کار گیری آن در جهت مقاصد نظامی است. هر چند که روسیه فاقد بنیان تکنولوژیک چین یا ایالات متحده است، ولی این کشور نیز با سرعت درحال توسعه هوش مصنوعی و تجهیزات روباتیک خود است. هر گونه پیشتازی قابل توجه چینی‌ها یا روس‌ها در این فناوری‌های در حال ظهور، می‌تواند برتری نظامی آمریکا را مورد تهدید قرار دهد که برای پنتاگون غیرقابل قبول است.

 

پس تعجبی ندارد که به سیاق مسابقات تسلیحاتی گذشته (از توسعه کشتی‌های جنگی پیش از جنگ جهانی اول تا تسلیحات اتمی دوران جنگ سرد) هم اکنون «یک مسابقه تسلیحاتی در حوزه هوش مصنوعی» در جریان است که در آن آمریکا، چین و روسیه و چند کشور دیگر (از جمله بریتانیا، اسرائیل و کره جنوبی) به دنبال دستیابی به مزیتی حیاتی در تسلیحاتی کردن هوش مصنوعی و تجهیزات روباتیک هستند.

 

مقامات پنتاگون در حالی که به دنبال تایید کنگره برای تخصیص بودجه لازم جهت پروژه‌های خود هستند، مرتبا از پیشرفت‌های چینی‌ها در زمینه هوش مصنوعی سخن می‌گویند، درست همانطور که مقامات نظامی چینی و روسی بی شک اظهار می‌دارند که آمریکاییان درحال سرمایه گذاری روی پروژه‌های هوش مصنوعی خود هستند. در فضای این مسابقه تسلیحاتی، این رقابت‌ها پیشاپیش موجب تسریع توسعه و به کارگیری سیستم‌های محهز به هوش مصنوعی و تضمین پیدا کردن از برتری آینده آن‌ها در میدان نبرد شده است.

فرماندهی و کنترل

 

بحث بر سر به کارگیری هوش مصنوعی و استقلال آن‌ها در میادین جنگ آینده، عمدتا بر این تمرکز داشته است که آیا از نظر اخلاقی دادن قدرت کامل به تسلیحاتی مستقل و خودمختار (که گاه «روبات‌های قاتل» نامیده می‌شوند) با ظرفیت اتخاذ تصمیماتی کاملا مستقل در مورد زندگی یا مرگ انسان‌ها درست است یا خیر؟ یا اینکه آیا استفاده از چنین سیستم‌هایی تخلف از قوانین جنگی و قوانین بشردوستانه بین المللی محسوب می‌شود یا نه؟

 

پرهیز از چنین وضعیتی مستلزم این است که جنگ سازان قادر به تمیز بین ستیزه جویان و غیرنظامیان در میدان جنگ باشند و با بیشترین ضریب احتمال جان غیرنظامیان را نجات دهند و از آسیب به آن‌ها جلوگیری کنند. مدافعان این فناوری جدید ادعا می‌کنند که ماشین‌ها در واقع به اندازه کافی هوشمند می‌شوند تا بتوانند تفاوت‌های بین خودشان با انسان‌ها را تشخیص دهند و در عین حال مخالفان اصرار دارند که آن‌ها هرگز توانایی لازم را برای تمیز گذاشتن اساسی از این نوع را در گرماگرم جنگ به دست نخواهند آورد و قادر به نشان دادن همدردی به وقت مقتضی نخواهند شد.

 

تعدادی از سازمان‌های حقوق بشری و بشردوستانه حتی کارزار «روبات‌های قاتل را متوقف کنید» با این هدف به راه انداخته اند که ممنوعیتی بین المللی برای توسعه و به کارگیری سیستم‌های تسلیحاتی کاملا خودکار وضع شود.

 

همزمان بحث شاید حتی مناقشه برانگیز تری در قلمرو نظامی برسر به کارگیری هوش مصنوعی در سیستم‌های فرماندهی و کنترل - یعنی راه‌هایی که افسران ارشد فرمان‌های اساسی را به سربازان زیردستشان انتقال می‌دهند - در حال در گرفتن است. ژنرال‌ها و دریاسالار‌ها همیشه به دنبال به حداکثر رساندن قابل اتکا بودن سیستم‌های فرماندهی و کنترل برای تضمین این بوده اند که نیات راهبردی آن‌ها تا حد امکان به طور کامل برآورده شود.

 

در دوران حاضر چنین سیستم‌هایی برای ایمن کردن سیستم‌های ارتباطات رادیویی و ماهواره‌ای که مقر اصلی را با خطوط جبهه مرتبط می‌کند به شدت قابل اتکا هستند. با این حال استراتژیست‌ها نگران این هستند که در یک محیط هایپرجنگ آتی، چنین سیستم‌هایی را بتوان با پارازیت مختل یا قطع کرد، در نتیجه سرعت جنگ از توانایی فرماندهان برای دریافت گزارش‌ها از میدان جنگ، پردازش داده‌ها و ابلاغ به موقع فرمان‌ها فراتر رود.

 

در نظر داشته باشید که اینکه این تعریفی کاربردی از مه نامعلوم جنگ است که هوش مصنوعی آن را چند برابر می‌کند که نتیجه احتمالی آن شکست خواهد بود. راه حل چنین معضلی برای بسیاری از افسران نظامی این است: بیایید اختیار ماشین‌ها را نیز به این سیستم‌ها واگذار کنیم.

 

همانطور که در یکی از گزارش‌های سرویس تحقیقات کنگره اشاره شده، در آینده «الگوریتم‌های هوش مصنوعی می‌توانند ابزار‌های قابل اتکاتری برای اقدام مبتنی بر تجزیه و تحلیل‌های زمان واقعی از فضای جنگ فراهم کنند و درنتیجه آن‌ها قادر می‌شوند با سرعت بیشتری خود را با وقایع در حال رخ دادن هماهنگ کنند.»

 

البته تصور کردن آن روز نیز امکان پذیر است که مغز‌های پشت چنین تصمیم سازی‌ها دیگر مغز‌های انسانی نباشند. داده‌های وارده از سیستم‌های اطلاعاتی میدان جنگ به جای انسان‌ها به پردازشگر‌های هوش مصنوعی انتقال خواهد یافت که بر ارزیابی تهدیدات عاجل تمرکز دارند و می‌توانند با توجه به موانع زمانی موجود، بدون دستور‌های انسانی اقداماتی را به اجرا بگذارند که «آنها» به عنوان بهترین گزینه تشخیص می‌دهند.

تصمیم روز قیامت

 

فرض موجود در اکثراین قبیل سناریو‌ها این است که ایالات متحده و متحدینش درگیر جنگی متعارف با چین و/ یا روسیه خواهند شد. پس به خاطر داشته باشید که ماهیت اصلی این هایپرجنگ‌های مبتنی بر هوش مصنوعی آینده تنها به تشدید این خطر کمک می‌کنند که کشمکش‌های متعارف از آستانه‌ای عبور کنند که قبلا هرگز عبور نکرده اند: یک جنگ اتمی واقعی بین دو کشور هسته ای؛ و در صورت وقوع چنین اتفاقی سیستم‌های فرماندهی و کنترل مجهز به هوش مصنوعی دیریا زود خود را در جایگاه پرتاب سلاح‌های اتمی خواهند یافت.

 

چنین خطری از احتمال پیشرفت‌های متعدد در فناوری بروز می‌کند، یعنی نه تنها هوش مصنوعی و علم روباتیک، بلکه توسعه توانایی‌های تهاجمی متعارف نظیر موشک‌های هایپرسونیک قادر به پرواز با پنج برابر سرعت صوت یا بیشتر، توپ‌های ریلی الکترومغناطیسی و لیزر‌های پرانرژی.

 

چنین تسلیحاتی اگرچه غیر هسته‌ای هستند وقتی با سیستم‌های شناسایی و تشخیص هدف هوش مصنوعی در هم بیامیزند، حتی می‌توانند به تسلیحات سیار تلافی جویانه دشمن نیز حمله کنند و این تهدید را به وجود آورند که توانایی دست زدن به واکنش در برابر هر حمله اتمی آن کشور را از میان بردارند.

 

با توجه به این سناریوی «یا آن‌ها را به کار بگیر یا رهایشان کن» هر قدرتی ممکن است به این سمت تمایل پیدا کند که نه تنها منتظر نماند، بلکه سلاح‌های اتمی خود را با مشاهده اولین نشانه یک حمله احتمالی شلیک کند یا حتی از بیم از دست دادن کنترل در یک درگیری نامطمئن و سریعا در حال پیشروی، اختیار پرتاب را به ماشین‌های خود تفویض کند؛ و زمانی که این اتفاق رخ داد، می‌توان گفت که جلوگیری از تشدید درگیری تقریبا غیرممکن خواهد شد.

 

پس پرسشی که مطرح می‌شود این است: آیا ماشین‌ها در چنین وضعیتی بهتر از انسان تصمیم می‌گیرند؟ قطعا آن‌ها قادر به پردازش مقادیر عظیمی از اطلاعات در دوره‌های بسیار کوتاه زمانی و سبک و سنگین کردن سود و زیان اقدامات جایگزین به شیوه‌ای کاملا غیرعاطفی هستند.

 

اما ماشین‌ها همچنین اشتباه‌های نظامی نیز مرتکب می‌شوند و بالاتر از همه فاقد توانایی دخیل کردن یک وضعیت خاص برای اتخاذ نتیجه‌ای مشخص هستند: این جنون را متوقف کنید. به دست آوردن هیچ برتری در میدان جنگ ارزش نیست و نابود شدن بشریت در سطح جهان را ندارد. همانطور که پل شار در «ارتش هیچ» کتاب جدیدش در مورد هوش مصنوعی و جنگ می‌نویسد: «انسان‌ها کامل نیستند، ولی آن‌ها می‌توانند با مخالفان خود همدردی کنند و تصویر بزرگ‌تر را ببینند.

 

بر خلاف انسان ها، تسلیحات مستقل و خودمختار به هیچ وجه نه از توانایی درک پیامد‌های اقدامات خود برخوردارند و نه توانایی از آستانه جنگ گامی به عقب برداشتن را دارند.»

 

بنابراین شاید باید بیشتر در این باره فکر کنیم که آیا به راستی می‌خواهیم در آینده اختیار راه انداختن یک آخرالزمان ساخته و پرداخته ماشین‌ها را به نسخه‌ای نظامی شده از آلکسا بسپاریم؟

 

____________________
نویسنده: مایکل کلر (Michael T. Klare) استاد مطالعات صلح و امنیت جهانی در کالج همپشایر
* yon.ir/pNzIS
/۱۰۱/۹۶۹/م