هوش مصنوعی یا ماشین جنگی / از پالانتیر که نامش با حمله میناب گره خورده چه میدانیم؟
حمله به مدرسه ابتدایی شجره طیبه در میناب، در نخستین ساعات آغاز جنگ آمریکا و اسرائیل علیه ایران یکی از مرگبارترین و بحثبرانگیزترین نمونههای استفاده از فناوریهای نوین در جنگ محسوب میشود.صدها دانشآموز در این حمله کشته یا زخمی شدند و خیلی زود این پرسش بزرگ در مرکز توجه قرار گرفت که آیا هوش مصنوعی در شناسایی و انتخاب این هدف نقش داشته است؟نام یک شرکت طی ماههای گذشته بیش از دیگران در این بحث تکرار شده است. آن شرکت پالانتیر، شرکت فناوری آمریکایی است که از یک سو در زمینه تحلیل عظیم دادهها فعالیت میکند و از سوی دیگر به یکی از مهمترین پیمانکاران فناوری وزارت جنگ آمریکا تبدیل شده است. نرمافزار «میون» Maven Smart System این شرکت اکنون در قلب معماری جدید جنگافزار اطلاعاتی آمریکا قرار گرفته است.این سامانه که میتواند دادههای ماهوارهای، تصاویر پهپادی، اطلاعات راداری، سیگنالهای اطلاعاتی و دیگر منابع را در یک محیط واحد ترکیب کند و روند شناسایی، اولویتبندی و برنامهریزی برای حمله به اهداف را بسیار سریعتر کند.تاکنون سند عمومی قطعی منتشر نشده است که نشان دهد «هوش مصنوعی پالانتیر» بهطور مستقیم مدرسه میناب را به عنوان هدف انتخاب کرده یا دستور حمله را صادر کرده است. آنچه منابع معتبر نشان میدهند، پیچیدهتر است. گزارشها حاکی از آن هستند که نرمافزار پالانتیر در عملیات نظامی آمریکا علیه ایران مورد استفاده قرار گرفته و پالانتیر در معماری این سامانه نقش محوری داشته است. اما اینکه دقیقا چه الگوریتمی، چه دادهای و چه فرد یا نهادی در زنجیره تصمیمگیری منتهی به حمله میناب نقش داشته، همچنان محل بررسی و مناقشه است.
از یک پروژه جنجالی پنتاگون تا زیرساخت جنگداستان نرمافزار «میون» Maven به چند سال پیش بازمیگردد. وزارت دفاع آمریکا در سال ۲۰۱۷ پروژهای را با هدف استفاده از هوش مصنوعی برای تحلیل تصاویر پهپادی و شناسایی اهداف آغاز کرد.این پروژه در ابتدا با شرکت گوگل پیوند خورد اما اعتراض هزاران کارمند این شرکت به مشارکت در برنامههای نظامی در سال ۲۰۱۸ باعث شد گوگل از قرارداد کنار بکشد. پس از آن پالانتیر وارد میدان شد و به یکی از شرکای اصلی پروژه تبدیل شد.آنچه در ابتدا برنامهای برای کمک به تحلیل تصاویر پهپادها بود، به تدریج به طرحی بسیار بزرگتر تبدیل شد. «میون» در شکل امروزی خود یک نرمافزار منفرد یا یک «ربات قاتل» نیست، بلکه ساختاری گسترده برای گردآوری و ترکیب اطلاعات، ایجاد تصویر مشترک از میدان نبرد، شناسایی اهداف، اولویتبندی آنها و کمک به تصمیمگیری فرماندهان است.در ادبیات نظامی به این زنجیره «kill chain» گفته میشود. زنجیرهای که از کشف یک هدف آغاز میشود، با شناسایی و ارزیابی آن ادامه پیدا میکند، سپس به انتخاب سلاح و تایید حمله میرسد و در نهایت با اجرای عملیات و ارزیابی خسارت پایان مییابد.هوش مصنوعی میتواند در هر یک از این مراحل سرعت ایجاد کند. بنابراین مساله این نیست که یک الگوریتم به تنهایی تصمیم بگیرد چه کسی باید کشته شود بلکه ممکن است یک سامانه، مجموعهای از تصمیمهای انسانی را به شکل بسیار سریعتر و در مقیاس بسیار بزرگتر به یکدیگر متصل کند.اطلاعات عمومی منتشرشده درباره «میون» نشان میدهد که این سامانه میتواند حجم بسیار زیادی از دادههای مختلف را در کنار یکدیگر قرار دهد.
تصاویر ماهوارهای، تصاویر پهپادها، دادههای راداری، اطلاعات حسگرها،دادههای اطلاعاتی و گزارشهای مختلف میتوانند در یک محیط مشترک تحلیل شوند. هدف این است که تحلیلگر نظامی مجبور نباشد برای پیدا کردن یک هدف احتمالی میان دهها سامانه و پایگاه داده جابهجا شود.سامانه میتواند به شناسایی اشیاء و فعالیتهای مشکوک کمک کند، اهداف احتمالی را دستهبندی و اولویتبندی کند و اطلاعات مورد نیاز برای تصمیمگیری درباره آنها را در اختیار فرماندهان قرار دهد.در نمایشهایی که ارتش آمریکا و پالانتیر از این فناوری ارائه کردهاند،قابلیتهایی نیز نشان داده شده که در آنها سامانه برای یک هدف احتمالی،گزینههای عملیاتی و حتی نوع مناسب سلاح یا وسیله حمله را با توجه به فاصله، موجودی مهمات و سایر عوامل پیشنهاد میکند.این همان جایی است که فناوری از «تحلیل اطلاعات» به «پشتیبانی مستقیم از عملیات رزمی» نزدیک میشود.پالانتیر تأکید میکند که «میون» بهخودیخود تصمیم نهایی برای کشتن افراد را نمیگیرد و انسان همچنان در حلقه تصمیمگیری قرار دارد. وزارت جنگ آمریکا نیز همین اصل را برجسته کرده است.اما منتقدان میگویند باقیماندن یک انسان در زنجیره تصمیمگیری به تنهایی پاسخ همه پرسشها نیست.اگر ماشین در چند ثانیه اطلاعات را ترکیب کند، هدف را پیشنهاد دهد،آنرا اولویتبندی کند و گزینه حمله را ارائه دهد، نقش انسان ممکن است از «تصمیمگیرنده» به «تاییدکننده» تبدیل شود.این تفاوت،یکی از اصلیترین بحثهای اخلاقی درباره نقش هوش مصنوعی در جنگ است.مدرسه میناب؛ جایی که مساله از تئوری به فاجعه تبدیل شدمدرسه شجره طیبه در میناب روز ۲۸ فوریه (۹ اسفند) هدف حمله قرار گرفت. شمار زیادی از قربانیان دانشآموزان عمدتا دختر بودند.
تحقیقات اولیه رسانهای نشان داد که این مدرسه در فهرست اهداف نظامی آمریکا قرار داشته است. گزارش واشنگتنپست به نقل از افرادی که از موضوع اطلاع داشتند، نشان داد که مدرسه ممکن است با یک تاسیسات نظامی مجاور اشتباه گرفته شده باشد.اهمیت این مساله در آن است که ساختمان مدرسه در نزدیکی یک مجموعه متعلق به سپاه پاسداران قرار داشت. اما تصاویر ماهوارهای نشان میدادند که ساختمان مدرسه سالها پیش از حمله از مجموعه نظامی جدا شده و به مدرسه تبدیل شده بود.به بیان دیگر، یکی از پرسشهای اساسی این بود که چگونه اطلاعات قدیمی درباره یک ساختمان میتواند در یک سامانه هدفگیری مدرن باقی بماند و در شرایط جنگی دوباره به عنوان داده معتبر مورد استفاده قرار گیرد.در پاسخ به این سوال که «آیا هوش مصنوعی مدرسه میناب را انتخاب کرد؟» باید محتاط بود اما این سوال احتمالا مهمترین پرسش کل پرونده حمله به مدرسه میناب است.گزارش واشنگتنپست نشان میدهد که نیروهای آمریکایی و اسرائیلی از سامانه «میون» Maven در عملیات خود استفاده میکردند و این نرمافزار برای عملیات «خشم حماسی» دادههای اطلاعاتی را ترکیب و اهداف را پیشنهاد و اولویتبندی میکرد.برخی تحلیلها این احتمال را مطرح کردهاند که ممکن است سیستم هدفگیری از پایگاه دادهای استفاده کرده باشد که مدرسه را همچنان بخشی از یک تاسیسات نظامی میدانسته است.در هر دو حالت مسئولیت انسانی مطرح است، اما نقش فناوری و ماهیت خطا متفاوت خواهد بود.«کلاود»؛ قطعهای از پازل بزرگ سامانه پالانتیردر هفتههای نخست پس از حمله میناب، بخش زیادی از توجه رسانهای روی هوش مصنوعی «کلاود» Claude، محصول شرکت آنتروپیک متمرکز شد.
علت این بود که «کلاود» در نسخه آمریکایی «میون» به کار گرفته شده بود و گزارشهایی درباره نقش آن در تحلیل اطلاعات نظامی و تولید فهرست اهداف منتشر شد. این مساله البته گاهی به شکلی سادهانگارانه مطرح شد که در آن چتبات «کلاود» مسئول انتخاب هدف نظامی و صدور دستور بمباران معرفی شد.این در حالی است که ساختار واقعی سامانه بسیار پیچیدهتر است.«میون» پیش از آنکه مدلهای زبانی بزرگ وارد آن شوند، یک پروژه هوش مصنوعی نظامی بود. فناوری اصلی آن به تحلیل تصویر، ترکیب دادههای حسگرها و شناسایی اشیاء و اهداف مربوط میشود.مدلهای زبانی مانند «کلاود» در مراحل بعدی به این اکوسیستم اضافه شدند و میتوانند به تحلیلگران اجازه دهند با اطلاعات پیچیده در قالب زبان طبیعی تعامل داشته باشند، گزارشها را خلاصه کنند و دادههای اطلاعاتی را سریعتر جستوجو کنند.بنابراین تمرکز صرف بر نقش «کلاود» میتواند باعث شود مساله اصلی فراموش شود.مساله اصلی خود چتبات نیست بلکه ساختاری است که در آن دادههای عظیم نظامی در یک سامانه واحد جمع میشوند و فاصله میان «دیدن هدف» و «تصمیم درباره حمله» کوتاهتر میشود.پالانتیر؛ شرکتی که جنگ را به پردازش دادهها تقلیل دادپالانتیر از ابتد یک شرکت سازنده نرمافزارهای معمولی نبود. این شرکت در سال ۲۰۰۳ با حمایت سرمایهگذارانی از جمله پیتر تیل، از سرمایهگذاران محافظهکار آمریکایی شکل گرفت و بخش مهمی از شهرت اولیه خود را از همکاری با نهادهای اطلاعاتی و امنیتی آمریکا به دست آورد.
مدل کسبوکار پالانتیر بر یک ایده ساده اما بسیار قدرتمند بنا شده است. این ایده عبارت از این است که سازمانهای بزرگ حجم عظیمی از داده دارند و مشکل اصلی آنها معمولا کمبود داده نیست بلکه ناتوانی در ترکیب و استفاده سریع از آن دادهها است.پالانتیر نرمافزارهایی توسعه داده است که دادههای پراکنده را به یک تصویر عملیاتی واحد تبدیل میکنند.در حوزه نظامی، همین ایده معنای متفاوتی پیدا میکند. اطلاعاتی که پیشتر در اختیار گروههای مختلف و سامانههای جداگانه قرار داشت، میتواند در یک محیط مشترک قابل مشاهده باشد.این موضوع برای نیروهای نظامی بسیار جذاب است زیرا جنگ مدرن تا حد زیادی جنگ اطلاعات نیز هست. هرچه فرمانده زودتر بداند دشمن کجاست، چه تجهیزاتی دارد و چه حرکتی انجام میدهد، امکان واکنش سریعتر بیشتر میشود.اما همین مزیت، ریسک دیگری نیز ایجاد میکند. وقتی سرعت تصمیمگیری بالا میرود زمان اختصاصیافته برای تردید، بررسی و اصلاح خطا نیز کاهش پیدا میکند.کاهش نیروی انسانی از هزاران تحلیلگر به چند ده نفریکی از جنبههای کمتر دیدهشده استفاده از «میون» تلاش برای کاهش تعداد نیروی انسانی مورد نیاز برای پردازش اطلاعات و هدفگیری است.گزارشهای منتشرشده درباره رزمایشهای ارتش آمریکا نشان میدهد که یکی از اهداف «میون» این بوده است که ظرفیت هدفگیریای را که پیشتر به تعداد زیادی نیروی انسانی نیاز داشت، با تیمهای کوچکتر انجام دهد.در رزمایشهایی مانند Scarlet Dragon، ارتش آمریکا آزمایش کرد که آیا تعداد محدودی سرباز مجهز به «میون» میتوانند حجم کاری را انجام دهند که پیشتر به صدها یا هزاران نفر نیاز داشت.این موضوع از نظر نظامی میتواند یک مزیت بزرگ باشد.
اما از منظر حقوقی و اخلاقی این پرسش جدید را پدید میآورد که اگر فناوری تعداد انسانهای حاضر در زنجیره تصمیمگیری کاهش یابد، در نهایت چه کسی مسئول بررسی نهایی اطلاعات خواهد بود؟به عبارت دیگر، هوش مصنوعی ممکن است فقط جایگزین «کار» انسان نشود بلکه بخشی از سازوکاری را نیز تغییر دهد که در گذشته امکان کنترل و بازبینی تصمیمها را فراهم میکرد.نقش انسان در تصمیمگیری نظامی؛ تصمیمگیر یا تائیدکننده پیشنهاد نرمافزار؟پالانتیر و مقامهای نظامی آمریکا بارها بر این نکته تاکید کردهاند که انسان همچنان تصمیم نهایی را درباره استفاده از سلاح میگیرد.این اصل در ادبیات نظامی به عنوان «human in the loop» شناخته میشود. اما مفهوم «انسان در حلقه» خود میتواند بسیار متفاوت باشد.در یک حالت، انسان همه دادهها را بررسی میکند، گزینههای مختلف را میسنجد و سپس تصمیم میگیرد.در حالت دیگر، سامانه اطلاعات را از هزاران منبع ترکیب کرده، هدف را مشخص کرده، اولویت داده و گزینه حمله را پیشنهاد کرده است و انسان تنها با یک تایید نهایی وارد عمل میشود.در هر دو حالت یک انسان تصمیم نهایی را گرفته است اما نقش انسان در آنها یکسان نیست.همین موضوع باعث شده است برخی کارشناسان درباره خطر «اتوماسیون تصمیم» هشدار دهند. یعنی وضعیتی که انسان همچنان از نظر رسمی مسئول است، اما عملا چارچوب تصمیمگیری را ماشین تعیین میکند.سرعت؛ بزرگترین مزیت و شاید بزرگترین خطریکی از مهمترین ویژگیهای «میون» سرعت آن است.در جنگهای گذشته، جمعآوری اطلاعات، تحلیل تصاویر، بررسی هدف، هماهنگی میان واحدها و تصمیمگیری میتوانست ساعتها یا حتی روزها طول بکشد.هوش مصنوعی میتواند بسیاری از این مراحل را تقریبا همزمان انجام دهد.
در جنگ ایران، همین قابلیت به یکی از عناصر اصلی استراتژی نظامی آمریکا تبدیل شد. منابع آمریکایی از توانایی سیستم برای پردازش حجم بسیار بالایی از دادهها و کمک به شناسایی تعداد زیادی هدف سخن گفتهاند.اما سرعت یک ویژگی دو لبه است. اگر اطلاعات درست باشد، سرعت میتواند مزیت نظامی ایجاد کند اما اگر اطلاعات غلط باشد، همان سرعت میتواند خطا را در مقیاس بسیار بزرگتری تکثیر کند.در سیستم سنتی، یک خطای اطلاعاتی ممکن است در مسیر خود با چند مرحله بررسی متوقف شود. در سیستم بسیار سریع، ممکن است همان خطا در عرض چند ثانیه از مرحله شناسایی به مرحله تصمیم برسد.در همین جا است که حادثه حمله به مدرسه میناب اهمیت پیدا میکند.گزارش سازمان ملل و تغییر ابعاد پرونده حمله میناب هیات حقیقتیاب مستقل سازمان ملل درباره ایران اعلام کرده است «دلایلی معقول» برای این نتیجه وجود دارد که ایالات متحده در حمله به مدرسه میناب مرتکب «جنایت جنگی» شده است.این هیات به این نتیجه رسید که ساختمان مدرسه یک مرکز غیرنظامی بوده و شواهدی پیدا نکرده که نشان دهد مدرسه برای اهداف نظامی مورد استفاده قرار میگرفته است.بر اساس گزارش این هیات، ساختمان مدرسه نقطه اصابت مورد نظر بوده و حمله را نمیتوان صرفا یک خطای تصادفی یا خسارت جانبی ناشی از حمله به تاسیسات سپاه در مجاورت آن دانست.این نتیجهگیری اهمیت بحث درباره سامانههای هدفگیری را بیشتر میکند زیرا مساله دیگر صرفا این نیست که «آیا الگوریتم اشتباه کرد؟» بلکه این است که چگونه یک هدف غیرنظامی در ساختار اطلاعاتی و تصمیمگیری نظامی به نقطهای برای حمله تبدیل شد.#هوش_مصنوعی_جنگی#پالانتیر#آنتروپیک#کلود#مدرسه_میناب
02:09 - 2 مهر 1405