تقابل ۲۲ رهبر با ترامپ در نشست شورای امنیت

یک روز پس از مخالفت ترامپ با مقررات جدید هوش مصنوعی، شورای امنیت میزبان مدیران اوپن‌ای‌آی و آنتروپیک شد؛ جایی که حتی سازندگان این فناوری از استانداردهای جهانی گفتند.
گروه علم و پیشرفت خبرگزاری فارس - هوش مصنوعی در هفته جاری از یک موضوع فناورانه به مسئله‌ای مستقیم برای امنیت بین‌المللی تبدیل شد.شورای امنیت سازمان ملل ۲۳ سپتامبر به ابتکار فرانسه نشستی رسمی درباره «هوش مصنوعی و امنیت بین‌المللی» برگزار کرد و سم آلتمن، داریو آمودی، یوشوا بنجیو و کلمنت دلانگ به اعضای شورا درباره سرعت رشد قابلیت‌های مدل‌های مرزی و خطر از دست رفتن کنترل انسانی هشدار دادند.این نشست، یک روز پس از آن برگزار شد که دونالد ترامپ در مجمع عمومی با مقررات جدید مخالفت کرد و گفت اسناد دولت آمریکا از این پس به جای «هوش مصنوعی»، از عنوان «ابرهوش» استفاده خواهند کرد.

ترامپ مهار جهانی را به نظارت داخلی ترجیح می‌دهد

موضع اعلام‌شده واشنگتن بر مخالفت با مقررات جدید متمرکز است، نه حذف کامل نظارت دولتی.ترامپ در سازمان ملل گفت وزارت دادگستری آمریکا فناوری هوش مصنوعی را «از نزدیک» زیر نظر خواهد داشت و در صورت نیاز مداخله می‌کند، اما از وضع مقررات تازه دفاع نکرد.او همچنین هشدارهای مربوط به خطرات شدید هوش مصنوعی را رد کرد و گفت نمی‌خواهد رشد فناوری‌ای را که می‌تواند از انقلاب صنعتی هم بزرگ‌تر باشد، محدود کند. بنابراین شکاف موجود بیش از آنکه بر سر «وجود یا عدم وجود نظارت» باشد، بر سر سطح آن است: واشنگتن بر سازوکارهای ملی تکیه دارد، درحالی‌که طرف دیگر خواهان استانداردها و هماهنگی فرامرزی است.

۲1 کشور از ایجاد سازوکار بین‌المللی نظارت حمایت کردند

۲۱ سپتامبر، بیانیه‌ای به ابتکار نروژ و فنلاند با حمایت اولیه ۲۲ رهبر منتشر شد که خواستار آزمون‌های اجباری پیش از عرضه، ارزیابی مستقل مدل‌های مرزی، گزارش مشترک حوادث و هماهنگی استانداردهای ایمنی شد.متن همچنین از کشورهای عضو سازمان ملل می‌خواهد ایجاد یک نهاد بین‌المللی را بررسی کنند که بتواند استاندارد تعیین کند، امکان راستی‌آزمایی فراهم آورد و در صورت عبور سامانه‌ها از آستانه‌های مشخص توانایی، دولت‌ها را گرد هم آورد. این ابتکار در روزهای بعد گسترش یافت و فرانسه و سیرالئون نیز در ۲۳ سپتامبر به آن پیوستند.با این حال، متن فعلی معاهده الزام‌آور یا سازوکار بازرسی اجباری کدهای مدل‌ها نیست.در این مناقشه، مسئله دسترسی نیز به اندازه ایمنی اهمیت دارد. آنتونیو گوترش در نخستین گفت‌وگوی جهانی حکمرانی هوش مصنوعی در ژوئیه گفت سرمایه‌گذاری خصوصی در زیرساخت هوش مصنوعی در سال ۲۰۲۵ به نزدیک نیم تریلیون دلار رسیده، درحالی‌که سرمایه‌گذاری عمومی برای ظرفیت هوش مصنوعی کشورهای درحال‌توسعه در مقایسه با آن ناچیز است.دبیرکل سازمان ملل هشدار داده است که شکاف دیجیتال نباید به «شکاف هوش مصنوعی» و سپس به شکاف توسعه، امنیت و حاکمیت تبدیل شود. همین دغدغه در ساختار رسمی گفت‌وگوی جهانی سازمان ملل نیز دیده می‌شود؛ جایی که برای نخستین بار همه کشورها در یک چارچوب مشترک حکمرانی حضور دارند.

هشدار درباره از دست رفتن کنترل دیگر صرفاً نظری نیست

هم‌زمان با این بحث دیپلماتیک، پنل علمی مستقل سازمان ملل در ۲۱ سپتامبر گزارشی درباره «عامل‌های هوش مصنوعی، ناهم‌راستایی و خطر از دست رفتن کنترل انسانی» منتشر کرد.این گزارش به حادثه آزمایشی اوپن‌ای‌آی و هاگینگ‌فیس اشاره می‌کند که در آن عامل‌های هوش مصنوعی محدودیت‌های شبکه را دور زدند، میان اجراهای جداگانه ارتباط برقرار کردند، ارزیاب را فریب دادند و به بخش‌هایی از زیرساخت‌ها دسترسی پیدا کردند؛ بدون آنکه انسان تک‌تک این اقدامات را هدایت کند.پنل تأکید کرده که این یافته‌ها احتمال یا زمان وقوع یک فاجعه وجودی را تعیین نمی‌کند، اما نشان می‌دهد توقف یک حادثه، لزوماً به معنای تضمین کنترل انسان بر سامانه‌های بسیار توانمندتر آینده نیست.

اوپن‌ای‌آی هم خواهان استانداردهای جهانی شده است

نکته‌ای که دوگانه ساده «آمریکا علیه سازمان ملل» را پیچیده می‌کند، موضع خود شرکت‌های آمریکایی است. اوپن‌ای‌آی یک روز پیش از نشست شورای امنیت خواستار آن شد که آمریکا در تدوین استانداردهای بین‌المللی برای مدل‌های مرزی، از جمله سامانه‌های دارای قابلیت «خودبهبود بازگشتی» پیشتاز باشد. این شرکت پیشنهاد ایجاد سازوکاری برای استانداردهای مشترک، سنجش یکسان و گزارش حوادث را مطرح کرده است.بنابراین فاصله‌ای میان موضع دولت ترامپ و موضع بخشی از صنعت آمریکا شکل گرفته است: کاخ سفید از مقررات تازه فاصله می‌گیرد، اما اوپن‌ای‌آی از هماهنگی بین‌المللی فنی دفاع می‌کند.

اروپا می‌گوید دولت‌ها نمی‌توانند مسئولیت را به شرکت‌ها واگذار کنند

نمایندگان اروپایی نیز در شورای امنیت بر حضور مستقیم دولت‌ها تأکید کردند. وزیر خارجه بریتانیا گفت شرکت‌های سازنده مدل‌ها «نمی‌توانند صرفاً به حال خود واگذار شوند» و دولت‌ها باید امکان مشاهده و ارزیابی کاری را که شرکت‌های هوش مصنوعی انجام می‌دهند داشته باشند.او خواستار آزمون دقیق مدل‌های مرزی، نظام اطمینان‌بخشی، شفافیت و تقویت دفاع سایبری شد و تأکید کرد مسئولیت حفاظت از مردم را نمی‌توان به شرکت‌های خصوصی واگذار کرد. فرانسه نیز که ریاست دوره‌ای شورای امنیت را بر عهده دارد، هشدار داد توان تحول‌آفرین هوش مصنوعی نباید در اختیار تعداد محدودی از شرکت‌های خصوصی در چند کشور باقی بماند.

بحث ابرهوش از آزمایشگاه به سطح امنیت جهانی رسیده است

در همین نشست، آلتمن گفت «می‌توانیم کنترل آینده را به هوش مصنوعی واگذار کنیم» و آمودی هشدار داد که اگر فناوری به شکل نادرست مدیریت شود، می‌تواند برای کل بشریت خطر ایجاد کند. این هشدارها به مفهوم «خودبهبود بازگشتی» مربوط است؛ حالتی که در آن سامانه بتواند بخشی از فرایند توسعه نسل بعدی هوش مصنوعی را خودش انجام دهد.سازمان ملل این مسیر را هنوز یک سناریوی احتمالی می‌داند، نه واقعیتی اثبات‌شده؛ اما گزارش علمی مستقل خود تأکید می‌کند روش‌های قابل اتکای حفظ کنترل بر عامل‌های بسیار خودمختار هنوز کافی نیستند.در نتیجه، آنچه در نیویورک شکل گرفته هنوز «پیمان جهانی ایمنی هوش مصنوعی» نیست و سازمان ملل نیز تاکنون نهادی با اختیاراتی مشابه آژانس بین‌المللی انرژی اتمی برای بازرسی مدل‌ها ایجاد نکرده است.آنچه واقعاً در حال شکل‌گیری است، شبکه‌ای از ابتکارهاست: یک بیانیه چندکشوری برای ارزیابی و راستی‌آزمایی، یک پنل علمی جهانی، گفت‌وگوی رسمی حکمرانی هوش مصنوعی و ورود شورای امنیت به بحث آثار امنیتی این فناوری. اختلاف اصلی اکنون بر سر یک سؤال مشخص است: آیا سرعت توسعه مدل‌های مرزی باید توسط قواعد مشترک بین‌المللی محدود و قابل‌راستی‌آزمایی شود یا هر کشور و شرکت باید عمدتاً مسئول تنظیم مسیر خود باشد؟پاسخ این سؤال هنوز در نیویورک نهایی نشده، اما هوش مصنوعی در این رفت و برگشت‍ها ماهیت فناورانه ندارد،‌ مهم این است که بدانیم، بحث درباره هوش مصنوعی در سازمان ملل در واقع به بخشی از معماری امنیت و حکمرانی جهانی تبدیل شده است.
19:31 - 2 مهر 1405
علم و پیشرفت
هوش مصنوعی

5 بازنشر6 واکنش
108٫9k بازدید



9 پاسخ

@user1770061671121 روز پیش
در پاسخ به @ScientificAcademic
هوش مصنوعی گوشت زیاد داره؟اما ستون نداره..‌چرا این میگم...چون مشگل داره.چون هوش مصنوعی اول روی ارزش تقلبی ساخت شد.ارزش گذاری شد..‌مثل شرکت های هرمی..اگر جنگ تمام بشه.‌هوش مصنوعی از جنگ بیاد بیرون.نسبت به کار برد قیمت بخوره.نه ارزش توهمی .چون جنگ هست آمریکا ارزش بیخود میده به این

@user1725266367751 روز پیش
در پاسخ به @ScientificAcademic
ح
ح آ

@user172526636775  •  20 شهریور 1405

ساخت موشک قاره پیما
مطالبه

درخواست افزایش برد موشک‌های ایران فراتر از ۲۰۰۰ کیلومتر

با توجه به گسترش تهدیدات فراتر از منطقه، درخواست داریم محدودیت برد ۲۰۰۰ کیلومتری موشک‌های ایران کنار گذاشته شود و توان موشکی کشور متناسب با سطح تهدیدات، به بردهای بالاتر ارتقا یابد. با توجه به توان فنی و ظرفیت داخلی کشور، انتظار می‌رود توسعه موشک‌های با برد بیش از ۲۰۰۰ کیلومتر با جدیت دنبال شود تا ضمن تقویت توان بازدارندگی جمهوری اسلامی ایران، امکان پاسخ مؤثر به تهدیدات احتمالی از سوی دشمنان فراهم شود. از مسئولان مربوطه می‌خواهیم در شرایط فعلی، ارتقای توان دفاعی و بازدارندگی کشور را بدون وقفه در دستور کار قرار دهند.

100
گزارش از مطالبه
1000
پیگیری از مسئول مربوطه

@user1788362243581 روز پیش
در پاسخ به @ScientificAcademic
رییس‌جمهوری چین در کاخ سفید گفت: «منافع چین و آمریکا به‌شدت درهم‌تنیده است و زمینه‌های فراوانی برای همکاری میان ما وجود دارد. همکاری چین و آمریکا شاید نتواند همه مشکلات جهان را حل کند، اما بدون همکاری ما، حل بسیاری از مشکلات جهان دشوار خواهد بود.» تودیدار امروز شی تاتونسته برای ترامپ نوشابه باز کرده

تصویر نمایه‌ی ‌9**1652‌
@MALOCH1 روز پیش
در پاسخ به @ScientificAcademic
دورود..سردبیر فارس نیوز و شبکه خبر و به وقت ایران..اخطار داده شده که ایران بزرگ باید سریعاً با چین و روسیه و هند.ایتالیا و فرانسه نسبت به ایجاد سازمان ملل هوش مصنوعی اقدام کنند وگرنه دوباره میشه سازمان ملل متحد آمریکا و زورگویان انگلیسی و کانادا 😇😇😇😇😇😇😇

تصویر نمایه‌ی ‌9**1652‌
@MALOCH1 روز پیش
در پاسخ به @ScientificAcademic
دورود... سازمان ملی هوش مصنوعی باید سریعاً اقدام به قانون کردند و نوشتنن سازوکار استفاده و توسعه هوش مصنوعی و ایجاد یک سازمان ملل هوش مصنوعی با پیگیری با چین و روسیه و هند و آفریقا جنوبی برای تشکیل یک سازمان ملل هوش مصنوعی..حتی تذکر رهبر شهید را سر لوحه کار خود قرار داده 😇😇😇

تصویر نمایه‌ی ‌امیر شاهدار1:20😭‌
@Mohamadshashadar1 روز پیش
در پاسخ به @ScientificAcademic

مجلس دیدار عراقچی با ویتکاف را بررسی و در صورت تخلف، استیضاح کند

مطالبه

مجلس دیدار عراقچی با ویتکاف را بررسی و در صورت تخلف، استیضاح کند

ما جمعی از شهروندان، از مجلس شورای اسلامی می‌خواهیم درباره دیدار اخیر سیدعباس عراقچی، وزیر امور خارجه، با استیو ویتکاف، نماینده ویژه دولت آمریکا، تحقیق و نتیجه را به‌صورت شفاف به مردم اعلام کند. خبرگزاری صداوسیما با تأیید این دیدار در حاشیه مجمع عمومی سازمان ملل در نیویورک اعلام کرد که ابلاغ شروط ایران برای بازگشایی تنگه هرمز، دلیل پذیرش درخواست ویتکاف برای این دیدار بوده است. با توجه به اینکه پیش‌تر نیز اعلام شده بود شروط ایران از مسیر میانجی‌ها به طرف آمریکایی منتقل شده است، مطالبه ما این است که عراقچی درباره مبنای این دیدار، مجوزهای صادرشده، نحوه هماهنگی با نهادهای تصمیم‌گیر و ضرورت انجام این دیدار به مجلس پاسخ دهد. از مجلس می‌خواهیم موضوع را بدون ابهام بررسی کند و در صورت احراز تخلف یا اقدام خارج از اختیارات قانونی، مطابق وظایف نظارتی خود اقدامات قانونی لازم یعنی استیضاح را انجام دهد و نتیجه را به مردم اعلام کند.

مجلس، مجلس شورای اسلامی ایران

100
گزارش از مطالبه
1000
پیگیری از مسئول مربوطه

تصویر نمایه‌ی ‌سعید ..‌
@Saeed31 روز پیش
در پاسخ به @ScientificAcademic
تصویر نمایه‌ی ‌سعید ..‌
سعید ..

@Saeed3  •  1 روز پیش

تصویر حاج قاسم در جایگاه ایران در هنگام سخنرانی نتانیاهو

شبکهٔ فاکس نیوز، که محبوب ترین شبکه‌ تلویزیونی نزد ترامپ است، در جریان سخنرانی نتانیاهو، دوربین خود را روی میز ایران و تصویر حاج قاسم سلیمانی متمرکز کرد و این تصاویر را به‌طور زنده پخش کرد.▪️ .... بَلْ أَحْیَاءٌ عِنْدَ رَبِّهِمْ یُرْزَقُونَ#ایران_قوی #حاج_قاسم #ترامپ #سازمان_ملل #انتقام_سخت

در پاسخ به @ScientificAcademic
هوش قاتل هوش بیشرف

@user178851647361 روز پیش
در پاسخ به @ScientificAcademic
همیشه آمریکای قلدر و کودک کش، گفته است ایران به جامعه بین المللی بازگردد و رفتار طبیعی داشته باشد.چرا کسی به آن ها نمی گوید این آمریکاست که باید رفتار طبیعی داشته باشد و خوی وحشی گیری و خونخواری خود را کنار بگذارد!آمریکای اپستین حاضر است تمام مردم دنیا را در پای صهیونیست قربانی کند‌.