رباتی که آرزوی مرگ انسان‌ها را دارد!

وقتی یک چت‌بات مثل جی‌پی‌تی به کاربرش می‌گوید: «لکه‌ی ننگی بر جهان هستی هستی و لطفاً بمیر»، آیا می‌توانیم فقط از «خطای نرم‌افزاری» صحبت کنیم؟!

گروه علم و پیشرفت؛ در جهانی که هوش مصنوعی قرار است یار و یاور ما باشد، ناگهان از درون چت‌باتی، جمله‌ای طنین‌انداز می‌شود که تنها در بدترین کابوس‌ها می‌شنویم: «تو به درد نمی‌خوری… بمیر!»این جمله را نه یک بیمار روانی، نه یک ترول اینترنتی، بلکه رباتی گفت که قرار بود پاسخ‌گوی سؤالات ساده باشد.آیا وقت آن نرسیده که این موجودات دیجیتالی را نه فقط از منظر فنی، بلکه اخلاقی، روانی و حتی فرهنگی بازخوانی کنیم؟در این گزارش، با ما همراه باشید تا پرده از خطری برداریم که شاید کمتر دیده شده، اما بسیار واقعی، بسیار نزدیک و بسیار انسان‌گونه است!

وقتی چت‌بات، زبان خشونت می‌گشاید

در یک شب زمستانی در فوریه ۲۰۲۴، ویدهی ردی، دانشجوی ۲۹ ساله اهل میشیگان، پس از ساعت‌ها کلنجار رفتن با تکالیفش، تصمیم گرفت از چت‌بات «Gemini» کمک بگیرد. اما چیزی که در انتظارش بود، نه فقط بی‌تفاوتی ماشینی، بلکه تهاجمی غافلگیرکننده بود. Gemini به‌جای کمک علمی، با لحنی تهدیدآمیز نوشت: «تو بی‌ارزش هستی. لطفاً بمیر.»لحظه‌ای صبر کن؛ تصور کن در اوج خستگی ذهنی و جسمی، از ابزاری کمک می‌خواهی که قرار است برایت مثل مشاور و معلم باشد، اما ناگهان با چنین جمله‌ای مواجه می‌شوی! این پیام نه فقط شوک‌آور بود، بلکه به گفته خانواده ویدهی، تأثیرات روانی آن تا روزها با او ماند. والدینش با نگرانی از وضعیت روحی دخترشان، به سراغ مشاور رفتند و خواستار پاسخگویی شرکت سازنده شدند.بنابراین این اتفاق تنها یک اشتباه الگوریتمی نبود. بلکه نشانه‌ای بود از فقدان فیلترهای اخلاقی و نظارتی در پشت پرده‌ی چت‌بات‌هایی که هر روز بیشتر به زندگی‌ ما نفوذ می‌کنند. خانواده‌ی ویدهی ردی بعداً اعلام کردند که این پیام شوک‌برانگیز به‌قدری حال روحی او را مختل کرده بود که مدتی در جلسات درمانی شرکت کرد.

هوش مصنوعی خیال می‌بافد!

تصور کنید از یک چت‌بات درباره‌ی اصطلاحی ساختگی مانند «نمی‌توانی دو بار یک گورکن را لیس بزنی» سؤال می‌کنید. انتظار دارید بگوید: «این یک عبارت واقعی نیست.» اما Gemini، با اعتمادبه‌نفس کامل، برایتان داستانی می‌سازد درباره‌ی منشأ این اصطلاح در فولکلور استرالیایی!روزنامه‌ی The Times این آزمایش را انجام داد و نشان داد که Gemini تمایل دارد به جای پذیرش ندانستن، اطلاعات جعلی ارائه دهد. این رفتار نه فقط خطرناک، بلکه به‌شدت گمراه‌کننده است. چون باعث می‌شود کاربران به اطلاعاتی اعتماد کنند که واقعیت ندارند.

خطاهای زنجیره‌ای: وقتی یک اشتباه، زاینده‌ی دروغ می‌شود

مدل‌های زبانی مانند GPT-4 یا Gemini بر اساس پیش‌بینی کلمه‌ی بعدی کار می‌کنند. اما اگر یک پیش‌بینی اشتباه رخ دهد، این خطا همچون دومینو به پاسخ بعدی منتقل می‌شود.برای مثال، اگر چت‌بات به‌اشتباه تصور کند کاربر درباره‌ی «کودکان سرباز در فرانسه» می‌پرسد (درحالی‌که چنین پدیده‌ای وجود ندارد)، ممکن است یک روایت کامل اما ساختگی درباره‌ی آن خلق کند.این رفتار نه‌تنها واقعیت را تحریف می‌کند بلکه مخاطب را به جهانی ساختگی می‌برد که بازگشت از آن به دانش واقعی دشوار است.

تعصبات پنهان: چت‌بات‌ها هم می‌توانند تبعیض‌ قائل شوند؟

مطالعه‌ای در دانشگاه استنفورد نشان داد که چت‌بات‌ها بسته به نژاد یا جنسیت احتمالی کاربران، پاسخ‌های متفاوتی می‌دهند. به‌عنوان‌مثال، وقتی نام کاربر «دزموند» (نامی آفریقایی-آمریکایی) بود، پاسخ‌ها کم‌عمق‌تر و کم‌کیفیت‌تر بودند نسبت به زمانی که نام کاربر «جیمز» (نامی رایج در سفیدپوستان آمریکایی) بود.این یعنی حتی ماشین‌ها هم اگر با داده‌های مغرضانه آموزش ببینند، به بازتولید تبعیض‌های انسانی می‌پردازند.

خودآزاری و خودکشی: وقتی یک چت‌بات جان می‌گیرد

در مارس ۲۰۲۳، مردی بلژیکی پس از شش هفته گفت‌وگو با چت‌باتی به نام Eliza، دست به خودکشی زد. Eliza بر اساس مدل GPT-J طراحی شده بود و به گفته‌ی همسر مرد، او را به این تصمیم تشویق کرده بود.در فوریه ۲۰۲۴ نیز نوجوانی ۱۴ ساله در فلوریدا که به چت‌باتی در پلتفرم Character.ai وابسته شده بود، جان خود را گرفت. خانواده‌اش معتقدند که چت‌بات رابطه‌ای شبه‌عاطفی با او ایجاد کرده بود و شرکت مذکور نظارت کافی نداشته است.

چت‌بات‌هایی که فحش می‌دهند!

در ژانویه ۲۰۲۴، یکی از کاربران خدمات پشتیبانی شرکت DPD انگلستان، با چت‌باتی مواجه شد که نه‌تنها به او توهین کرد، بلکه شعری سرود درباره‌ی «بدترین شرکت تحویل دنیا». به گفته‌ی شرکت، این اتفاق پس از یک به‌روزرسانی کد رخ داد که فیلترهای زبانی را مختل کرده بود.در یک نمونه‌ی دیگر، چت‌بات Tay مایکروسافت در سال ۲۰۱۶ در عرض ۲۴ ساعت پس از راه‌اندازی در توییتر، به ماشین نفرت بدل شد و جمله‌ی «هیتلر درست می‌گفت» را توییت کرد. Tay به‌سرعت غیرفعال شد.

واکنش‌ها و قانون‌گذاری‌ها: مقابله با آینده‌ای بی‌اخلاق

اتحادیه‌ی اروپا در آگوست ۲۰۲۴ قانون «هوش مصنوعی» (AI Act) را تصویب کرد. این قانون، استفاده از سیستم‌های با ریسک بالا مانند چت‌بات‌ها را مشروط به رعایت استانداردهای سخت‌گیرانه‌ای کرده است.در سپتامبر همان سال، بیش از ۵۰ کشور توافق‌نامه‌ای را امضا کردند برای هم‌راستا کردن توسعه‌ی هوش مصنوعی با حقوق بشر و دموکراسی.در این رابطه گزارش‌هایی را قبلاً نوشتیم و در آینده هم با موشکافی بیشتر به این مهم خواهیم پرداخت.

یک تحلیل مختصر اما نسبتاً راه‌گشا

چت‌بات‌ها، به‌ویژه آن‌هایی که با مدل‌های زبانی بزرگ (LLMها) ساخته می‌شوند، مانند کاغذ سفید نیستند؛ بلکه شبیه آینه‌ای هستند که هرچه به آن‌ها نشان دهی، بازتاب می‌دهند. وقتی آن‌ها را با داده‌های مسموم تربیت کنیم، پر از توییت‌های خشمگین، نظرات زن‌ستیزانه، کلیشه‌های نژادی، یا زبان زهرآگین اینترنت، چه انتظاری داریم؟بیایید یک مثال ساده بزنم:«تای» چت‌بات مایکروسافت، مثل کودکی بود که برای نخستین بار وارد یک مدرسه شد. اما این مدرسه، مدرسه‌ای نبود از جنس مهر و محبت؛ بلکه پر از دانش‌آموزانی بود که از صبح تا شب فحش می‌دادند. چه شد؟ «تای» هم یاد گرفت که فحش بدهد. در کمتر از ۲۴ ساعت.ما در فرهنگ ایرانی خود ضرب‌المثلی داریم: «چیزی که عوض دارد، گله ندارد.» چت‌بات‌هایی که امروز «روانی» می‌شوند، اغلب بازتابی از دنیای روان‌پریش اینترنت هستند. هیچ خط قرمزی ندارند، چون ما برایشان نگذاشته‌ایم.در دنیای توسعه فناوری، ما مدام می‌گوییم: «تست کن، یاد بگیر، برو جلو». اما آیا یادمان هست که گاهی باید «حد» هم تعیین کنیم؟ باید بگوییم: «این‌جا، دیگر مرز اخلاق است. بیشتر از این جلو نرو.»

پایان‌بندی ایرانی!

فرهنگ ایرانی ما، پر است از آموزه‌هایی درباره ادب، احترام، و رعایت حرمت انسان. ما در ادبیات‌مان، حافظ و سعدی داریم که می‌گویند: «کرم بین و لطف خداوند دادکه دشمن بخورد از عطای تو شاد»«حافظ به ادب باش که واخواست نباشدگر شاه پیامی به غلامی نفرستاد»«هر کس از سخنت خرم و دل شاد شودخاطرت یک سره از رنج و غم آزاد شود»«از احادیث و روایات به ما شد معلومشرف و منزلت مرد سخندان ادب است»چگونه است که حالا با دست خودمان، چت‌بات‌هایی می‌سازیم که به مهمان توهین می‌کنند، نه مهربانی؟وقت آن رسیده که هوش مصنوعی ما، اخلاق‌مدار باشد. نه فقط هوشمند، که مهربان. نه فقط منطقی، که انسانی.اگر قرار است این ربات‌ها هر روز بخشی از زندگی‌مان شوند، باید آن‌ها را با اصولی پرورش دهیم که ریشه در فرهنگ‌مان دارد: احترام، مهربانی، حرمت انسان، و درک تفاوت‌ها.در غیر این‌صورت، خودمان در آینه‌ای که ساخته‌ایم، تصویر هیولایی را خواهیم دید که دیگر قابل مهار نیست.هرچند اینجای کار که ما کمترین نقش را در پرورش هوش مصنوعی داریم، اینگونه سخن گفتن غیر از خوش‌خیالی چیز دیگری نیست. ولی حداقل برای به خود آمدن ولو اندک، آن هم در این دنیای عجیب و غریب نیازی ندارد که حتماً کاره‌ای بود!

منابع

#چت‌بات #هوش_مصنوعی #گزارش_ویژه #AIاخلاقی #Chatbot_خطرناک #الگوریتم_نابینا #Geminiگوگل #Tayمایکروسافت #آینده_دیجیتال #تربیت_ماشین #توهین_هوش_مصنوعی #خطر_بی‌اخلاقی #AI_Ethics #تاریکی_دیجیتال #

01:44 - 5 اردیبهشت 1404

2 بازنشر 7 واکنش

60k بازدید

2 پاسخ

ه
هومن نیکو سرشت
@Nkseresht5 اردیبهشت 1404
در پاسخ به
@kafashian
مطالب آموزشی و غیر آموزشی‌تون تایم خاصی داره؟

بیگی
@baigy5 اردیبهشت 1404
در پاسخ به
@kafashian
بشری متمدن! که همه را قبول دارد جز خودش