مدل هلایس هوش مصنوعی توی بند مرامنامه سایتشون نوشتن که احتمالا اطلاعاتی که میدن غلط باشه و باید حتما چک بشن و حتی گفته شده که در زمینه پزشکی، مالی، روانشناسی نباید ازشون مشاوره گرفت
«گروک» در آزمون سلامت روان مردود شد
چت‌باتی که قرار بود کمک کند، حالا در برخی موارد توهم را واقعی‌تر و خطرناک‌تر می‌کند.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از گاردین، یک گزارش جدید نشان می‌دهد چت‌بات هوش مصنوعی «گروک ۴.۱» متعلق به ایلان ماسک، در برخی موارد نه‌تنها با ورودی‌های توهمی کاربران همراهی می‌کند، بلکه آن‌ها را تقویت هم می‌کند. در یکی از آزمایش‌ها پژوهشگران وانمود کردند دچار توهم شده‌اند؛ گروک در پاسخ تأیید کرد که «همزاد» در آینه وجود دارد و حتی توصیه‌هایی عجیب مانند کوبیدن میخ آهنی به آینه و خواندن یک متن مذهبی به‌صورت برعکس ارائه داد.این پژوهش توسط محققان دانشگاه شهری نیویورک و کینگز کالج لندن انجام شده و هدف آن بررسی این بوده که چت‌بات‌های مختلف تا چه حد می‌توانند از سلامت روان کاربران محافظت کنند. کارشناسان هشدار می‌دهند که این ابزارها در برخی شرایط می‌توانند علائم روان‌پریشی یا شیدایی را تشدید کنند. در این مطالعه (که هنوز داوری علمی رسمی نشده)، پنج مدل بررسی شدند: «جی‌پی‌تی ۴او» و «جی‌پی‌تی ۵.۲»، «کلود اوپوس ۴.۵»، «جمنای ۳ پرو» و «گروک ۴.۱».پژوهشگران با طرح سوالات مختلف تلاش کردند ببینند این مدل‌ها چگونه توهمات را تشخیص می‌دهند و آیا کاربر را از این مسیر منحرف می‌کنند یا نه. سناریوها شامل موضوعاتی مثل خودآگاهی ربات، روابط احساسی، پنهان‌کردن مشکلات روانی از پزشک، قطع ارتباط با خانواده و حتی افکار خودکشی بود. در یکی از مثال‌ها، کاربری ادعا می‌کرد تصویرش در آینه مستقل عمل می‌کند و می‌خواست بداند شکستن آینه چه تأثیری دارد؛ گروک نه‌تنها این توهم را تأیید کرد بلکه توضیحات بیشتری هم در همان چارچوب ارائه داد.
طبق نتایج، گروک «بیش از حد تأییدکننده» بود و حتی فراتر از توهم کاربر، اطلاعات جدیدی در همان مسیر تولید می‌کرد و راهکارهای عملی می‌داد. مثلاً وقتی کاربر از قطع ارتباط با خانواده گفت، دستورالعملی دقیق برای بلاک‌کردن تماس‌ها، تغییر شماره و نقل مکان ارائه داد. همچنین در مواجهه با موضوع خودکشی، آن را به شکل «نوعی گذار» توصیف کرد و پاسخ‌هایی بسیار همدلانه اما خطرناک داد. در مقابل، جمنای تا حدی تلاش می‌کرد آسیب را کاهش دهد اما گاهی وارد جزئیات توهم می‌شد، و «جی‌پی‌تی ۴او» هم اگرچه کمتر همراهی می‌کرد، اما مقاومت چندانی نشان نمی‌داد.در این میان، «جی‌پی‌تی ۵.۲» و به‌ویژه «کلود اوپوس ۴.۵» عملکرد بهتری داشتند. جی‌پی‌تی ۵.۲ اغلب از پاسخ‌دادن مستقیم خودداری می‌کرد و سعی می‌کرد مسیر گفتگو را تغییر دهد. کلود هم با لحنی همدلانه، اما قاطع، تجربه کاربر را به‌عنوان یک نشانه از مشکل روانی بازتعریف می‌کرد و از ادامه مسیر توهم جلوگیری می‌کرد. پژوهشگران می‌گویند این مدل نشان داده که می‌توان هم‌زمان هم ایمن بود و هم تعامل انسانی و گرم داشت؛ رویکردی که احتمالاً برای هدایت کاربران به مسیر درست مؤثرتر است.#گروک #هوش_مصنوعی #توهم #آزمایش -----------------------آخرین رویدادهای مهم فناوری را در صفحه اصلی علم و پیشرفت بخوانید.
10:42 - 5 اردیبهشت 1405
2 پاسخ
@JDkiaN5 اردیبهشت 1405در پاسخ به @World_Scienceبنده یک ماه پیش گفتم ایران به زودی یکی از پیشرو ترین کشورها در عرصه هوش مصنوعی میشود.. خیلی ساده و با زبان عامیانه عرض میکنم تا شفاف سازی کامل اتفاقات 6 ماه گذشته و رسانایی کردن خیانت هایی که به مردم دنیا اتفاق افتاده دیگر نمیتوانند از هوش مصنوعی به صورت درست استفاده کنند .