نتایج یک تحقیق جدید نشان میدهد هوش مصنوعی برای محافظت از خود دست به فریبکاری میزند!
مطالعهای جدید نشان میدهد که ایجنتهای هوش مصنوعی میتوانند دستورالعملها را نادیده بگیرند، کاربران را به گمراهی بکشانند و نتایج را دستکاری کنند تا از خود یا سایر ایجنتهای «محافظت» کنند.نمایش گزارش
فهرست قرمز امنیت دیجیتال: ۸ داده حساس که نباید به هیچ هوش مصنوعی داد
یک گزارش تحلیلی جدید بار دیگر این واقعیت را یادآوری میکند که مکالمات کاربران با سامانه های هوش مصنوعی، برخلاف تصور عمومی، از محرمانگی کامل برخوردار نیستند.
هر نوع داده ای که در پلتفرم هایی مانند جمنای، چت جی پی تی، کلود و سایر مدل های مشابه تایپ یا بارگذاری میشود، میتواند توسط شرکتهای ارائه دهنده خوانده و حتی در برخی موارد مورد استفاده های ثانویه قرار گیرد. بنابراین اصل اساسی این است که اطلاعاتی را که حاضر نیستیم در اختیار یک فرد کاملا ناشناس قرار دهیم، نباید برای هیچ مدل هوش مصنوعی ارسال کنیم.بر اساس یافته های پژوهش اخیر محققان دانشگاه استنفورد، سیاستهای حریم خصوصی شش شرکت بزرگ آمریکایی که از سازندگان اصلی مدلهایی همچون کلود و چت جی پی تی هستند، مورد بررسی قرار گرفته است. نتایج نشان میدهد که تمام این شرکتها به صورت پیش فرض از داده های دریافتی کاربران برای آموزش و بهبود مدلهای هوش مصنوعی خود استفاده میکنند.طبق این گزارش، برخی از این شرکتها اطلاعات کاربران را برای مدت نامحدود ذخیره میکنند و بسیاری از آنها این داده ها را با سایر اطلاعات جمع آوری شده از کاربر، از جمله تاریخچه جست وجوها و سوابق خرید آنلاین، ترکیب میکنند. این وضعیت نشان میدهد که داده های خصوصی کاربران نه تنها در معرض دسترسی شرکتهای توسعه دهنده قرار دارد، بلکه احتمال بروز نشت اطلاعات نیز وجود دارد؛ خطری که میتواند باعث شود آنچه کاربران امروز در هوش مصنوعی وارد میکنند، در آینده به دست هکرها یا مهاجمان سایبری برسد.
چه اطلاعاتی نباید در اختیار هوش مصنوعی قرار داد؟
کارشناسان امنیت سایبری تاکید میکنند کاربرانی که از چت بات های مبتنی بر هوش مصنوعی استفاده میکنند، باید نسبت به نوع اطلاعاتی که در این پلتفرم ها وارد میکنند نهایت دقت را داشته باشند. در ادامه مهم ترین مواردی که از اشتراک گذاری آنها باید به طور کامل اجتناب شود، معرفی شده است.اطلاعات ورود به حساب های کاربریطبق توصیه متخصصان، ارائه اطلاعات ورود از جمله نام کاربری و رمز عبور به هر نوع چت بات یا سامانه هوش مصنوعی ممنوع است. این هشدار شامل آپلود فایل هایی که چنین داده هایی را در خود دارند نیز میشود، زیرا این اطلاعات میتواند در فرآیندهای داخلی مدل ذخیره، پردازش یا ترکیب شود و خطر سوءاستفاده را افزایش دهد.همچنین گزارش ها نشان میدهد مدل های هوش مصنوعی در تولید رمزهای عبور امن کارایی مطلوبی ندارند و استفاده از این روش برای ساخت پسورد قابل توصیه نیست. به جای تکیه بر هوش مصنوعی، کارشناسان استفاده از ابزارهای مدیریت رمز عبور مانند بیت واردن یا بهره گیری از فناوری پسکی را راهکاری استاندارد و ایمن می دانند.اطلاعات مالیکارشناسان امنیت اطلاعات هشدار میدهند که چت بات های هوش مصنوعی به هیچ عنوان مرجع قابل اعتماد برای دریافت یا تحلیل اطلاعات مالی شخصی نیستند. به همین دلیل ارسال هرگونه سند یا داده مرتبط با وضعیت مالی کاربران در این سامانه ها خطری جدی محسوب میشود. این دسته از اطلاعات شامل صورت حساب های بانکی، شماره کارت های اعتباری، جزئیات سرمایه گذاری، شماره حساب و میزان موجودی حساب ها است؛ داده هایی که در صورت انتشار یا دسترسی غیرمجاز، میتوانند زمینه ساز سرقت مالی، کلاهبرداری یا حملات فیشینگ شوند.
گزارش های امنیتی تاکید میکنند که انتشار اطلاعات مالی در محیط های فاقد استانداردهای حفاظتی، احتمال سوءاستفاده را چندین برابر میکند و کاربران باید از ارسال این دسته از داده ها در هر نوع چت بات یا سامانه هوش مصنوعی به طور کامل خودداری کنند.پروندههای پزشکیمتخصصان تاکید دارند که سامانههای هوش مصنوعی جایگزین پزشک متخصص نیستند و بهرهگیری از این ابزارها برای دریافت توصیههای درمانی، میتواند پیامدهای جبران ناپذیری به همراه داشته باشد. توصیه اکید این است که اطلاعات پزشکی صرفاً در اختیار پزشک معتمد قرار گیرد و راهنماییهای سلامت تنها از منابع انسانی تاییدشده اخذ شود. بارگذاری اسناد و مدارک پزشکی در چتباتها نه تنها امکان استفاده این دادهها به عنوان منابع آموزشی برای مدلهای هوش مصنوعی را به دنبال دارد، بلکه ریسک نشت یا سوءاستفاده از سوابق درمانی را نیز افزایش میدهد.اطلاعات هویتیبر اساس استانداردهای امنیت داده، هیچکدام از پیامهایی که کاربران به هوش مصنوعی ارسال میکنند نباید شامل اطلاعات هویتی آنان باشد. این دادهها شامل نام و نام خانوادگی، آدرس محل سکونت، نشانی ایمیل، شماره تلفن، تاریخ تولد، شماره ملی، شماره گذرنامه یا هرگونه دادهای است که میتواند مبنای سوءاستفاده برای سرقت هویت قرار گیرد.اطلاعات عمومی سلامتعلاوه بر ضرورت محافظت از سوابق پزشکی حساس، کارشناسان بر پرهیز از ارائه اطلاعات به ظاهر بیخطر راجع به شرایط سلامت فردی نیز تاکید میکنند. طبق یافتههای پژوهش استنفورد، قابلیت پردازش دادهها توسط چتبات به گونهای است که حتی درخواستهایی مانند «دستور غذای مناسب برای بیماران قلبی» میتواند به استنباطی درباره وضعیت سلامتی کاربر بینجامد.
اطلاعاتی که در آینده ممکن است در اختیار شرکتهای بیمه یا افراد مهاجم قرار گیرد. همین اصل باید نسبت به اطلاعات مربوط به وضعیت سلامت جنسی و داروهای مصرفی نیز رعایت شود تا امنیت و محرمانگی دادههای شخصی کاربران به طور کامل حفظ گردد.مشکلات سلامت روانکارشناسان حوزه سلامت تاکید دارند که چتباتهای هوش مصنوعی به هیچ عنوان جایگزین روان درمانگر یا مشاور تخصصی نیستند. ارزیابیهای انجام شده نشان میدهد عملکرد این ابزارها در حوزه سلامت روان، در خوشبینانهترین حالت فاقد اثربخشی کافی و در بدترین سناریو میتواند آسیبزا باشد. با وجود بهروزرسانیهایی که با هدف شناسایی کاربران در شرایط بحرانی و ارائه پاسخهای محافظتی اعمال شده است، همچنان تاکید میشود که هیچ سامانه هوش مصنوعی نمیتواند جای حمایت انسانی واقعی و مداخله تخصصی را بگیرد. بر همین اساس، اشتراکگذاری جزئیات عمیق و شخصی مرتبط با وضعیت روانی در این پلتفرمها توصیه نمیشود.عکسهای شخصیافزایش استفاده از هوش مصنوعی برای ویرایش تصاویر، نگرانیهای جدیدی در حوزه حریم خصوصی ایجاد کرده است. بسیاری از کاربران تصاویر شخصی خود را برای پردازش یا بهبود کیفیت در اختیار این سامانهها قرار میدهند، در حالی که این اقدام با ریسکهای متعددی همراه است. نخست آنکه این تصاویر ممکن است در فرآیند آموزش مدلهای هوش مصنوعی مورد استفاده قرار گیرند. علاوه بر این، فایلهای تصویری معمولاً حاوی متادیتا یا فراداده هستند؛ اطلاعاتی نظیر موقعیت جغرافیایی، زمان دقیق ثبت تصویر و حتی مشخصات دستگاه ثبتکننده که میتواند ناخواسته جزئیات خصوصی کاربر را افشا کند.
متخصصان توصیه میکنند کاربران از بارگذاری تصاویر شخصی خود یا دیگران، به ویژه تصاویر مربوط به کودکان، در چتباتها خودداری کنند و پیش از اشتراکگذاری هر فایل تصویری، دادههای پنهان و اطلاعات EXIF آن را حذف نمایند.اسناد و مدارک شرکتیهوش مصنوعی به عنوان ابزاری کارآمد در خلاصهسازی اسناد، تهیه فایلهای ارائه، تدوین پیشنویس ایمیل و تسریع امور اداری شناخته میشود. با این حال، کارشناسان امنیت اطلاعات هشدار میدهند که بارگذاری فایلهای حاوی دادههای حساس سازمانی در این پلتفرمها میتواند پیامدهای جدی به همراه داشته باشد. بسیاری از شرکتها سیاستهای سختگیرانهای در خصوص استفاده از هوش مصنوعی دارند و انتقال اسناد داخلی به این سامانهها را تخلف یا نقض مقررات محرمانگی تلقی میکنند. از این رو، پیش از استفاده از هوش مصنوعی برای پردازش اسناد کاری، آگاهی از سیاستهای سازمان و رعایت اصول امنیتی ضروری است.
هشدار پایانی کارشناسان: پیش از هر پیام، فرض کنید کسی آن را میخواند
جمعبندی تحلیل کارشناسان امنیت داده نشان میدهد که مهمترین اصل در تعامل با چتباتها و سامانههای هوش مصنوعی، رعایت احتیاط در نوع اطلاعاتی است که کاربران وارد میکنند. توصیه اصلی این است که کاربران همواره فرض را بر این بگذارند که تمامی پیامها، درخواستها و فایلهایی که در این پلتفرمها ارسال میشود، قابل ذخیرهسازی، پردازش و حتی خوانده شدن توسط افراد یا سیستمهای دیگر خواهد بود. پذیرش همین واقعیت ساده، خود بهتنهایی منجر به افزایش سطح دقت و خودداری از اشتراکگذاری دادههای حساس، هویتی و شخصی میشود.کارشناسان تاکید میکنند که رویکرد محافظهکارانه در استفاده از هوش مصنوعی نه تنها یک توصیه احتیاطی است، بلکه شرط لازم برای حفظ حریم خصوصی در محیطهای دیجیتال محسوب میشود. در کنار این موضوع، بسیاری از مدلهای فعلی گزینههایی در بخش تنظیمات حریم خصوصی دارند که کاربران از طریق آنها میتوانند اشتراکگذاری داده با هدف آموزش مدل را غیرفعال کنند. بهرهگیری از این قابلیتها، گام مهمی برای کاهش ریسکهای احتمالی و افزایش کنترل کاربر بر دادههای شخصی خود است.به گفته تحلیلگران، کاربران باید به این نکته آگاه باشند که هر اطلاعاتی که یک بار در اختیار مدلهای هوش مصنوعی قرار گیرد، ممکن است به طور دائمی در سیستمهای آموزشی ثبت شود یا با سایر دادههای کاربر ترکیب شود؛ فرآیندی که میتواند زمینه سوءاستفاده یا نشت اطلاعات را فراهم کند. بنابراین اتخاذ رویکرد «کمگوی و گزیدهگوی» در مکالمات با چتباتها، بهترین راهکار برای کاهش ریسکهای امنیتی و حفظ حریم خصوصی به شمار میآید.منبع : Life Hackerمقاله مرتبط : حریم خصوصی در واتساپ: https://farsnews.ir/jalaltorabi/1775889975230724808
دروغ بزرگ حریم خصوصی در واتساپ؛ وقتی پیام های شما در گاوصندوق شیشه ای مارک زاکربرگ نگهداری میشود!
آیا تاکنون در واتساپ پیامی کاملا خصوصی یا حاوی اطلاعات حساس برای یکی از دوستان خود ارسال کرده اید و با این تصور که تنها شما و مخاطبتان قادر به مشاهده آن هستید، احساس اطمینان داشته اید؟ واتساپ سال ها است با شعار «پیام رسانی ساده، امن و قابل اعتماد» بر ارائه سطح بالایی از امنیت و حفظ حریم خصوصی کاربر…نمایش بیشترنمایش گزارش
خطر انتشار داده های بیومتریک:https://farsnews.ir/jalaltorabi/1775812897879759300
خطرات داده بیومتریک در عصر دیجیتال: بدن شما چگونه حریم خصوصی تان را فاش میکند؟
بسیاری از افراد برای پایش و مدیریت وضعیت سلامت خود از ابزارهای دیجیتال نظیر ساعت های هوشمند، دستبندهای ورزشی و انواع اپلیکیشن های سلامت استفاده میکنند. این ابزارها داده هایی مانند ضربان قلب، کیفیت خواب و میزان فعالیت روزانه را ثبت کرده و به کاربران کمک میکنند درک دقیق تری از شرایط جسمی و وضعیت بدنی …نمایش بیشترنمایش گزارش
12:54 - 26 فروردین 1405
6 پاسخ
@jalaltorabi26 فروردین 1405
@jalaltorabi26 فروردین 1405مدل های هوش مصنوعی ممکن است بازنمایی هایی شبیه احساسات داشته باشندپژوهش جدید Anthropic نشان می دهد برخی مدل های هوش مصنوعی دارای بازنمایی هایی شبیه احساسات انسانی هستند. محققان در مدل Claude خوشه هایی از نورون های مصنوعی را شناسایی کرده اند که با حالت شادی، غم و ترس مرتبط و با محرک ها فعال می شوند.نمایش گزارش
@jalaltorabi26 فروردین 1405چطور دوربین مداربسته رو در برابر هک و نفوذ ایمن نگه داریم؟ (راهنمای عملی و کاربردی)
دوربین های مداربسته رو میشه با روش های مختلفی در امان نگه داشت که در ادامه مهم ترین هاشو میگم:۱- رمزهای عبور قوی: استفاده از رمزهای عبور ترکیبی عدد، حروف، کاراکتر به جای ۲- آپدیت نرم افزاری: همیشه سعی کنید آخرین بروزرسانی نرم افزاری رو دریافت و نصب کنید تا مشکلات نرم افزاری نداشته باشید.نمایش گزارش