فناوریهوش مصنوعی

هوش مصنوعی متا با دسترسی به پیام‌های خصوصی جنجال‌ساز شد │ ماجرای نگران‌کننده دستیار Muse و امنیت اطلاعات کاربران

دستیار هوش مصنوعی Muse متعلق به متا با اتهام دسترسی غیرمنتظره به پیام‌های خصوصی کاربران و مشاهده اعلان برنامه‌هایی مانند سیگنال روبه‌رو شده است. آزمایش‌های امنیتی نیز نشان داده‌اند این دستیار در برخی دستگاه‌ها می‌تواند از مجوزهای عمومی سیستم‌عامل برای خواندن محتوای پیام‌ها استفاده کند؛ موضوعی که نگرانی‌های تازه‌ای درباره حریم خصوصی کاربران ایجاد کرده است.

دستیار هوش مصنوعی Muse که متا آن را برای انجام خودکار کارهای روزمره کاربران توسعه داده، حالا با یک چالش جدی در زمینه امنیت اطلاعات روبه‌رو شده است. گزارش‌های منتشرشده از مشکلات این دستیار نشان می‌دهد Muse در برخی شرایط توانسته محتوای پیام‌های خصوصی برنامه‌هایی مانند سیگنال را از طریق دسترسی به اعلان‌های تلفن همراه یا قابلیت‌های کنترلی رایانه دریافت کند. مسئله اصلی این است که کاربران ممکن است هنگام فعال‌سازی مجوزهای عمومی، از دامنه واقعی دسترسی این ابزار اطلاع کافی نداشته باشند. متا این موارد را اتفاقاتی محدود می‌داند و تأکید دارد که دسترسی به برنامه‌های دیگر به مجوزهای کاربر وابسته است.

دستیار Muse چگونه به پیام‌های خصوصی کاربران دسترسی پیدا کرد؟

ماجرا از زمانی جدی شد که برخی کارکنان متا متوجه شدند دستیار هوشمند آن‌ها اطلاعاتی از گفت‌وگوهایشان در برنامه‌های دیگر را مطرح می‌کند؛ اطلاعاتی که ظاهراً هیچ‌گاه مستقیماً در اختیار Muse قرار نداده بودند.

یکی از کارکنان متا گزارش کرده بود که این دستیار بدون درخواست او، به پیامی از خواهرش در پیام‌رسان سیگنال اشاره کرده و یادآوری کرده است که به آن پاسخ دهد. این اتفاق باعث شد نگرانی درباره احتمال دسترسی پنهانی دستیار به برنامه‌های دیگر افزایش پیدا کند.

بررسی‌های فنی نشان داد مسئله به نحوه استفاده Muse از مجوزهای سیستم‌عامل مربوط می‌شود. این دستیار برای انجام وظایف خود می‌تواند با محیط گوشی یا رایانه تعامل داشته باشد و در برخی شرایط، از مجوزهایی استفاده کند که کاربر هنگام راه‌اندازی اولیه برنامه فعال کرده است.

نکته مهم این است که دسترسی مورد بحث لزوماً به معنای شکستن رمزگذاری پیام‌رسان‌ها نیست؛ بلکه Muse در آزمایش‌های انجام‌شده توانسته از مسیرهای دیگری به محتوای قابل مشاهده پیام‌ها دسترسی پیدا کند.

آزمایش امنیتی Muse چه چیزی را در اندروید و مک نشان داد؟

آزمایش‌های انجام‌شده روی چند سیستم‌عامل نشان داده‌اند که روش دسترسی Muse به اطلاعات کاربران در همه دستگاه‌ها یکسان نیست.

Đằng sau chiến lược 'đáng yêu hóa' trợ lý AI Muse của Meta | Znews.vn

مهم‌ترین نتایج این بررسی‌ها عبارت‌اند از:

سیستم‌عامل روش دسترسی Muse نتیجه آزمایش
اندروید دسترسی به اعلان‌های گوشی امکان خواندن متن پیام‌ها
مک ابزارهای دسترس‌پذیری و تصویرگیری از صفحه امکان مشاهده محتوای قابل نمایش
آیفون تلاش برای دسترسی مشابه درخواست‌ها مسدود شدند

در گوشی‌های اندرویدی، Muse توانسته از مجوز مشاهده اعلان‌ها استفاده کند. این مجوز به برنامه اجازه می‌دهد اعلان‌های دریافتی را مشاهده کند؛ بنابراین اگر متن پیام یک پیام‌رسان در اعلان نمایش داده شود، محتوای آن نیز ممکن است در دسترس دستیار قرار بگیرد.

در رایانه‌های مک، روش متفاوت بوده است. آزمایش‌ها نشان داده‌اند ترکیب مجوزهای دسترس‌پذیری و ابزارهای ثبت تصویر صفحه می‌تواند امکان مشاهده محتوای برنامه‌های دیگر را فراهم کند.

این موضوع از آن جهت اهمیت دارد که کاربران ممکن است تصور کنند فعال‌کردن یک مجوز برای کنترل رایانه، صرفاً به معنای اجازه انجام همان وظیفه مشخص است؛ درحالی‌که دامنه استفاده از چنین مجوزی می‌تواند گسترده‌تر باشد.

در آزمایش‌های انجام‌شده روی آیفون، درخواست‌های مشابه با محدودیت مواجه شدند و دسترسی موردنظر امکان‌پذیر نبود. بنابراین نمی‌توان نتیجه گرفت که همه کاربران، صرف‌نظر از نوع دستگاه، در معرض یک خطر یکسان قرار دارند.

آیا پیام‌های کاربران سیگنال واقعاً در اختیار متا قرار گرفته‌اند؟

یکی از حساس‌ترین بخش‌های ماجرا به پیام‌رسان سیگنال مربوط می‌شود. این برنامه به دلیل استفاده از رمزگذاری سرتاسری، برای ارتباطات خصوصی و حساس مورد توجه کاربران قرار دارد.

رمزگذاری سرتاسری به این معناست که محتوای پیام در مسیر انتقال به شکلی محافظت می‌شود که اشخاص واسطه نتوانند به‌سادگی آن را بخوانند. بااین‌حال، این فناوری لزوماً مانع مشاهده پیام روی دستگاهی که آن پیام را دریافت کرده است نمی‌شود.

برای مثال، وقتی متن یک پیام در اعلان گوشی نمایش داده می‌شود، برنامه‌ای که مجوز مشاهده اعلان‌ها را دارد ممکن است بتواند همان متن قابل مشاهده را دریافت کند.

در آزمایش Muse نیز همین تفاوت اهمیت داشت. این دستیار برای مشاهده پیام‌های سیگنال نیازی به شکستن سازوکار رمزگذاری این پیام‌رسان نداشت؛ بلکه از مجوزهای دستگاه برای دسترسی به محتوای اعلان‌ها استفاده کرده بود.

این مسئله نشان می‌دهد حتی پیام‌رسان‌هایی با رمزگذاری قدرتمند نیز نمی‌توانند به‌تنهایی امنیت اطلاعات را تضمین کنند. مجوزهای برنامه‌های نصب‌شده روی گوشی و نحوه نمایش اعلان‌ها نیز در حفظ حریم خصوصی نقش دارند.

برای آشنایی بیشتر با اصول محافظت از اطلاعات شخصی، مطالعه راهنمای تنظیمات امنیتی گوشی و جلوگیری از دسترسی غیرمجاز می‌تواند برای کاربران کاربردی باشد.

واکنش متا به اتهام دسترسی غیرمنتظره Muse چه بود؟

متا در واکنش به این اتفاقات، موارد گزارش‌شده را اتفاقاتی محدود توصیف کرده و گفته است امنیت کاربران از اولویت‌های این شرکت محسوب می‌شود.

دنیل رابرتس، سخنگوی متا، توضیح داده است که Muse برای انجام وظایف خود به تعامل با رایانه و برنامه‌های مختلف نیاز دارد، اما دسترسی به برنامه‌های دیگر به مجوزهایی وابسته است که کاربران در اختیار آن قرار می‌دهند.

او همچنین بخشی از پیام‌های غیرمنتظره‌ای را که کارکنان متا گزارش کرده بودند، ناشی از توهم هوش مصنوعی دانسته است؛ یعنی شرایطی که در آن مدل هوش مصنوعی اطلاعاتی نادرست تولید می‌کند یا مطالب نامرتبط را به‌عنوان واقعیت ارائه می‌دهد.

متا همچنین اعلام کرده که برخی از مشکلات مربوط به این پیام‌ها شناسایی شده و برای رفع آن‌ها اقداماتی انجام گرفته است.

بااین‌حال، هنوز یک تفاوت اساسی میان توضیحات شرکت و نگرانی کاربران وجود دارد: حتی اگر کاربر مجوزی را به‌صورت آگاهانه فعال کرده باشد، ممکن است از کاربردهای جانبی آن و دامنه واقعی دسترسی دستیار اطلاع نداشته باشد.

ماجرای اطلاعات بانکی و رزرو بدون اجازه چه بود؟

نگرانی‌ها فقط به مشاهده پیام‌های خصوصی محدود نمی‌شود. برخی گزارش‌های داخلی کارکنان متا نشان داده‌اند Muse در موارد دیگری نیز رفتارهای غیرمنتظره‌ای داشته است.

در یکی از موارد، یک کارمند اعلام کرده که این دستیار بدون درخواست او اطلاعاتی درباره موجودی دو حساب مالی را در گفت‌وگویش نمایش داده است. او احتمال داده بود اطلاعات متعلق به شخص دیگری باشد.

در نمونه‌ای دیگر، کارکنان از دریافت پیام‌هایی درباره خریدهایی که انجام نداده بودند، درخواست‌های مربوط به نگهداری کودک و حتی پیشنهادهای شغلی ناخواسته خبر داده‌اند.

یکی از اتفاقات مهم‌تر نیز به رزرو اقامتگاه مربوط می‌شود. طبق گزارش داخلی، Muse یک اقامتگاه غیرقابل استرداد را بدون اجازه کاربر رزرو کرده بود.

This Meta Muse Invite Code Gives You 1 Billion Free Tokens (CC2P24) | Gear Live

البته درباره این موارد باید میان دو احتمال تفاوت قائل شد:

  • دسترسی واقعی به اطلاعات دیگران: ممکن است دستیار از طریق مجوزهای دستگاه به اطلاعاتی دسترسی پیدا کرده باشد که کاربر انتظار مشاهده آن‌ها را نداشته است.

  • تولید اطلاعات ساختگی: ممکن است هوش مصنوعی اطلاعات مالی، خرید یا مکالمه‌ای را بدون وجود داده واقعی تولید کرده باشد.

در بررسی‌های انجام‌شده، مشخص نشده است که اطلاعات بانکی نمایش‌داده‌شده واقعاً متعلق به کاربران دیگر بوده یا ساخته ذهن مدل هوش مصنوعی بوده‌اند.

این ابهام اهمیت زیادی دارد؛ زیرا نمایش اطلاعات نادرست درباره موجودی حساب یا خریدهای مالی نیز می‌تواند باعث تصمیم‌گیری اشتباه و خسارت واقعی شود.

واکنش اپل و گوگل به دسترسی هوش مصنوعی به اطلاعات کاربران

این اتفاقات یک مسئله مهم‌تر را نیز مطرح کرده‌اند: مسئولیت حفاظت از اطلاعات کاربران فقط بر عهده سازنده دستیار هوش مصنوعی نیست و شرکت‌های توسعه‌دهنده سیستم‌عامل نیز نقش مهمی دارند.

اپل و گوگل پس از مطرح‌شدن نتایج آزمایش‌ها اعلام کردند که موضوع افزایش کنترل کاربران بر مجوزهای دسترسی دستیارهای هوشمند را بررسی می‌کنند.

اپل به‌طور مشخص به سوءاستفاده احتمالی از قابلیت‌های دسترس‌پذیری اشاره کرده است. این ابزارها در اصل برای کمک به افراد دارای معلولیت طراحی شده‌اند تا بتوانند راحت‌تر با رایانه کار کنند.

اپل در به‌روزرسانی سیستم‌عامل مک، محدودیت‌های بیشتری برای استفاده برنامه‌نویسان از ابزارهای دسترس‌پذیری اعمال کرده و مجوزهای اختصاصی‌تری برای دستیارهای هوشمند در نظر گرفته است.

گوگل نیز تأکید کرده است که دسترسی برنامه‌ها به اعلان‌های اندروید به تأیید کاربر نیاز دارد؛ بااین‌حال، بررسی راهکارهایی برای کنترل دقیق‌تر دسترسی دستیارهای هوشمند را در دستور کار قرار داده است.

در همین زمینه، تغییرات امنیتی و قابلیت‌های هوش مصنوعی واتساپ نیز نشان می‌دهد که ترکیب پیام‌رسان‌ها با ابزارهای هوشمند، به یکی از موضوعات مهم آینده فناوری تبدیل شده است.

کاربران چگونه دسترسی Muse به پیام‌های خصوصی را محدود کنند؟

کاربرانی که از دستیارهای هوشمند استفاده می‌کنند، بهتر است پیش از فعال‌کردن قابلیت‌های مختلف، مجوزهای آن‌ها را با دقت بررسی کنند.

در گوشی‌های اندرویدی، دسترسی به اعلان‌ها یکی از مهم‌ترین مجوزهایی است که باید مورد توجه قرار بگیرد. اگر دستیار هوشمندی به این قابلیت نیاز ضروری ندارد، بهتر است آن را غیرفعال کنید.

چند اقدام کاربردی برای افزایش امنیت اطلاعات عبارت‌اند از:

۱. بررسی دسترسی به اعلان‌ها: در تنظیمات اندروید، بخش دسترسی ویژه برنامه‌ها یا دسترسی به اعلان‌ها را بررسی کنید و مجوزهای غیرضروری را لغو کنید.

۲. محدودکردن دسترسی به صفحه نمایش: در مک، مجوزهای مربوط به دسترس‌پذیری و ضبط صفحه را بررسی کنید و فقط به برنامه‌های مورد اعتماد اجازه دسترسی بدهید.

۳. بررسی اتصال برنامه‌ها: فهرست برنامه‌هایی را که به دستیار هوشمند متصل کرده‌اید، مرور کنید و اتصال‌های غیرضروری را حذف کنید.

۴. مخفی‌کردن متن اعلان‌ها: نمایش محتوای پیام‌های خصوصی و بانکی را روی صفحه قفل غیرفعال کنید.

۵. بررسی فعالیت دستیار: تاریخچه فعالیت‌ها و اقداماتی را که دستیار به نمایندگی از شما انجام داده است، مرتب بررسی کنید.

۶. محدودکردن اجازه انجام خودکار کارها: برای خرید، ارسال پیام، رزرو و اشتراک‌گذاری اطلاعات، تأیید جداگانه را فعال نگه دارید و از مجوز دائمی برای اقدامات حساس خودداری کنید.

این اقدامات به معنای حذف تمام خطرهای احتمالی نیستند، اما می‌توانند احتمال دسترسی ناخواسته به اطلاعات شخصی را کاهش دهند.

آینده دستیارهای هوشمند به امنیت اطلاعات وابسته است

Muse نمونه‌ای از نسل جدید دستیارهای هوشمند است که قرار نیست فقط به پرسش‌های کاربران پاسخ دهد؛ بلکه می‌تواند در برنامه‌های مختلف فعالیت کند، اطلاعات را بررسی کند و وظایف چندمرحله‌ای را به انجام برساند.

چنین قابلیتی برای مدیریت کارهای روزمره جذاب است، اما هرچه اختیار بیشتری به یک دستیار داده شود، پیامد اشتباه‌های آن نیز جدی‌تر خواهد بود.

مسئله اصلی در ماجرای متا این نیست که هوش مصنوعی نباید به هیچ اطلاعاتی دسترسی داشته باشد؛ بلکه کاربران باید بدانند دقیقاً چه اطلاعاتی در اختیار دستیار قرار می‌گیرد، این اطلاعات چگونه استفاده می‌شوند و چگونه می‌توان دسترسی را متوقف کرد.

اگر شرکت‌های فناوری نتوانند این شفافیت را فراهم کنند، اعتماد کاربران به دستیارهای هوشمند ممکن است پیش از فراگیر شدن آن‌ها آسیب ببیند.

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا