Muse متا برای تماس تلفنی به انسان نیاز پیدا کرد │ آزمایش «دستیار انسانی» بعد از نگرانی‌های حریم خصوصی عقب نشست

متا در تازه‌ترین آزمایش روی دستیار هوش مصنوعی Muse، یک لایه انسانی را پشت قابلیت تماس تلفنی قرار داده بود تا وقتی هوش مصنوعی از انجام یک تماس برنمی‌آمد، یک پیمانکار انسانی ادامه مکالمه را بر عهده بگیرد. این آزمایش برای بخشی از کارکنان متا فعال شد، اما بعد از اعتراض‌هایی درباره حریم خصوصی و نبود اطلاع‌رسانی کافی، خود شرکت اعلام کرد این بخش را فعلاً کنار گذاشته است. در همین حال، قابلیت تماس تلفنی Muse همچنان در حال توسعه است و متا می‌خواهد پیش از عرضه گسترده‌تر، راهکارهای ایمن‌تری برای آن پیدا کند.

متا در تازه‌ترین آزمایش روی دستیار هوش مصنوعی Muse، یک لایه انسانی را پشت قابلیت تماس تلفنی قرار داده بود تا وقتی هوش مصنوعی از انجام یک تماس برنمی‌آمد، یک پیمانکار انسانی ادامه مکالمه را بر عهده بگیرد. این آزمایش برای بخشی از کارکنان متا فعال شد، اما بعد از اعتراض‌هایی درباره حریم خصوصی و نبود اطلاع‌رسانی کافی، خود شرکت اعلام کرد این بخش را فعلاً کنار گذاشته است. در همین حال، قابلیت تماس تلفنی Muse همچنان در حال توسعه است و متا می‌خواهد پیش از عرضه گسترده‌تر، راهکارهای ایمن‌تری برای آن پیدا کند.

Muse قرار بود چه کاری را برای کاربر انجام دهد؟

Muse از ابتدا با ایده‌ای فراتر از یک چت‌بات معمولی معرفی شد. متا این محصول را به‌عنوان یک «عامل هوش مصنوعی شخصی» طراحی کرده که قرار نیست فقط پاسخ سؤال را در یک پنجره گفت‌وگو نمایش دهد؛ بلکه می‌تواند بخشی از کارهای واقعی کاربر را انجام دهد.

بر اساس توضیحات متا، Muse می‌تواند از طریق محیط اختصاصی خود یا واتس‌اپ با کاربر ارتباط داشته باشد و کارهایی مانند ارسال ایمیل، رزرو سفر، استفاده از مرورگر، تکمیل فرم‌ها، خرید و پیگیری بعضی کارهای چندمرحله‌ای را انجام دهد. این سیستم همچنین برای ادامه دادن بعضی وظایف پس از بسته شدن برنامه طراحی شده است.

نکته مهم درباره قابلیت جدید، عبور Muse از محیط اینترنت و ورود به دنیای تماس تلفنی بود. یعنی کاربر می‌توانست از Muse بخواهد با یک کسب‌وکار در آمریکا تماس بگیرد و کاری را که معمولاً نیاز به مکالمه تلفنی دارد، به دستیار بسپارد.

برای نمونه، در گزارش‌های منتشرشده درباره آزمایش این ویژگی، از رزرو وقت آرایشگاه، پرسیدن موجودی یک کالا در فروشگاه و تماس با پیمانکاران مختلف برای دریافت قیمت به‌عنوان نمونه‌هایی از کاربرد آن نام برده شده است. پس از پایان تماس نیز Muse می‌تواند خلاصه و متن مکالمه را در اختیار کاربر قرار دهد.

چرا Muse به انسان سپردن تماس‌ها را امتحان کرد؟

اینجا نقطه‌ای است که ماجرا برای یک دستیار هوش مصنوعی جالب‌تر می‌شود.

تماس تلفنی برخلاف پاسخ دادن به یک سؤال متنی، مجموعه‌ای از محدودیت‌های غیرقابل پیش‌بینی دارد. طرف مقابل ممکن است از یک سیستم خودکار خوشش نیاید، درباره جزئیات دوباره سؤال کند، درخواست خاصی داشته باشد یا به‌محض فهمیدن اینکه با هوش مصنوعی صحبت می‌کند، تماس را قطع کند.

در یکی از آزمایش‌های داخلی Muse، یک کاربر گزارش کرده بود که شرکت بیمه پس از متوجه شدن ماهیت هوش مصنوعی تماس را قطع می‌کرد. چنین نمونه‌هایی نشان می‌دهد مسئله فقط توانایی Muse در تولید صدا یا فهم گفت‌وگو نیست؛ پذیرش تماس‌های خودکار از سوی طرف مقابل نیز بخشی از مشکل است.

به همین دلیل، متا در آزمایش داخلی خود امکانی با عنوان «دستیار انسانی» یا «تماس توسط عامل انسانی» را فعال کرد. در این مدل، اگر Muse نمی‌توانست کار موردنظر را پیش ببرد، درخواست به یک نیروی آموزش‌دیده منتقل می‌شد و آن فرد تماس را برقرار می‌کرد و ادامه می‌داد. این قابلیت برای حدود نیمی از کارکنان متا فعال شده بود و گروهی نیز امکان خارج شدن از آزمایش را داشتند.

جدول قابلیت‌ها و نحوه استفاده Muse از عامل انسانی

در این جدول، موارد مربوط به تماس تلفنی بر اساس نمونه‌ها و توضیحات منتشرشده درباره آزمایش Muse تنظیم شده‌اند و نباید همه آنها را به معنی عرضه عمومی یا فعال بودن هم‌زمان یک قابلیت برای همه کاربران دانست.

اتفاق اصلی پشت پرده چه بود؟

آزمایش زمانی خبرساز شد که مشخص شد در بعضی موارد، صدایی که طرف مقابل تصور می‌کرد از طرف یک هوش مصنوعی تماس گرفته شده، در واقع متعلق به یک نیروی انسانی قراردادی بوده است.

طبق گزارش‌های منتشرشده، Muse می‌توانست درخواست را به یک فرد آموزش‌دیده منتقل کند. آن فرد سپس تماس را برقرار می‌کرد و کار را پیش می‌برد. در بعضی نمونه‌های داخلی، این روش ظاهراً توانسته بود نرخ موفقیت کارهای تلفنی را به حدود ۹۵ تا ۹۸ درصد برساند؛ رقمی که بالاتر از عملکرد تماس‌های کاملاً هوش مصنوعی گزارش شده بود.

از نگاه محصول، این نتیجه مهم است. یک عامل هوش مصنوعی زمانی واقعاً برای کاربر مفید است که فقط «تلاش» نکند، بلکه کار را به پایان برساند. اگر یک تماس چند بار قطع شود یا طرف مقابل با سیستم خودکار همکاری نکند، کاربر در نهایت باید خودش تلفن را بردارد.

اما همین راه‌حل یک مشکل تازه ایجاد کرد: کاربر فکر می‌کند داده‌ها و مکالمه در چارچوب سامانه هوش مصنوعی مدیریت می‌شود، در حالی که در این مدل، یک انسان بیرون از شرکت می‌تواند به اطلاعات موجود در جریان تماس دسترسی پیدا کند.

نگرانی اصلی کارکنان متا چه بود؟

بخش مهمی از اعتراض‌های داخلی متا به خود فناوری تماس مربوط نبود؛ مسئله اصلی ورود انسان به فرایندی بود که قرار بود توسط هوش مصنوعی انجام شود.

در تماس تلفنی، اطلاعات شخصی می‌تواند خیلی سریع آشکار شود. نام، شماره تلفن، زمان مراجعه، وضعیت حساب، مبلغ قبض، اطلاعات مربوط به قرارداد یا حتی جزئیات مربوط به خرید و خدمات، همگی ممکن است بخشی از گفت‌وگو باشند.

برخی کارکنان در بحث‌های داخلی هشدار داده بودند که حتی با وجود آموزش و سازوکارهای امنیتی، انتقال تماس به پیمانکاران انسانی می‌تواند احتمال مشاهده ناخواسته اطلاعات را افزایش دهد.

این نگرانی در مورد Muse اهمیت بیشتری پیدا می‌کند، چون متا هنگام معرفی محصول، روی امنیت و جداسازی داده‌ها تأکید ویژه‌ای داشت. طبق توضیحات رسمی، هر Muse در یک محیط محاسباتی اختصاصی به نام Muse Secure VM اجرا می‌شود و اطلاعات حساس مانند اعتبارنامه‌ها در فضای امن نگهداری می‌شوند. متا همچنین گفته بود کاربر کنترل می‌کند Muse به کدام سرویس‌ها دسترسی داشته باشد.

به همین دلیل، آزمایش تماس انسانی از نظر برخی کارکنان با وعده‌ای که در معماری محصول درباره حریم خصوصی داده شده بود، فاصله پیدا می‌کرد.

یک مورد بحث‌برانگیز دیگر در آزمایش Muse

گزارش‌های منتشرشده درباره این آزمایش به یک مورد دیگر نیز اشاره کرده‌اند. یکی از کارکنان متا که از Muse خواسته بود با ارائه‌دهنده خدمات اینترنت و کابل برای مذاکره درباره هزینه تماس بگیرد، بعداً در متن مکالمه با عبارتی نژادپرستانه از سوی پیمانکار مواجه شد.

بر اساس همین گزارش‌ها، مسئولان متا بابت این اتفاق عذرخواهی کردند و اعلام شد فرد موردنظر دیگر در پروژه‌های متا فعالیت نخواهد کرد. این اتفاق اهمیت کنترل کیفیت نیروی انسانی دخیل در چنین سامانه‌ای را برجسته کرد؛ زیرا وقتی یک انسان وارد زنجیره اجرای دستیار می‌شود، خطاهای انسانی نیز به مجموعه ریسک‌های محصول اضافه می‌شوند.

متا فعلاً چه تصمیمی درباره دستیار انسانی گرفته است؟

موضع فعلی متا این نیست که ایده استفاده از انسان برای کمک به تماس‌های Muse را برای همیشه کنار گذاشته است. آنچه عقب کشیده شده، همین آزمایشی است که بدون اطلاع‌رسانی مناسب اجرا شده بود.

یکی از مدیران واحد Superintelligence Labs متا در واکنش به بازخوردهای داخلی، اجرای این آزمایش بدون افشای مناسب نقش انسان را یک اشتباه دانست و اعلام کرد این قابلیت فعلاً بازگردانده شده است.

در عین حال، متا گفته است توسعه قابلیت تماس تلفنی Muse ادامه دارد و عرضه عمومی آن تنها زمانی انجام خواهد شد که مسائل ایمنی، حریم خصوصی و اطلاع‌رسانی به کاربران به شکل مناسبی حل شده باشد.

این تفاوت مهم است: Muse برای همیشه از تماس تلفنی کنار نرفته است؛ این بخش همچنان یک قابلیت در حال توسعه و آزمایش است، اما مدل فعلی استفاده پنهان از نیروی انسانی فعلاً عقب کشیده شده است.

چرا این اتفاق برای آینده دستیارهای هوش مصنوعی مهم است؟

ماجرای Muse یک سؤال تازه را درباره نسل جدید عامل‌های هوش مصنوعی مطرح کرده است.

تا وقتی یک دستیار فقط متن تولید می‌کند، شکست آن معمولاً به این معناست که پاسخ خوبی ارائه نکرده است. اما وقتی یک عامل وظیفه‌ای واقعی را بر عهده می‌گیرد، معیار موفقیت عوض می‌شود. کاربر دیگر نمی‌پرسد «آیا پاسخ درست بود؟» بلکه می‌پرسد «آیا کارم انجام شد؟»

تماس تلفنی یکی از سخت‌ترین نمونه‌ها برای این مدل است. هوش مصنوعی باید صدای طرف مقابل را تشخیص دهد، زمینه مکالمه را حفظ کند، به سؤال‌های پیش‌بینی‌نشده جواب دهد، با سیستم‌های تلفنی خودکار کنار بیاید و در نهایت به نتیجه مشخص برسد.

از طرف دیگر، کسب‌وکار مقابل هم باید حاضر باشد با یک عامل هوش مصنوعی مذاکره کند. برخی نمونه‌های گزارش‌شده نشان داده‌اند که همین بخش می‌تواند مانع اجرای کامل کار شود.

در چنین شرایطی، استفاده از انسان به‌عنوان پشتیبان می‌تواند از نظر فنی مسئله را حل کند، اما از نظر اعتماد و حریم خصوصی سؤال تازه‌ای به وجود می‌آورد: کاربر دقیقاً باید بداند چه کسی در حال انجام کار اوست.

این مسئله احتمالاً برای همه شرکت‌های سازنده عامل‌های هوش مصنوعی اهمیت پیدا خواهد کرد، نه فقط متا.

Muse در حال حرکت به سمت چه نوع دستیار هوشمندی است؟

تمرکز Muse از ابتدا روی انجام کارهای واقعی بوده است. متا آن را به‌گونه‌ای ساخته که بتواند از اطلاعاتی که کاربر در اختیارش می‌گذارد استفاده کند، در وب حرکت کند، فرم پر کند، خرید را تا مرحله تأیید پیش ببرد و بعضی کارها را بعد از ترک برنامه نیز ادامه دهد.

این رویکرد تفاوتی جدی با دستیارهایی دارد که عمدتاً در قالب پاسخ متنی فعالیت می‌کنند. در مدل عامل، ارزش اصلی نه فقط «دانستن»، بلکه «انجام دادن» است.

اما آزمایش تماس انسانی نشان داد که فاصله میان یک دستیار هوش مصنوعی و یک دستیار انسانی، دست‌کم در بعضی وظایف، هنوز آن‌قدر زیاد است که یک شرکت بزرگ ترجیح داده برای رسیدن به نرخ موفقیت بالاتر، انسان را وارد حلقه اجرا کند.

از طرف دیگر، همین اتفاق می‌تواند به توسعه بهتر مدل‌های آینده نیز کمک کند. متا اکنون داده و تجربه بیشتری درباره موقعیت‌هایی دارد که Muse در آنها با تماس تلفنی مشکل پیدا می‌کند؛ از جمله واکنش کسب‌وکارها به تماس‌های خودکار و شرایطی که نیاز به مداخله بیشتر ایجاد می‌شود.

آیا کاربران عادی Muse همین حالا با انسان طرف می‌شوند؟

بر اساس اطلاعات منتشرشده درباره این آزمایش، قابلیت «دستیار انسانی» برای کارکنان متا در یک آزمایش داخلی فعال شده بود و بعداً عقب کشیده شد. بنابراین نمی‌توان آن را یک ویژگی عمومی و دائمی Muse برای همه کاربران دانست.

در مقابل، خود قابلیت تماس تلفنی Muse در قالب آزمایش برای تماس با کسب‌وکارهای آمریکا ارائه شده بود. متا در توسعه این قابلیت، کاربرانی را که درخواست امکان تماس داشتند نیز در اولویت آزمایش قرار داده بود.

در نتیجه، وضعیت فعلی را باید این‌گونه در نظر گرفت: تماس تلفنی Muse هنوز در مرحله توسعه است و لایه انسانی آزمایش‌شده، فعلاً از مدار خارج شده است.

نگرانی حریم خصوصی برای کاربران دقیقاً از کجا می‌آید؟

مهم‌ترین مسئله، خود تماس نیست؛ بلکه اطلاعاتی است که در جریان تماس ممکن است منتقل شود.

فرض کنید یک دستیار برای مذاکره درباره قبض، رزرو یک خدمت یا پیگیری یک سفارش تماس بگیرد. برای انجام چنین کاری ممکن است لازم باشد نام، شماره مشتری، زمان مراجعه یا اطلاعات مربوط به حساب در مکالمه مطرح شود.

وقتی سیستم کاملاً خودکار است، معماری امنیتی محصول می‌تواند این تعامل را در محیط دیجیتال خود مدیریت کند. اما وقتی فرد دیگری پشت تماس قرار می‌گیرد، مسئله دسترسی انسانی به اطلاعات وارد معادله می‌شود.

متا هنگام معرفی Muse تأکید کرده است که داده‌های کاربر در محیط اختصاصی نگهداری می‌شوند، دسترسی به سرویس‌ها قابل کنترل است و برای اقدامات حساس مانند ارسال ایمیل یا خرید، تأیید کاربر می‌تواند لازم باشد.

بنابراین، آزمایش «دستیار انسانی» نشان داد که امنیت یک عامل هوش مصنوعی فقط به محل ذخیره داده‌ها محدود نمی‌شود؛ بلکه تمام زنجیره‌ای که برای انجام وظیفه وارد آن می‌شود نیز اهمیت دارد.

سوالات متداول کاربران

دستیار انسانی Muse چیست؟

دستیار انسانی قابلیتی آزمایشی بود که در آن، وقتی Muse نمی‌توانست یک تماس را خودش انجام دهد، درخواست به نیروی انسانی قراردادی منتقل می‌شد تا آن فرد تماس را برقرار و کار را پیگیری کند.

آیا Muse واقعاً می‌تواند به جای کاربر تلفن بزند؟

بله، قابلیت تماس تلفنی برای Muse در قالب آزمایش با برخی کسب‌وکارهای آمریکا ارائه شده است. از نمونه‌های اعلام‌شده می‌توان به رزرو وقت، بررسی موجودی کالا و دریافت قیمت از پیمانکاران اشاره کرد.

چرا متا از انسان برای تماس‌های Muse استفاده کرد؟

یکی از دلایل، دشواری تماس‌های واقعی بود. برخی کسب‌وکارها ممکن است تماس‌های هوش مصنوعی را قطع کنند یا مکالمه به مرحله‌ای برسد که عامل هوش مصنوعی نتواند آن را با موفقیت تمام کند. آزمایش داخلی نشان داد استفاده از انسان می‌تواند نرخ موفقیت تماس‌ها را تا ۹۵ تا ۹۸ درصد افزایش دهد.

آیا این قابلیت اکنون برای همه کاربران فعال است؟

خیر. آزمایش دستیار انسانی برای بخشی از کارکنان متا انجام شد و طبق گزارش‌های منتشرشده، بعداً فعلاً عقب کشیده شد.

چرا کارکنان متا به این آزمایش اعتراض کردند؟

اعتراض اصلی به احتمال افشای اطلاعات حساس برای پیمانکاران انسانی و همچنین نبود اطلاع‌رسانی کافی درباره حضور انسان در برخی تماس‌ها مربوط بود.

آیا قابلیت تماس تلفنی Muse هم متوقف شده است؟

توسعه قابلیت تماس تلفنی متوقف نشده است. آنچه فعلاً عقب کشیده شده، مدل آزمایشی استفاده از نیروی انسانی بدون اطلاع‌رسانی مناسب بوده و متا اعلام کرده است که روی ایمنی و حریم خصوصی این قابلیت کار می‌کند.

Muse برای چه کارهایی ساخته شده است؟

Muse فقط برای تماس طراحی نشده است. متا آن را برای انجام کارهایی مانند ارسال ایمیل، رزرو سفر، استفاده از مرورگر، تکمیل فرم‌ها، خرید و مدیریت برخی وظایف چندمرحله‌ای توسعه داده است.

آیا Muse فقط از طریق یک برنامه مستقل کار می‌کند؟

متا Muse را در برنامه اختصاصی خود و از طریق واتس‌اپ ارائه کرده و اعلام کرده است که این عامل قرار است به تدریج در محیط‌های بیشتری نیز حضور داشته باشد.

آینده تماس‌های هوش مصنوعی بعد از آزمایش Muse

ماجرای Muse نشان می‌دهد رقابت بر سر عامل‌های هوش مصنوعی وارد مرحله‌ای شده که صرفاً تولید پاسخ خوب کافی نیست. شرکت‌ها می‌خواهند عامل‌هایی بسازند که بتوانند برای کاربر اقدام کنند؛ حتی اگر این اقدام نیازمند تماس تلفنی با یک انسان در دنیای واقعی باشد.

اما تجربه متا یک مرز مهم را هم روشن کرده است. وقتی قرار است عامل هوش مصنوعی نماینده کاربر باشد، شفافیت درباره اینکه چه کسی واقعاً در حال انجام کار است، به اندازه توانایی فنی اهمیت دارد.

برای Muse، مرحله بعدی احتمالاً ساخت سامانه‌ای است که بتواند درصد بیشتری از تماس‌ها را به‌صورت مستقل انجام دهد و در مواردی که مداخله انسانی ضرورت پیدا می‌کند، این موضوع را به شکل روشن به کاربر اطلاع دهد.

در نهایت، موفقیت یک دستیار مانند Muse فقط با تعداد کارهایی که انجام می‌دهد سنجیده نمی‌شود؛ کیفیت انجام کار، امنیت اطلاعات و میزان کنترل کاربر بر فرایند نیز تعیین می‌کند که یک «عامل هوش مصنوعی» تا چه اندازه می‌تواند جای دستیار واقعی را بگیرد.