اپلیکیشنتلفن هوشمند

تیک تاک ابزار شناسایی دیپ فیک را جهانی کرد │ چهره‌های عمومی حالا می‌توانند جعل تصویر و هویت خود را گزارش کنند

تیک تاک از آغاز عرضه جهانی ابزار جدیدی خبر داده است که به تولیدکنندگان محتوا و چهره‌های عمومی کمک می‌کند ویدئوهای ساخته‌شده با هوش مصنوعی و استفاده بدون اجازه از تصویرشان را شناسایی کنند. کاربران واجد شرایط می‌توانند موارد مشکوک را بررسی و مستقیماً برای حذف گزارش دهند.

تیک تاک عرضه جهانی ابزار جدیدی با نام «شناسایی شباهت» را آغاز کرده است؛ قابلیتی که به افراد واجد شرایط اجازه می‌دهد محتوای تولیدشده با هوش مصنوعی و حساب‌هایی را که احتمالاً از چهره و هویت آن‌ها بدون رضایت استفاده می‌کنند، شناسایی کنند. این ابزار به‌ویژه برای سیاستمداران، مقام‌های دولتی، چهره‌های شناخته‌شده و تولیدکنندگان محتوا اهمیت دارد. افراد واجد شرایط پس از تأیید هویت می‌توانند موارد شناسایی‌شده را بررسی و محتوای ناقض مقررات را برای تیم ایمنی تیک تاک گزارش کنند. این شرکت هم‌زمان ابزار دیگری برای بررسی منشأ محتوای ساخته‌شده با هوش مصنوعی در اختیار عموم قرار داده است.

ابزار شناسایی شباهت تیک تاک چگونه کار می‌کند؟

قابلیت جدید تیک تاک با نام «Likeness Detection» یا شناسایی شباهت، برای پیدا کردن و بررسی محتوایی طراحی شده است که ممکن است با هوش مصنوعی ساخته شده باشد و چهره، ظاهر یا هویت یک فرد را بدون رضایت او به کار گرفته باشد.

این ابزار به‌صورت اختیاری فعال می‌شود و همه کاربران به آن دسترسی ندارند.

۱. تأیید هویت: فرد واجد شرایط ابتدا باید با کمک یک شرکت مورد اعتماد طرف سوم، هویت خود را تأیید کند.

۲. شناسایی محتوای مشکوک: پس از ثبت‌نام، تیک تاک درباره محتواها و حساب‌هایی که احتمال استفاده از تصویر یا هویت فرد در آن‌ها وجود دارد، به او اطلاع می‌دهد.

۳. بررسی و گزارش: فرد می‌تواند محتوای شناسایی‌شده را بررسی کند و مواردی را که با مقررات پلتفرم مغایرت دارند، مستقیماً به تیم ایمنی تیک تاک گزارش دهد.

TikTok implementa etiquetas para que los usuarios señalen el contenido creado con IA | inteligencia artificial | | EL COMERCIO PERÚ

نکته مهم این است که شناسایی خودکار به معنای حذف خودکار تمام محتواهای مشکوک نیست. صاحب تصویر ابتدا امکان بررسی موارد شناسایی‌شده را دارد و سپس می‌تواند برای پیگیری آن‌ها اقدام کند.

چه کسانی می‌توانند از ابزار جدید استفاده کنند؟

تیک تاک این قابلیت را برای گروهی از تولیدکنندگان محتوا و چهره‌های عمومی واجد شرایط در نظر گرفته است. دامنه کاربران هدف آن به افراد مشهور محدود نمی‌شود و حساب‌های رسمی سیاسی و دولتی را نیز در بر می‌گیرد.

مهم‌ترین گروه‌های مشمول عبارت‌اند از:

  • تولیدکنندگان محتوای واجد شرایط در تیک تاک

  • چهره‌های عمومی و افراد شناخته‌شده

  • مقام‌ها و حساب‌های دولتی

  • سیاستمداران

  • حساب‌های رسمی احزاب سیاسی

این قابلیت به‌خصوص برای افرادی اهمیت دارد که ممکن است از چهره یا صدای آن‌ها در ویدئوهای جعلی استفاده شود؛ برای مثال، ساخت ویدئویی که در آن یک سیاستمدار ظاهراً سخنی را بیان می‌کند که هرگز نگفته یا یک چهره شناخته‌شده محصولی را تبلیغ می‌کند که هیچ ارتباطی با آن ندارد.

تیک تاک همچنین اعلام کرده است که مدارک هویتی کاربران را نگهداری نمی‌کند و طراحی این قابلیت با هدف کاهش جمع‌آوری اطلاعات شخصی انجام شده است.

ابزار جدید تیک تاک چه تفاوتی با گزارش معمولی دیپ فیک دارد؟

پیش از معرفی قابلیت شناسایی شباهت، کاربران نیز امکان گزارش محتوای جعلی و استفاده غیرمجاز از تصاویر افراد را داشتند. اما تفاوت اصلی ابزار جدید، شناسایی فعال موارد مشکوک و اطلاع‌رسانی مستقیم به صاحب تصویر است.

در روش معمول، فرد باید از وجود یک ویدئوی جعلی مطلع شود، آن را پیدا کند و شخصاً برای گزارش اقدام کند. این فرایند ممکن است زمان‌بر باشد؛ به‌خصوص زمانی که محتوای جعلی در حساب‌های متعدد منتشر می‌شود.

قابلیت جدید قرار است بخشی از این مسیر را خودکار کند و پیدا کردن موارد مشکوک را برای افراد واجد شرایط آسان‌تر سازد.

البته این ابزار جایگزین کامل سامانه گزارش تخلف نیست. تیک تاک اعلام کرده است که حتی افرادی که از این قابلیت استفاده نمی‌کنند یا حساب کاربری ندارند نیز می‌توانند محتوای هوش مصنوعی تولیدشده بدون رضایت افراد را از طریق فرم گزارش حریم خصوصی پیگیری کنند.

تیک تاک ابزار تشخیص محتوای هوش مصنوعی را برای همه کاربران عرضه کرد

هم‌زمان با توسعه ابزار شناسایی شباهت، تیک تاک قابلیت دیگری با نام «Identify AI-Generated Content» معرفی کرده است که برخلاف ابزار قبلی، برای استفاده عمومی در نظر گرفته شده است.

با کمک این ابزار، هر فردی می‌تواند یک تصویر یا ویدئو را بارگذاری کند تا مشخص شود آیا با ابزارهای هوش مصنوعی تیک تاک یا برنامه‌های متعلق به شرکت مادر آن، یعنی بایت‌دنس، ساخته یا ویرایش شده است یا خیر.

این قابلیت به داشتن حساب کاربری تیک تاک نیاز ندارد و از دو نشانه اصلی برای بررسی محتوا استفاده می‌کند:

  • اطلاعات ثبت‌شده درباره منشأ و نحوه تولید محتوا که همراه فایل باقی می‌ماند.

  • نشان نامرئی اختصاصی تیک تاک که داخل محتوا قرار می‌گیرد و در برابر حذف شدن بر اثر ویرایش مقاومت بیشتری دارد.

New labels for disclosing AI-generated content - Newsroom | TikTok | Found.

این ابزار می‌تواند برای بررسی منشأ تصاویر و ویدئوهایی که در شبکه‌های اجتماعی دست‌به‌دست می‌شوند مفید باشد؛ اما یک محدودیت اساسی دارد: دامنه شناسایی آن به ابزارهای هوش مصنوعی تیک تاک و برنامه‌های مرتبط با بایت‌دنس محدود است.

بنابراین اگر ویدئویی با ابزار یک شرکت دیگر ساخته شده باشد، شناسایی نشدن آن به معنای واقعی بودن محتوا نیست.

محدودیت‌های ابزار شناسایی دیپ فیک چیست؟

با وجود اهمیت این قابلیت، نباید آن را سامانه‌ای دانست که تمام تصاویر و ویدئوهای جعلی اینترنت را شناسایی می‌کند. ابزار شناسایی شباهت تیک تاک اساساً برای پیدا کردن محتوای مشکوک در همین پلتفرم طراحی شده است.

چند محدودیت مهم آن عبارت‌اند از:

  • محدودیت دسترسی: همه کاربران نمی‌توانند از قابلیت شناسایی شباهت استفاده کنند و واجد شرایط بودن برای آن ضروری است.

  • محدودیت شناسایی: شناسایی نشدن یک ویدئو به معنای واقعی بودن آن نیست.

  • نیاز به بررسی انسانی: تشخیص یک مورد مشکوک لزوماً به معنای اثبات جعل یا نقض حریم خصوصی نیست.

  • محدودیت ابزار عمومی: ابزار بررسی منشأ محتوا فقط نشانه‌های مرتبط با فناوری‌های تیک تاک و بایت‌دنس را بررسی می‌کند.

تیک تاک اعلام کرده است که بیش از ۹۹ درصد محتوای ناقض مقررات خود را پیش از دریافت گزارش کاربران حذف می‌کند. ابزار جدید قرار است امکان شناسایی و پیگیری موارد باقی‌مانده را برای افراد آسیب‌دیده آسان‌تر کند.

مقابله با جعل هویت؛ رقابت تازه شبکه‌های اجتماعی

گسترش ابزارهای ساخت تصویر، صدا و ویدئو با هوش مصنوعی، تشخیص محتوای واقعی از جعلی را دشوارتر کرده است. در چنین شرایطی، استفاده غیرمجاز از چهره افراد شناخته‌شده می‌تواند پیامدهایی فراتر از انتشار یک ویدئوی سرگرم‌کننده داشته باشد.

جعل اظهارات یک سیاستمدار، ساخت تبلیغات غیرواقعی با چهره یک بازیگر یا انتشار ویدئوهایی با صدای افراد مشهور، از جمله مواردی هستند که می‌توانند اعتبار اشخاص را تحت تأثیر قرار دهند.

توسعه ابزار شناسایی شباهت را می‌توان بخشی از تلاش شبکه‌های اجتماعی برای کنترل این مشکلات دانست. تیک تاک پیش‌تر نیز از برچسب‌گذاری محتوای ساخته‌شده با هوش مصنوعی و همکاری در زمینه استانداردهای تشخیص منشأ محتوا استفاده کرده است.

اقدام جدید این شرکت یک تفاوت مهم دارد: به‌جای اینکه فقط مخاطب را از هوش مصنوعی بودن یک ویدئو مطلع کند، به صاحب تصویر نیز امکان می‌دهد موارد استفاده احتمالی و بدون رضایت از هویت خود را پیدا و گزارش کند.

با این حال، میزان موفقیت این طرح به دقت شناسایی، دسترسی افراد واجد شرایط و نحوه رسیدگی تیک تاک به گزارش‌های ثبت‌شده بستگی خواهد داشت.

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا