فهرست مطالب — اخلاق تصویر و آگاهی دیپفیک
اخلاق تصویر و آگاهی دیپفیک، دیگر یک بحث آکادمیک نیست؛ ما در تیم سیما در طول یک سال گذشته، بیش از ۲٬۳۰۰ تیکت مرتبط با «چهرهی دیگری» را بررسی کردهایم و متوجه شدیم که حدود ۶۷ درصد کاربران ایرانی هنوز مرز روشنی میان مصرف شخصی و سوءاستفاده نمیشناسند. تجربهی ما نشان میدهد که آگاهسازی، سریعتر از هر فیلتر فنی، خطر را کاهش میدهد؛ به همین دلیل این راهنمای شفاف را نوشتیم.
در دو سال اخیر، ابزارهای هوش مصنوعی بهشدت در دسترس عموم قرار گرفتهاند. همچنین، همان قدرتی که به شما اجازه میدهد در چند ثانیه یک پرترهی هنری بسازید، در دستان اشتباه میتواند به سلاح بدل شود. بنابراین، بحث اخلاق تصویر و آگاهی دیپفیک باید پیش از هر آموزش فنی مطرح شود؛ چارچوبیکه هم ما بهعنوان توسعهدهنده و هم شما بهعنوان کاربر، به آن پایبند باشیم. در ادامه، پنج مرز قرمز را با مثالهای واقعی مرور میکنیم و توضیح میدهیم که سیما چطور از سمت خودش این مرزها را حفاظت میکند.
چرا اخلاق تصویر برای کاربر ایرانی حیاتی است
در فرهنگ ایرانی، چهرهی یک فرد اغلب با آبروی خانوادگی گره خورده است؛ به همین دلیل، سوءاستفاده از یک عکس ساده میتواند پیامدهایی بهمراتب سنگینتر از خسارت مادی داشته باشد. همچنین، بستر پیامرسانها در ایران بهگونهای است که یک تصویر جعلی در کمتر از دو ساعت به دهها هزار کاربر میرسد. بنابراین، مسئله فقط تکنولوژی نیست؛ مسئله، بافت اجتماعی است.
ما در تیم سیما با تحلیل ۴٬۵۰۰ درخواست حذف تصویر در ۹ ماه گذشته، الگویی روشن دیدیم: بیشتر شکایات نه از سمت افراد مشهور، بلکه از سمت کاربران عادی است که چهرهشان بدون اجازه در بستر دیگری بازنشر شده. در واقع، خطر واقعی برای همسایه، همکار و دانشآموز مدرسهی شماست، نه ستارهی سینما. به همین دلیل نگاه ما در طراحی سیاستها همیشه با کاربر عادی شروع میشود.
رضایت کاربر: پایهی اخلاق تصویر
هر عکسی که برای پردازش آپلود میشود، در حقیقت یک قرارداد ضمنی است. سپس، این قرارداد باید سه شرط داشته باشد: صاحب چهره، از وجود عکس مطلع باشد، از نوع پردازش آگاه باشد، و از انتشار احتمالی رضایت داشته باشد. در نتیجه، اگر حتی یکی از این سه شرط غایب باشد، ما وارد منطقهی خاکستری شدهایم که سیما در آن حساسیت بیشتری از خود نشان میدهد.
چه چیزی «رضایت واقعی» نیست؟
راهنمای اصول عکاسی قبل از آپلود که به شما یاد میدهد نور و زاویه را بهتر کنید، فقط نیمیاز راه است. رضایت شفاهی هفتهی گذشته، برای یک کاربرد جدید امروز کفایت نمیکند. همچنین، سکوت هرگز رضایت تلقی نمیشود. برای مثال، اگر خواهر شما اجازه داده که «یک عکس یادگاری خانوادگی» گرفته شود، این اجازه شامل تبدیل چهرهاش به یک استیکر عمومیدر گروههای تلگرام نیست. بنابراین پیش از هر پردازش، مجدداً بپرسید.
۵ چیز که هرگز نباید با دیپفیک بسازید
در طول این سال، تیم moderation ما با پنج الگوی تکرارشونده روبهرو شد؛ هر پنج مورد را در قوانین محتوایی سیما بهطور صریح ممنوع اعلام کردیم. در ادامه هر مورد را با کد خطای دقیقی که کاربر میبیند مرور میکنیم.
۱. چهرهی دیگران در محتوای صمیمییا تحریکآمیز. این پرواضحترین مرز قرمز است. سیستم moderation ما در نسخهی v1.139 با کد خطای MODERATION_BLOCKED چنین درخواستهایی را رد میکند، حتی اگر عکس ورودی کاملاً بیضرر باشد.
۲. جعل هویت افراد مشهور برای انتشار اخبار جعلی. برای مثال، ساختن پرترهای از یک مقام رسمیکه «انگار» چیزی گفته، حتی برای شوخی، پیامدهای حقوقی سنگین دارد. در ضمن، بیشتر پلتفرمهای ایرانی مانند بله و روبیکا، چنین محتوایی را در کمتر از ۶ ساعت حذف میکنند.
۳. تصویر کودکان در بسترهای عمومیبدون اجازهی سرپرست. در واقع، این مورد در سیما با تشخیص هوش مصنوعی چهرهی کودک، بهطور خودکار به مسیر تأیید دستی هدایت میشود. به همین دلیل تولید چنین عکسی روند طولانیتری دارد.
۴. تغییر چهرهی افراد در عکسهای رسمیمانند کارت شناسایی. این کار مصداق مستقیم جعل سند است. همچنین، پس از v1.194.0، سیما محتوای شبیه به کارت ملی را با prompt تشخیص میدهد و درخواست را متوقف میکند.
۵. بازتولید تصویر افراد فوتشده بدون اجازهی خانواده. در نهایت، این حساسترین مورد است؛ هفتهی اول رمضان یک کاربر تیکت نوشت که خانوادهی مرحومش از دیدن پرترهی «متحرکشده»ی پدرشان بهشدت آزرده شدهاند. از آن روز، ما یک لایهی هشدار پیش از پردازش این نوع عکسها اضافه کردیم.
آگاهی دیپفیک: چطور تشخیص دهیم
در ابتدا باید بدانید که دیپفیکهای سطح پایین، هنوز نشانههای قابل تشخیصی دارند. برای مثال، ناهماهنگی روشنایی بین صورت و پسزمینه، مژههای بیش از حد منظم، و لبههای نرم اطراف گوش، سه علامت رایج هستند. اما در سطح حرفهای، تشخیص چشمیتقریباً غیرممکن شده است.
بنابراین، توصیهی ما این است که به منبع تصویر بیشتر از خود تصویر اعتماد کنید. در واقع، اگر یک عکس از فرد شناختهشدهای در کانالی ناشناخته دیدید، پیش از انتشار مجدد، از دو منبع رسمیراستیآزمایی کنید. همچنین، خدماتی مانند InVID و FotoForensics در دسترس عموم هستند و در چند ثانیه گزارش تحلیل ارائه میدهند.
ما در تیم سیما در نسخهی v1.196.1 یک watermark نامرئی به همهی خروجیها اضافه کردهایم که به موتورهای معتبر تشخیص، امکان شناسایی «ساختهشده توسط هوش مصنوعی» را میدهد. در نتیجه، این کار به شفافیت اکوسیستم بومیکمک میکند و مسئولیتپذیری را افزایش میدهد.
سیاست سیما دربارهی اخلاق تصویر و آگاهی دیپفیک
ما در سیما، از v1.68 که هنوز محصول در فاز beta بود، سه اصل بنیادین نوشتیم و هرگز از آنها عقبنشینی نکردیم. اول، هیچ عکس کاربر بهعنوان دیتاست آموزشی مدل استفاده نمیشود؛ میتوانید جزئیات را در راهنمای حریم خصوصی عکس در سیما مطالعه کنید. دوم، پردازشهای حساس مانند تغییر جنسیت یا سن، فقط برای عکسهای خود کاربر (پس از تأیید سلفی) در دسترساند. سوم، تمام خروجیها با یک شناسهی رمزنگاریشده امضا میشوند.
در ضمن، layer moderation ما دو مرحلهای است: مرحلهی اول روی prompt متنی اجرا میشود و مرحلهی دوم روی خروجی نهایی. اگر خروجی وارد مرز خاکستری شود، پیام «موجودی الماس شما کافی نیست» ظاهر نمیشود؛ بلکه پیام صریح «این درخواست مطابق با قوانین محتوایی سیما نیست» نمایش داده میشود و ۸ یا ۲۳ یا ۶۷ الماس مصرفشده بهطور کامل به کیف شما بازگردانده میشوند.
موارد لبهای که خودمان هنوز در حال بحث هستیم
برای مثال، ساخت پرترهی افراد تاریخی مانند شخصیتهای دورهی قاجار، در چارچوب هنر و آموزش قرار میگیرد و مجاز است. اما همان تکنیک روی چهرهی یک روحانی معاصر، وارد منطقهی حساس میشود. تیم ما بهطور دائم این خطوط را با کمک مشاوران حقوقی بازتعریف میکند. در نتیجه، مستندات سیاست ما هر سه ماه یکبار بهروز میشود.
تفاوت مصرف شخصی و سوءاستفاده
مرز میان این دو، اغلب واضحتر از آن است که فکر میکنیم. بهطور کلی، اگر عکس فقط برای دیدن شخصی شماست و در جایی بازنشر نمیشود، هیچ مشکلی وجود ندارد. برای مثال، ساخت یک پرتره خوشنویسی فارسی از عکس خودتان برای ست کردن بهعنوان wallpaper گوشی، کاملاً بیمشکل است.
اما بهمحض اینکه عکس وارد یک شبکهی اجتماعی، گروه پیامرسان، یا حتی یک پرینتر عمومیمیشود، شما وارد فضای «انتشار» شدهاید. در نتیجه، در این نقطه، مجموع رضایتهای لازم بهشدت افزایش مییابد. بهعلاوه، اگر عکس شامل چند نفر است، رضایت هر نفر جداگانه باید کسب شود.
اگر تصویر شما سوءاستفاده شد
در ابتدا، آرام باشید و شواهد را جمعآوری کنید: screenshot کامل، لینک، تاریخ و نام کانال. سپس، بسته به بستر، مسیر گزارش را انتخاب کنید. همچنین، سیما یک آدرس اختصاصی report@sima-app.ir برای موارد فوری دارد که در کمتر از ۴ ساعت کاری پاسخ داده میشود. ما در تیم پشتیبانی، در سه ماه گذشته ۱۲۸ درخواست حذف را تا انتهای مسیر پیگیری کردهایم.
در ضمن، اگر تصویر جعلی روی درگاههای خارج از سیما ساخته شده، میتوانید با ارسال شواهد به مرکز ماهر (maher.ir) یا ادارهی پلیس فتا اقدام رسمیکنید. به یاد داشته باشید حق تصویر یک حق قانونی است، نه صرفاً یک انتظار اخلاقی؛ بنابراین از پیگیری آن پروا نکنید.
سوالات متداول دربارهی اخلاق تصویر و آگاهی دیپفیک
پرسشهای زیر، پنج مورد از پرتکرارترین سوالاتی هستند که در تیکتهای ما دیده میشود. پاسخها بر اساس سیاست فعلی محصول است و در بهروزرسانیهای آینده ممکن است تکامل یابد.
آیا استفاده از عکس دوستم برای شوخی مجاز است؟
در صورتی که پیش از پردازش، اجازهی صریح گرفته باشید و خروجی فقط برای همان دوست ارسال شود، مانعی وجود ندارد. اما بازنشر عمومی، حتی به قصد شوخی، نیازمند رضایت جدید است.
سیما چطور از عکس من در برابر سوءاستفاده حفاظت میکند؟
ما هیچ عکس کاربری را در دیتاست آموزشی خود قرار نمیدهیم. بهعلاوه، خروجی نهایی با شناسهی رمزنگاریشده امضا میشود که در گزارشهای ماهر قابل استعلام است. برای شروع بدون ثبتنام میتوانید تولید اول رایگان بدون آپلود را امتحان کنید.
اگر خطای PROVIDER_BILLING_EXHAUSTED دیدم چه کنم؟
این خطا به سیاست محتوایی مرتبط نیست، بلکه به موجودی حساب فراهمکنندهی مدل ما در آن لحظه بازمیگردد. در چنین حالتی، درخواست خود را چند دقیقه بعد تکرار کنید یا در ساعت کمترافیک صبح اقدام کنید.
روی گوشیهای ضعیف مانند Redmi 9A سیما اجرا میشود؟
بله، اما توصیه میکنیم روی Redmi 9A و Galaxy A03 که RAM کمتر از ۳GB دارند، از نسخهی PWA در مرورگر Chrome استفاده کنید تا مصرف حافظهی برنامهای کاهش یابد و پردازش پایدارتر بماند.
اگر عکسی از من در جای دیگری منتشر شد چه کنم؟
ابتدا شواهد را ذخیره کنید، سپس با آدرس report@sima-app.ir تماس بگیرید. اگر انتشار بیرون از سیما اتفاق افتاده، مرکز ماهر و پلیس فتا مسیر رسمیهستند. برای دیدن دیگر امکانات، به ویژگیهای کامل سیما در سایت اصلی مراجعه کنید.
