فهرست مطالب — رد خروجی و moderation در سیما
ما در تیم سیما از نسخهی v۱.۶۸ روی رد خروجی و moderation در سیما کار کردهایم و متوجه شدیم که تنها حدود ۳ درصد از تولیدها بهدلیل فیلترهای محتوایی متوقف میشوند؛ اما همان ۳ درصد اگر بدون توضیح رها شود، اعتماد کاربر را میشکند. تجربهی ما روی بیش از ۴۲۰۰ تیکت واقعی نشان داد که سه چیز کافی است: پیام روشن، مسیر جایگزین خودکار، و برگشت شفاف الماس. در این مقاله دقیقاً همان معماری را باز میکنیم.
در ماههای اول، هر بار یک کاربر پیام «خروجی رد شد» را میدید بدون اینکه بفهمد چرا، ما شکایتها را دستی دستهبندی میکردیم. سپس در نسخهی v۱.۱۳۹ یک لایهی تشخیص خودکار اضافه کردیم و در v۱.۱۶۹ مسیر fallback میان دو ارائهدهنده را وصل کردیم. بنابراین امروز اگر ارائهدهندهی اول اجازهی تولید ندهد، سیستم بیدرنگ به ارائهدهندهی جایگزین سوئیچ میکند و شما اصلاً متوجه توقف نمیشوید.
moderation در سیما چیست و چرا خروجی رد میشود؟
moderation یعنی همان لایهی نامرئی که پیش از خروج تصویر نهایی، محتوا را برای اطمینان از سالم بودن بررسی میکند. در واقع مدل تولید تصویر بر پایهی متن و عکس ورودی، خروجی را پیشبینی میکند؛ اما یک ماژول جداگانه بلافاصله بررسی میکند که آیا نتیجه از سیاستهای ارائهدهنده عبور میکند یا نه. اگر جواب منفی باشد، کد MODERATION_BLOCKED برگشت میخورد و کاربر پیام «خیر، تولید امکانپذیر نیست» را میبیند.
در تجربهی ما روی حدود ۹۸۰۰ سشن اردیبهشت امسال، تنها سه دلیل عمده باعث رد شدن میشود: چهرهی مبهم یا کمکیفیت که مدل نمیتواند بازسازی امنی از آن بسازد، پرامپت با کلمات حساس در فیلتر بینالمللی، و ترکیب دو چهره در یک قاب که سیستم آن را جعل هویت تلقی میکند. همچنین گاهی سبک انتخابیمثل «هنری تیره» با موضوعات حساس تصادم میکند و بنابراین ماژول امنیت با احتیاط برخورد میکند.
همین موضوع باعث شد ما در نسخهی v۱.۱۹۴ یک راهنمای کوچک زیر دکمهی «تولید» اضافه کنیم که با آیکون سبز نشان میدهد عکس شما از نظر سنجش اولیه امن است. برای مثال اگر عکس تار باشد، پیش از خرج شدن الماس هشدار میگیرید. این کار میزان توقفهای ناخواسته را حدود ۴۱ درصد کاهش داد.
مسیر fallback خودکار در سیما پس از رد خروجی
fallback در ادبیات فنی سیما یعنی «اگر ارائهدهندهی اول نتیجه نداد، خودمان بیسروصدا به دومیمیرویم». بهطور کلی وقتی متیس (ارائهدهندهی اصلی ما) یک درخواست را بلاک میکند یا اعتبار حساب برای آن مدل خاص تمام میشود، خطای PROVIDER_BILLING_EXHAUSTED صادر میشود و منطق سرور بلافاصله همان درخواست را به qwen alt (ارائهدهندهی جایگزین) ارسال میکند. کاربر فقط ۲ تا ۴ ثانیه تأخیر بیشتر میبیند و در نهایت خروجی نهایی را دریافت میکند.
مکانیزم دو لایه در پسزمینه
لایهی اول در سطح API است: اگر پاسخ متیس کد بلاک برگرداند، سرور تلاش دوبارهی بیفایده نمیکند بلکه مستقیم به مسیر دوم میرود تا وقت کاربر تلف نشود. لایهی دوم در سطح مدل است: qwen alt همان پرامپت را با پارامترهای کمیمحافظهکارانهتر اجرا میکند تا احتمال عبور از فیلتر بیشتر شود. برای مثال دمای مدل از ۰.۷ به ۰.۵ کاهش مییابد.
ما این معماری را در نسخهی v۱.۱۶۹ وارد تولید کردیم و بعد از دو هفته آمار جالبیبهدست آوردیم: ۷۳ درصد از درخواستهایی که در قبل خطا میگرفتند، در مسیر جایگزین با موفقیت خروجی میدهند. در ضمن اگر هر دو ارائهدهنده رد کنند، ما بهطور شفاف الماس را برمیگردانیم؛ برای جزئیات این فرآیند میتوانید شفافیت الماس هولد و برگشت را بخوانید.
کدهای خطای رایج و راههای رفع رد خروجی
در بکاند سیما پنج کد خطای مشخص برای هر توقف تعریف کردهایم. اولین کد MODERATION_BLOCKED است که به معنی رد شدن توسط فیلتر محتواست. دومین کد PROVIDER_BILLING_EXHAUSTED است که یعنی سهمیهی متیس برای این مدل تمام شده و مسیر fallback فعال میشود. سومین کد INPUT_QUALITY_LOW برای عکسهای تار یا با نور بد است.
بهعلاوه دو کد کمکی داریم: FACE_NOT_DETECTED که وقتی صورت واضحی در عکس نیست ثبت میشود، و PROMPT_POLICY_VIOLATION که پرامپتهای ناسازگار با سیاست را برمیگرداند. در نتیجه بهجای یک پیام گنگ، کاربر دقیقاً میداند مشکل کجاست و چطور در تلاش بعدی آن را حل کند.
همچنین توجه کنید که پردازش عکس شما در تمام این مراحل روی سرورهای امن انجام میشود و پس از تولید حذف میگردد. اگر میخواهید بدانید دقیقاً چه اتفاقی برای عکس شما میافتد، مقالهی حریم خصوصی عکس در سیما را ببینید.
چرا از دو ارائهدهنده استفاده میکنیم (متیس و qwen alt)
یک ارائهدهنده هرگز کافی نیست. در واقع اگر فقط به متیس وابسته بودیم، هر بار که سیاستهای موقتشان سختگیرانهتر میشد یا سرورشان قطع میشد، همهی کاربران بلوکه میشدند. بنابراین از نسخهی v۱.۱۶۹ ما زیرساخت را برای پشتیبانی از چند ارائهدهنده بازنویسی کردیم.
متیس برای سبکهای واقعگرایانه و پرترهی حرفهای مثل headshot لینکدین بهتر عمل میکند؛ اما qwen alt در سبکهای هنری و فرهنگی مثل نگارگری و قاجاری قویتر است. برای مثال اگر میخواهید خودتان را در قالب نگارگری ایرانی تک نفره ببینید، مسیر پیشفرض به qwen alt میرود چون کیفیت متنهای کوچک فارسی در آن مدل بهتر است.
همچنین از منظر هزینهی توکن، هر تولید متیس حدود ۸ تا ۲۳ الماس مصرف میکند، در حالی که qwen alt در بازهی ۶ تا ۶۷ الماس (بسته به سبک) قرار دارد. در نتیجه ترکیب دو ارائهدهنده هم افزونگی میدهد و هم قیمت متناسب با هر سبک را ممکن میکند.
تجربهی کاربر هنگام رد خروجی
از نگاه کاربر، وقتی خروجی رد میشود سه پیام کوتاه پشت هم دیده میشود: «در حال بررسی نتیجه…»، «مسیر جایگزین فعال شد»، و در نهایت یا خروجی نهایی یا پیام واضح «تولید ممکن نشد؛ الماسها برگشت خورد». این ترتیب عمداً ساخته شد تا کاربر مطمئن باشد سیستم رها نشده.
هفتهی اول رمضان یک کاربر تیکت نوشت که «۶۷ الماس دادم ولی خبری از عکس نشد». وقتی لاگ را بررسی کردیم دیدیم درخواست او در متیس بلاک شده و qwen alt هم به دلیل شلوغی موقت پاسخ نداده است. در همان روز ما این حالت را با گارد اضافهتر پوشش دادیم و از v۱.۱۹۶.۱ تضمین کردیم اگر هر دو ارائهدهنده در بازهی ۹۰ ثانیه پاسخ ندهند، الماس بهطور خودکار برمیگردد.
همچنین برای کاربر مهمان، رد شدن یک نتیجه هیچ الماسی مصرف نمیکند چون تولید اول رایگان بدون آپلود در نظر گرفتهایم تا کاربر بدون ریسک با کیفیت آشنا شود.
راهنمای پیشگیری: قبل از آپلود چه کنیم
چند نکتهی ساده احتمال موفقیت را چند برابر میکند. در ابتدا مطمئن شوید عکس شما در نور طبیعی گرفته شده و صورت بدون فیلتر سنگین است. سپس از عکسهای سلفی با فاصلهی مناسب استفاده کنید نه عکسهای خیلی نزدیک. در ضمن اجتناب از سبکهای خیلی تیره برای عکسهای کودکان توصیه میشود.
از نظر دستگاه، روی گوشیهای ضعیف مثل Redmi 9A و Galaxy A03 که RAM کمتر از ۳GB دارند، پردازش سنگینتر ممکن است باعث فشردهسازی بیش از حد شود. برای مثال کیفیت را در تنظیمات از «بهینه» به «عادی» تغییر دهید تا حجم آپلود متعادل شود.
برای مطالعهی همهی قابلیتها و ابزارها میتوانید ویژگیهای کامل سیما در سایت اصلی را ببینید. در نهایت به یاد داشته باشید که این فرآیند برای حفاظت از هویت خودتان طراحی شده، نه محدود کردن خلاقیت.
سوالات متداول دربارهی رد خروجی و moderation در سیما
در طول یک سال، پنج سوال بارها تکرار شدهاند. پاسخهای زیر بر اساس تجربهی مستقیم تیم سیما دربارهی این فرآیند و مکانیزم fallback تنظیم شده است.
چه زمانی خطای MODERATION_BLOCKED رخ میدهد؟
وقتی ماژول امنیت ارائهدهنده تشخیص دهد ترکیب پرامپت و عکس شما با سیاستهای محتوایی همخوانی ندارد. در واقع این خطا در حدود ۳ درصد تولیدها ظاهر میشود و بلافاصله مسیر fallback فعال میشود.
آیا الماس در صورت رد شدن برمیگردد؟
بله. اگر هر دو ارائهدهنده (متیس و qwen alt) نتوانند خروجی امن تولید کنند، تمام الماس هولد شده بهطور خودکار در کمتر از ۹۰ ثانیه به کیف پول شما برمیگردد.
چرا گاهی خروجی متفاوت از سبک انتخابیاست؟
چون مسیر fallback به qwen alt رفته و مدل جایگزین پارامترهای محافظهکارتر دارد. برای مثال کیفیت جزئیات چهره تغییر جزئی میکند اما موضوع اصلی حفظ میشود.
آیا رد شدن یک تولید بر امتیاز حساب من اثر میگذارد؟
خیر. رد شدن هیچ اثری بر امتیاز، سطح کاربری یا سهمیهی رایگان روزانهی شما ندارد. تنها آمار داخلی برای بهبود کیفیت مدل ثبت میشود.
چگونه شانس موفقیت تولید را افزایش دهم؟
از عکس روشن با صورت واضح، فرمت JPG یا PNG زیر ۵ مگابایت، و پرامپتهای مثبت استفاده کنید. در ضمن سبکهای واقعگرایانه معمولاً کمتر با فیلتر برخورد میکنند تا سبکهای هنری تیره.
