یه مدل جدید برای ادیت عکس اومده به اسم Qwen-Image-Edit که مستقیم روی تسکهای ویرایش تصویر تمرکز کرده. کاربرد اصلیش اینه که میتونی با دستورات متنی، تغییرات دقیق و کنترلشدهای روی عکسها اعمال کنی، مخصوصاً وقتی پای ویرایش متن داخل عکس وسط باشه.
مدل Qwen-Image-Edit بر پایهی مدل بزرگتر Qwen-Image با ۲۰ میلیارد پارامتر ساخته شده. معماری این مدل برای کنترل دقیق روی ویرایش، یه رویکرد هوشمندانه داره. تصویر ورودی به دو بخش داده میشه:
۱. یک بخش میره به Qwen2.5-VL که یک مدل ویژن-زبان هست. این قسمت مسئول درک معنایی و مفهومی تصویره. یعنی مدل میفهمه توی عکس چه خبره و دستور شما برای تغییر، چه مفهومی داره. این برای کنترل Semantic Editing استفاده میشه.
۲. بخش دوم میره به یک VAE Encoder. این قسمت روی ظاهر بصری و جزئیات سطح پایین تصویر تمرکز میکنه. هدفش اینه که مناطقی از عکس که قرار نیست تغییر کنن، دستنخورده باقی بمونن. اینم برای کنترل Appearance Editing هست.
خروجی این دو انکودر با هم به مدل اصلی که یک Multimodal Diffusion Transformer یا MMDiT هست، داده میشه. اینطوری مدل میتونه بین حفظ جزئیات اصلی تصویر و اعمال تغییرات معنایی، تعادل برقرار کنه.
قابلیتهای اصلی که ارائه میده به این شکله:
ویرایش معنایی (Semantic Editing): برای تغییرات سطح بالا مثل عوض کردن استایل هنری عکس (مثلاً به سبک استودیو جیبلی)، چرخوندن اشیاء توی صحنه (Novel View Synthesis) یا حتی خلق کاراکترهای جدید بر اساس یک IP اولیه. اینجا کل پیکسلهای عکس میتونه تغییر کنه ولی مفهوم اصلی حفظ میشه.
ویرایش ظاهری (Appearance Editing): برای تغییرات دقیق و محلی. مثلاً اضافه کردن یا حذف یک شیء، تغییر پسزمینه، یا عوض کردن رنگ لباس. نکته کلیدی اینه که بقیهی قسمتهای عکس کاملاً ثابت باقی میمونن.
ویرایش دقیق متن: این یکی از نقاط قوت اصلی این مدله. میتونه متنهای انگلیسی و چینی رو داخل عکسها ویرایش، حذف یا اضافه کنه و سعی میکنه استایل، فونت و اندازهی متن اصلی رو هم حفظ کنه. این قابلیت توی مدلهای غربی معمولاً ضعیفه. میشه به صورت زنجیرهای (Chained Editing) هم برای اصلاح خطاهای تایپی یا نوشتاری در تصاویر استفاده کرد.
مدل فقط یک سری پیکسل رو عوض نمیکنه، بلکه واقعاً میفهمه چه چیزی رو باید تغییر بده و چه چیزی رو باید ثابت نگه داره. عملکردش توی بنچمارکهای GEdit و ImgEdit هم قوی بوده و در سطح مدلهای SOTA مثل GPT-4o و FLUX.1 قرار گرفته.
📃 صفحه مدل در Hugging Face
🛠 Join @LLMEngineers Community
Post #175
944
- 👍 7
- ❤ 1