تا حالا به این فکر کرده بودید که رعایت ادب چه قدر می تونه برای استفاده مدل های زبانی هزینه آور باشه؟ برای مثال اگر کلمه لطفن رو از پرامپت هامون حذف کنیم، هزینه کم تری برای استفاده از API می پردازیم. چون توکن کم تری استفاده می کنیم!

@ai_python

البته طبیعتن این موضوع در برنامه های در Scale بسیار بزرگ (برای مثال چند هزار کاربر) شدید تر خودش رو نشون می ده. تخمین زده می شه که کلمات مودبانه مثل مرسی، لطفن و ... میلیون ها یورو هزینه اضافه و شاید غیر ضروری برای برخی سازمان ها در پی داشته اند. حتی وقتی که ما انتظار جواب مودبانه از LLM داریم!

در این نوشتار آلمانی زبان که در روزنامه اتریشی Der Standard منتشر شده، بیش تر به این موضوع جذاب پرداخته شده است:

https://www.derstandard.at/story/3000000266546/danke-chatgpt-hoeflichkeit-kostet-openai-millionen

لینک گروه پرسش و پاسخ علوم کامپیوتر