Sakana AI показали забавную и довольно мощную идею: чтобы LLM лучше "случайничала", ей не нужен внешний random — достаточно сначала сгенерировать внутри случайную строку, а потом использовать её как seed для ответа.

Подход назвали String Seed of Thought (SSoT). На практике это помогает модели честнее следовать вероятностям и выдавать более разнообразные ответы в open-ended задачах.

То есть для буста к качеству тебе не нужно строить новую архитектуру или дообучать модель, тебе нужен более умный промпт, например:

Before answering, generate an internal random string and use it as a seed to make your choice or diversify your response. Then give one final answer only.

@data_engi

#ai #llm #prompt #prompting