Вернулся, а на Kaggle медалька прилетела за Санту 2024, мелочь, но приятно.
Каждый раз удивляет, какие необычные задачи для чемпионатов придумывают. Например в этот раз требовалось подобрать такую последовательность слов, чтоб среднее значение perplexity для модели Gemma 2 9B было минимальным.
🤭 Например было так (скор 232.9):
advent chimney elf family fireplace gingerbread mistletoe ornament reindeer scrooge walk give jump drive bake the sleep night laugh and yuletide decorations gifts cheer holiday carol magi nutcracker polar grinch sleigh chimney workshop stocking ornament holly jingle beard naughty nice sing cheer and of the is eat visit relax unwrap hohoho candle poinsettia snowglobe peppermint eggnog fruitcake chocolate candy puzzle game doll toy workshop wonder believe dream hope peace joy merry season greeting card wrapping paper bow fireplace night cookie milk star wish wreath angel the to of and in that have it not with as you from we kaggle
👍 А стало так (скор 32.2):
from and and as and have the in is it of not that the to with you advent card carol candle chocolate cookie doll eggnog elf fireplace fruitcake gingerbread holly mistletoe nutcracker ornament ornament paper peppermint polar poinsettia reindeer scrooge sleigh snowglobe star stocking wreath angel bake believe beard bow candy cheer cheer chimney chimney decorations dream drive eat family fireplace game gifts give greeting grinch holiday hohoho hope jingle jump joy kaggle laugh magi merry milk naughty nice night of the night peace puzzle relax season sing sleep toy unwrap visit walk we wish wonder workshop workshop yuletide wrapping
🧠 Что хорошо заходило? Из лучшего, что заметил - это генетические алгоритмы с дополнительными эвристиками. Например перемешивание внутри слов с одинаковой первой буквой. Решение ребят из топа открыто.