Ну уж Лобушкин, к которому Яндекс захаживал с рекламой мог и комментарий добавить, что все-таки дело в том, как модели обучаются, а не в том, что в российской компании сознательно делают подобные шаги при обучении моделей.

Сабж: вероятно модель действительно могла выдать подобное изображение — но из этого не следует вывод, что где-то в Яндексе сидит специальный отдел, который вручную «зашивает» такие смыслы в генерацию к 9 мая.

Генеративные модели работают иначе: они собирают визуальный ответ из вероятностных связей, паттернов, обучающих данных, подписей к изображениям, пользовательского промта и внутренних ограничений. Иногда на выходе получается удачно. Иногда — абсурдно. Иногда — политически, исторически или этически чувствительно. И вот в такие моменты особенно важно не подменять разговор о качестве датасетов, модерации и тестировании разговором о «сознательном саботаже».

Да, к результату есть вопросы. Да, такие кейсы надо проверять, разбирать и исправлять. Особенно когда речь идет о теме чувствительной, где цена ошибки выше обычной генеративной кривизны. Но нормальный разбор — это не «Яндекс нарисовал власовцев специально», а: почему модель так сработала, какие образы она смешала, как устроены фильтры, почему не сработала постмодерация и как это не допустить дальше.

И вот это как раз был бы полезный комментарий от человека, который понимает медиа и технологии: не оправдать ошибку, а объяснить механизм. Потому что иначе мы снова приходим к классической проблеме — нейросети/компанию оценивают как редактора с политической позицией, хотя чаще всего перед нами не позиция, а сбой вероятностной машины.

P.s Если что я против травли Яндекса. Считаю их величайшей технологической компанией в мире. Но факты есть факты — их и выдала новостная редакция. (С) Лобушкин

https://t.me/lobushkinflash/18891