За честность бьют больнее, чем за молчание

Anthropic любит подробно расписывать риски своих моделей, вот тут наша система может вести себя странно, вот тут мы не уверены. И что в ответ? Волна тревожных заголовков и нервных вопросов, будто именно они одни и опасны.

Мозг хватается за того, кто сам признался, и спокойно проходит мимо тех, кто молчит в тряпочку. Сказал «у меня бывают сбои», значит виноват. Не сказал ничего, значит молодец, чистенький.

И мы своими руками дрессируем индустрию быть не безопасной, а тихой. Раскрыл риск - получил по шапке быстрее соседа, который те же риски просто не показал. Гениально же: выгоднее не чинить, а прятать.

А потом будем удивляться, почему никто не рассказывает, что там у ИИ под капотом. Мы же сами научили: открыл рот, накажут 🤷

ИИ что дальше? Подпишись, да пребудут с тобой токены!