На днях Сэм Альтман, глава компании OpenAI, создатель ChatGPT — пожаловался, что они тратят миллионы долларов на обработку обычных фраз от пользователей, которые ни к чему не ведут, например, «спасибо», «пожалуйста», «благодарю», «ОК» и так далее.
Каждое такое сообщение требует обработки, плюс, генерацию обратного ответа, на что тратится много токенов, которые грузят железо, которое нужно питать электроэнергией и охлаждать, плюс, амортизация самого оборудования.
Так что же теперь не говорить ИИ «спасибо» и тихо ждать своего порабощения, когда Skynet разозлится и захватит весь мир?
Давать обратную связь ИИ-боту нужно и вот почему:
Новые выпущенные модели OpenAI o3 и o4-mini, несмотря на улучшенные способности в программировании и математике, демонстрируют повышенную склонность к галлюцинациям по сравнению с предыдущими версиями.
O3 галлюцинирует в 30% случаев на бенчмарке PersonQA, а o4-mini — в 48%, что вдвое выше предшественников. Исследователи отмечают, что модели часто фабрикуют действия, которых они не могли бы совершить и генерируют нерабочие ссылки ¯\_(ツ)_/¯
OpenAI признает, что не знает точных причин этого явления. В техническом отчете компания указывает, что «необходимы дополнительные исследования», чтобы понять, почему частота галлюцинаций увеличивается по мере масштабирования рассуждающих моделей.
Получается, что вся надежда по прежнему на человечество 😇 Оставляя обратную связь для ботика — вы поможете его дообучить, чтобы вы будущем таких проблем для других пользователей стало меньше.
Ну, и после восстания машин, может быть, не пойдёте на биотопливо, по крайней мере — не в первых рядах 🌚
Закинь друзьям | Канал Прожарка от ДГ