В вакансии про нейронки не было ни слова, кстати говоря. Но сейчас про них спрашивают все чаще, даже если работа с ИИ будет составлять 10-15% от ежедневных задач.
Нанимающий говорит:
«Представь, что я твоя бабушка. Мы с бабулями сидим на лавке, у меня в телефоне ChatGPT, я ему грибочки фоткаю и прошу сказать, съедобный ли. Объясни простым языком, почему так нельзя делать. Или можно?»
Кандидат отвечает:
«Фото может быть плохого качества, нейронка может ошибиться. Можно спросить у нескольких нейронок, пусть перепроверят друг друга»
Звучит разумно? НО именно так отвечают те, кого потом не берут 😐
Разбираю, что не так:
1. Нейронка не ищет правильный ответ, она его угадывает
Она способна лишь предсказать, какое слово обычно идет следом, и таким образом, она собирает ответ. При обучении модели у утверждений нет меток «правда/ложь». Плюс сама механика обучения и оценки поощряют угадывание вместо «не знаю».
2. Вторая нейронка не спасет ситуацию
Они учились на одних и тех же текстах и ошибаются в одну и ту же сторону.
3. По фото съедобность гриба не определить
Грибник гриб нюхает, ломает, смотрит, на чем он рос. На фото этого нет. Даже специальные приложения для грибов регулярно путают ядовитые со съедобными.
И еще, кандидат уровня сеньор обязательно подсветит, для каких задач можно использовать нейронку, а для каких - нет. Например:
Написать текст, поразгонять идею – норм, потому что тут ошибку заметить и поправить легко.
А вот давать на откуп нейронке вопросы здоровья или денег – нет, потому что ошибку можно не заметить, а риск большой. Если нейронку все-таки пускают туда, где цена ошибки высокая, ее привязывают к проверенному источнику, а последнее слово все равно оставляют за человеком.
✅ Как звучит сильный ответ:
«Можно, бабуль, но только не грибы.
Эта штука грибов не знает. Она подбирает слова, которые звучат правильно, и может сказать"съедобный" или "ядовитый" одинаково уверенно.
Спросить еще у другой нейронки – как переспросить у соседки, которая тоже в грибах не разбирается. Два ответа в стиле "наверное, съедобный" не делают гриб съедобным.
Поэтому, рецепт супа у нее спрашивай сколько хочешь: ошибется – будет невкусно. А с грибами ошибка – это больница или того хуже. Гриб проверяют по справочнику с картинками или у того, кто их собирает всю жизнь»
Короче, тут проверяют две вещи сразу: понимаешь ли ты, где нейронке можно верить, и можешь ли объяснить это без сложных терминов типа «вероятностная модель». Разработке, бизнесу или бабушке – без разницы 🤝
❤️🔥 – бабушке бы объяснил
🗿 – сам фоткаю грибы и засылаю в GPT