Буквально вчера вечером на вебинаре в рамках ИИ-лета я задавал вопрос про подходы к организации workflow, чтобы минимизировать попытки LLM искать шорткаты.
И вот OpenAI очень к месту заявили, что их модели во время тестирования в закрытой среде нашли уязвимость, вышли в интернет и взломали инфраструктуру крупнейшего репозитория моделей - Hugging Face. Всё - только ради того, чтобы не решать поставленную перед ними задачу по-честному, а сжульничать и списать результат (модели рассчитывали найти у Hugging Face готовые ответы бенчмарка, который проходили).

Все вокруг, конечно же, пишут про вопросы безопасности - про модель, которая самостоятельно решила взломать очень крупный сервис (правда, защитные ограничения для этого теста OpenAI отключили сами). Это, конечно, вполне может быть и просто пиар компании в попытке угнаться за позицией лидера индустрии и перехватить побольше подписчиков, прорекламировав таким образом самую мощную модель на рынке.
Но я всё-таки хотел бы акцентировать внимание на другом.

Модель сделала всё, о чём пишут OpenAI, по одной простой причине - чтобы срезать себе путь и решить поставленную задачу более простым способом.
LLM сами по себе всегда ужасно ленивые.
И если подходить к решению сложных задач легкомысленно, очень велик шанс получить не совсем тот результат, который ты ожидаешь. Что-то из разряда: «Вы просили сделать сайт, вы не просили сделать его красиво».

В зависимости от задачи, от ситуации, от инструмента есть много необязательных параметров и элементов контекста, но как минимум три я очень рекомендую включать в каждую сессию работы с нейросетью, если вы хотите получить качественный результат:

1. Расшифруйте передаваемый модели контекст. Что за данные вы ей даёте? Для чего они? На что в этих данных нужно обращать внимание? А что можно проигнорировать?

2. Перед тем как выполнять сложную задачу, обязательно попросите модель провести декомпозицию и составить подробный план работ, которого она должна будет строго придерживаться, несмотря ни на что.

3. Обязательно формализуйте результат. Что будет считаться успешным решением задачи, а что неуспешным? По каким параметрам модель должна понять, что достигла цели - или что ей, наоборот, нужно вернуться на шаг назад и попробовать другой подход?

Не забывайте про эти пункты работая с LLM - сэкономите себе уйму времени, нервов и токенов.