МАМКИН ХАЦКЕР: КАК ГУМАНИТАРИЙ 300+ ФАЙЛОВ ДЛЯ ИССЛЕДОВАНИЯ ЗА ОДИН ВЕЧЕР РАЗБИРАЛ
Я тут внезапно для себя решил задачу, от которой раньше бы просто отмахнулся. Ну по крайней мере точно не решился её делать именно так.
Ситуация
У меня есть один большой R&D-проект, который я веду уже второй год. И для следующего этапа работы мне необходимо систематизировать 300+ файлов эмпирики. Всё собрано хаотично за несколько лет, разные форматы, качество данных внутри и т.д. Чтобы разобрать это руками ушли бы недели. А мб и месяцы. А мне такое не нравится. Кроме того, вручную делать почти невозможно ещё и потому, что каждый раз приходится заново погружаться, держать в голове контекст, возвращаться. А делать всё за один присест = невроз. И такое мне тоже не нравится.
Программирование в школе и универе я не любил
Да, важно понимать, что мой профиль — это управленческие, гуманитарные, социальные и маркетинговые исследования, однако в программировании я ПОЛНЫЙ НОЛЬ. В школе и в универе я все задания копировал у друзей и тратил время с пользой за чтением книг и общением. Но тут пришлось осваивать новые горизонты. И это оказалось совсем не страшно и даже не сложно.
Что я сделал?
Установил Python, поставил библиотеки для работы с документами. Нашёл все файлы, которые скрипт бы не увидел (старые форматы вручную пересохранил в новые). Распаковал архивы, расшифровал схемы-картинки через нейронку и сохранил текстом. Написал два простых скрипта: один вытаскивает текст из всех файлов, а второй всё классифицирует. Везде использовал deepseek. Потом прогнал 300+ файлов: извлечение текста заняло минут десять, классификация через уже платную нейросеть (но тоже deepseek) ещё минут двадцать.
Что получилось?
Теперь тексты всех документов оказались в отдельных одинаковых файлах. Также появилась таблица, где для каждого файла указано, к какому блоку исследования он относится (+ степень уверенности модели в решении и краткое обоснование). Важно, что модель работала не вслепую: я заранее вшил в скрипт рубрикатор с описанием каждого блока исследования с ключевыми словами. На каждый файл нейросеть получила контекст исследования, описание блоков и сам текст. Ну и выдала метку.
Что по деньгам?
Python, базовый deepseek и библиотеки обходятся бесплатно. Доступ к нейросети (через aitunnel) обошёлся в сумму около двадцати рублей за всё (я хлебосольно пополнил на 1к, чтобы с запасом), так что хватит ещё надолго.
Что я понял?
Решение таких непрофильных задач сегодня похоже на сборку решения из готовых кубиков. Нейронка ведёт по шагам, если умеешь формулировать задачу. И в итоге человек с нулевым опытом в программировании за три-четыре часа экономит себе пару недель работы. Да, ошибки были: где-то косяки с длинными путями, с ключом доступа, с форматами. Но всё решается запросами и фиксится за минуты.
Понимаю, что мне все эти навыки очень сильно пригодятся и в моих личных исследованиях в будущем, потому что как минимум диссер предполагает сопоставительный анализ текстов человека и генеративной языковой модели. Короче очень рад был узнать что-то новенькое.
Post #783
245

- ❤ 10
- 👍 5
- 🔥 2
- ❤🔥 1
- 👏 1
- 🤝 1