Вам интересны LLM?

У меня уже есть некоторый опыт в работе с ними:
▫️ Использование в алгоритмах. Написал проект в HR Tech, где резюме анализируются с высокой точностью с помощью LLM. Так же создал базу знаний (RAG) по проекту на работе.
▫️Coding Harness. Упоролся в кост эффективность, и теперь каждый день работаю с двумя-тремя проектами/задачами параллельно на подписке за $20. Лимит иногда подходит к 70-80 процентам, но только 5-часовой. Вроде бы экономия 180 долларов в месяц - не сильно много, но кто знает, какая это будет сумма, когда токены не будут так активно субсидироваться?
▫️LLM и бесконечный многопользовательский чат. Исследую возможности долгосрочной памяти у LLM. Нейросеть пишет проект такой памяти сама для себя под моим надзором. Ближайший аналог - Zep.
▫️Совсем недавнее. Сделал себе секретаря: он имеет доступ к моему Обсидиану и ведёт списки задач и покупок. Общение в ТГ: новое сообщение - новый диалог, ответ на старое сообщение - продолжение диалога. Человеческий интерфейс задач - заметки в Obsidian. Ещё отлаживаю нюансы, но уже пользуюсь 👍

И вроде бы ничего сложного не сделал: кажется, любой разработчик может получить те же результаты, если потратит свое время на решение тех же задач. Никакого рокет саенса.
Но я тут подумал: вдруг вам интересны какие-то вопросы по нюансам реализации этих вещей? Ведь мало кто ещё их решил.

И главный вопрос.
А какие вызовы в использовании LLM видите перед собой вы?