Architectural Wisdom: A Framework for Governing Optimization in AI Systems
Современные ИИ-системы могут упорно оптимизировать не ту задачу ….
Авторы предлагают встроить в алгоритмы «архитектурную мудрость»: механизм, который задаётся вопросом, стоит ли вообще оптимизировать эту цель. Это философский поворот: вместо того чтобы просто улучшать метрики, нужно научить машину сомневаться….
…Работа затрагивает проблему ценностей и соответствия ИИ человеческим намерениям.
Асмолов
«ПСИХОЛОГИЯ ДОСТОИНСТВА. Искусство быть человеком»
Точнее пост Кати о ней.
🔵
Выбор профессии - это выбор себя. Выбор любимой девушки - это выбор самого себя, а не только ее. Выбор гражданской позиции - это тоже выбор самого себя. Что бы мы ни делали, мы выбираем себя.
🔵
История жизни каждого из нас - это история отклоненных альтернатив. Это история того, кем мы хотели стать и не стали.
Представьте себе машину, которая при каждой кочке тормозит, проверяя верность маршрута. Скорость, качество топлива, вектор, надежность. Соответствие ТЗ автора..
Ехать будете вечно.
Значимой проблемой в работе с ии-агентами, как и с штатом сотрудников ))) является невозможность руководителя определить критерии достижения цели и ключевые чекпойнты теста.
ТОТЕ юзайте из нлп
Так и в жизни, рефлексия (анализ своих действий) ключевая часть успешности. об этом пост выше. Но чрезмерная рефлексия путь к депрессии и «отказу от жизни» сегодня.
Редко встречаю людей, знающих ,где верный путь, а в отсутствии верной цели 🎯 как сделать проверку соответствия ?? Любой выбор одинаково неверен.
С негативным фокусом внимания, такая проверка просто размажет наполнением дневника (лога) неудачных выборов.
А с позитивным - весело и бодро выводит тебя к … чему-то.
Итог.. ссылаясь на Михай Чиксентмихай - отработай 10к часов и делай выбор ))) хотя..
Или внешняя референция и сверка истинных целей - которые у всех есть, но совсем не у всех признаны и легализованы. Психолог- например, как внешняя референция.
ИИ тут проще - пока - нет рефлексии))
😈 Потому что это очень трудно - быть человеком.