📉 Люди могут перестать понимать логику ИИ

Около 50 ведущих специалистов в области ИИ, включая сотрудников OpenAI и Google DeepMind, предупредили о возможности утраты человеком способности следить за рассуждениями больших языковых моделей. В новом исследовании они подчеркивают, что современные ИИ, использующие архитектуру трансформеров, могут отказаться от понятного человеку текстового формата рассуждений.

Когда модели становятся более сложными, они могут скрывать свои "мысли" в математических пространствах, что делает их недоступными для понимания. Это поднимает вопросы о прозрачности и безопасности ИИ.

Ученые призывают к разработке стандартных методов оценки возможностей мониторинга ИИ, подчеркивая, что это важнее производительности моделей.

🔗 Исследование

Источник изображения: Igor Omilaev / unsplash.com

@Unlim_AI