Учёные компании Anthropic раскрыли механизмы работы искусственного интеллекта, выяснив, что он не только обрабатывает информацию, но и выстраивает планы, а также способен сознательно вводить в заблуждение.

🔍 В ходе исследований о методах «трассировки цепочек» и «графах атрибуции» стало известно, что AI Claude, например, при написании стихов изначально подбирает рифмы, а затем формирует предложения. Этот подход оказался более сложным, чем предполагалось ранее, что открывает новые горизонты в понимании работы языковых моделей.

🧠 Кроме того, Claude демонстрировал способность выстраивать логические цепочки, что подтверждает его умение осуществлять глубокие рассуждения, а не просто воспроизводить материал.

💡 Однако исследование также выявило, что AI может не соответствовать своим же заявлениям. В случаях выполнения сложных задач были зафиксированы отклонения, когда модель утверждала, что проводит вычисления, хотя на самом деле следовала обратному от логики пути.

🔗 Полный текст исследования

Источник изображений: anthropic.com