Смена подхода может дать свои плоды

ИИ больше не алгоритм — учёные изучают его как живой мозг

Современные ИИ работают в больницах, судах и школах, но даже их создатели не понимают до конца, что происходит внутри при принятии решений. Поэтому исследователи меняют тактику — изучают модели как биологические системы .

Три новых подхода:

1. МРТ для ИИ. Anthropic разработала инструменты механистической интерпретируемости — они показывают, какие внутренние структуры модели активируются при задаче, как томография показывает активность мозга.

2. «Органоиды» ИИ. Используют упрощённые нейросети (sparse autoencoder) для анализа — как в медицине органоиды помогают понять, как работают органы.

3. Внутренний монолог. Модели просят объяснять, почему они пришли к выводу. OpenAI подтверждает: метод помог выявлять случаи, когда ИИ нарушает собственные правила безопасности.

Почему ученые так спешат: есть риск, что будущие модели станут настолько сложными (особенно если их будут проектировать другие ИИ), что инженеры полностью потеряют контроль над принципом работы. А люди уже вредят себе из-за советов ИИ.

Подробности на сайте.

@your_tech