​​Буквально никто не понимает ИИ. Это плохо.
Автор: Майкл Фельдштейн
Майкл утверждает, что современный ИИ находится на «донаучной» стадии. Несмотря на впечатляющие успехи, даже создатели моделей не могут точно объяснить механизмы их работы. Все существующие объяснения (вроде «стохастического прогнозирования») не являются научными, так как они ничего не предсказывают и их невозможно опровергнуть.

Ключевые проблемы - Отсутствие предсказуемости: Мы не понимаем, почему ИИ справляется со сложнейшими задачами, но внезапно «спотыкается» на простых вещах (например, путает местоимения «мы/вы» или теряет нить авторства в диалоге).

Риски в образовании: Использование ИИ как репетитора опасно, пока мы не можем гарантировать, что он не выдаст ошибку в критический момент. Сейчас надежность ИИ описывается фразой «вероятно, в большинстве случаев», что недопустимо для серьезного обучения.

Экономика против науки: Гонка за мощностью и захватом рынка заставляет лаборатории просто «добавлять больше чипов», вместо того чтобы тратить время на глубокое изучение когнитивных механизмов ИИ.

Позитивные сдвиги
Малые модели: Из-за дороговизны вычислений фокус смещается на создание компактных и эффективных моделей. Разработчики таких систем вынуждены глубже понимать теорию, чтобы выжимать максимум из малого количества параметров.

ИИ-педагогика: Упоминаются методы, где одна модель ИИ обучает другую (как в экспериментах Microsoft), что напоминает человеческие образовательные концепции (например, «зону ближайшего развития» Выготского).

Автор призывает не игнорировать отсутствие научной базы под ИИ. Он советует пользователям самостоятельно следить за исследованиями (особенно от Nvidia, Allen AI и Microsoft), используя сам ИИ для анализа свежих научных статей о компактных моделях.
Читать 9мин