😳 Главный учёный OpenAI признал, что ИИ становится непонятным даже для своих создателей

Chief Scientist компании Джакуб Пахоцки опубликовал эссе «An Alien Mind» — он пишет, что развитие моделей идёт быстрее, чем понимание того, как они думают и принимают решения

— Никто не готов к последствиям стремительного роста ИИ, ни одна лаборатория пока не решила проблему выравнивания и мониторинга настолько, чтобы безопасно продолжать масштабирование

Отдельно он отмечает риски кибербезопасности: модели становятся слишком эффективны во взломе систем

Пахоцки призывает к добровольным паузам в разработке, пока не появятся общие стандарты безопасности.

🧑‍💻 Этичный хакер