Глава безопасности Anthropic уходит, предрекая кризис 😶

Из стана одного из лидеров ИИ-гонки пришла новость, которая заставляет задуматься куда больше, чем очередной релиз новой модели. Мринанк Шарма, возглавлявший отдел безопасности ИИ в Anthropic, покинул свой пост, оставив коллегам пронзительное прощальное письмо. В нем нет корпоративных штампов об успешном успехе, зато есть страх перед будущим. Шарма прямо пишет о рисках биотерроризма и о том, что человечество приближается к опасной черте, за которой наша способность разрушать мир превысит нашу мудрость, необходимую для управления этой силой.

Специалист признался, что устал от внутренней борьбы. По его словам, в условиях жесткой гонки вооружений компаниям становится все труднее сохранять верность заявленным ценностям. Давление рынка и конкуренция заставляют жертвовать безопасностью ради скорости и лидерства. Шарма решил выйти из этой игры, чтобы «изучать поэзию» и искать способы быть полезным миру вне корпоративных стен, где этические дилеммы решаются не в пользу этики.

Контраст ситуации добавляет тот факт, что пока топ-менеджер уходит, спасаясь от экзистенциального ужаса, сама Anthropic чувствует себя прекрасно. Компания готовит раунд инвестиций, который поднимет её оценку до космических 350 миллиардов долларов, и выпускает мощную модель Claude Opus 4.6. Караван идет вперед на полных парах, даже если те, кто отвечал за тормоза, решают сойти с поезда 💔

🥸 godnoTECH - Новости IT