ИИ уничтожит человечество — в Anthropic считают, что шансы на полную аннигиляцию в ближайшие 10 лет уже выше 10%.
Прямо так и заявил глава по ИИ-безопасности компании: Anthropic не знает, как гарантировать безопасность и научить AGI человеческим ценностям.
Да, мы реально верим, что ИИ может убить всё человечество. Лично я ставлю больше 10% на ближайшие десять лет. Плана, как научить сверхразум человеческим ценностям, у нас нет. И признаков, что мы к движемся к такому плану — тоже.
Ни дня без конца света
Post #1006
80
