Вчера DeepMind (Google) выкатили 145 страниц тревожной философии на тему безопасности искусственного интеллекта

Да, снова AGI — тот самый “умнее человека” интеллект, который всё никак не появится, но все уже боятся

Google пишет: если мы всё сделаем как обычно — то будет как обычно плохо. Поэтому пора перестать быть дебилами и подумать о будущем.

Выделяют 4 типа рисков:
1. Люди сами используют ИИ во вред
2. ИИ делает не то, что хотели
3. Просто ошибка
4. Структурный хаос (куча разных ИИ-систем взаимодействуют между собой, никто ничего не понимает, но уже жопа)

Если бы писали короче, то звучало бы так:
“Ребята, мы сами не уверены, что делаем — но давайте делать это аккуратно”

ух, люблю такое 😆

@aimastersme