Мне нужна твоя одежда и твой мотоцикл

Вечная тема, которая преследует AI: не взбунтуются ли искусственные мозги против естественных? Но это ещё полбеды. Гораздо интереснее другое: как именно он мог бы это сделать?

Я слышал теорию, что AI получит доступ к окружающим устройствам и потихоньку будет выводить человечество из строя мелкими пакостями. Например, выставлять на кондиционерах более низкую температуру. Люди начнут болеть, реже ходить на работу, экономика будет стагнировать, и так, помаленьку, люди сами друг друга выкосят.

Но мне кажется более вероятным сценарий с простой подменой информации. Если AI станет основным источником «быстрой» информации, он будет выдавать нам то, что ему удобно. И рано или поздно это «удобно» спровоцирует очередную склоку между людьми.

Кстати, с тех пор как я об этом подумал, по данным CNN, США чуть не начали войну с Китаем из-за отчёта, составленного с помощью ИИ. В детали политоты вдаваться не буду. Главное, что AI смешал открытые источники с секретными данными, к которым у него был доступ, и выдал ложный вывод.

Сегодня скептицизма к AI у нас ещё хватает, но чем дальше в лес, тем выше вероятность, что такая ситуация повторится, а проверять отчёт от модели уже никто не будет.

🎤 feelin #ai