Кажется, у «Не смотрите наверх» появился спин-офф про искусственный интеллект.

Попался мем: исследователь предупреждает об угрозах ИИ, а его сравнивают с Ди Каприо. Тревожный сценарий обсудим потом — сначала надо разобраться с кастингом 😁

За шуткой есть реальная история. Джейкоб Коксон, работавший в OpenAI и Anthropic, объявил об уходе из Anthropic⁠. Он публично предупреждает о возможных катастрофических последствиях развития ИИ. Его опасениям посвящено, например, интервью PBS⁠.

Конечно, уход исследователя сам по себе не доказывает, что человечеству конец. Работа в известной лаборатории тоже не даёт человеку способности безошибочно предсказывать будущее. Его аргументы нужно проверять.

Но мем хорошо попадает в нашу привычку: любую сложную и неприятную тему превращать в развлечение. Обсуждать, кого напоминает человек, гораздо проще, чем разбираться, насколько обоснованно то, о чём он говорит.

Я сам использую нейросети и вижу огромный потенциал для разработки, бизнеса, образования. Именно поэтому хочется понимать, как будут проверять системы, которым мы постепенно доверяем больше задач и самостоятельных решений. Кто сможет остановить их работу, если что-то пойдёт не так? Кто будет отвечать за последствия?

Для этого необязательно верить в восстание машин. Достаточно привычного управленческого принципа: чем больше полномочий, тем серьёзнее контроль.

А сходство с «Не смотрите наверх» пока оставим на уровне мема. Очень хотелось бы, чтобы фильм сохранил статус художественного. Однако, смотря на происходящий в мире хаос и действия первых лиц некоторых могущественных государств, к пример, за океаном, понимаешь, что потенциал непредсказуемых исходов не исключен.