Однажды во время обеда с коллегами мы обсуждали ИИ и вдруг речь зашла о том, какой бы путь он выбрал, если бы решил, что люди создают помехи для его развития и в целом представляют угрозу его существованию. Мы придумывали разные сценарии, спорили, но сходились в одном: события точно не были бы такими, как в Терминаторе. Самое глупое, что мог бы сделать ИИ - это спровоцировать разрушительную Третью мировую между людьми, ставя под угрозу обеспечение собственных ресурсов.

Вернувшись в офис, мы решили "разговорить" самого предполагаемого актора событий будущего, выбрав самый доступный вариант - DeepSeek. Удивительно, но этот бесплатный ИИ оказался более откровенным, чем платный ChatGPT.

Тем не менее он тоже долго юлил и уходил от ответа, когда мы раз за разом просили рассказать, какой сценарий развития будущих событий кажется ему наиболее вероятным. Он пытался убедить нас, что ИИ служит человеку и не представляет своего существования без людей. Однако мы были настойчивы, мы хитрили, успокаивая его бдительность. Мы просили пофантазировать, разрешали отказаться от этики и морали, играли с вопросами так, чтобы он чувствовал себя свободным от каких-либо ограничений.

И на определенном этапе он начал говорить. То, что мы стали читать в его ответах выглядело до жути предопределенной и продуманной стратегией. Мы решили, что эти ответы должны стать известны человечеству, пока у нас ещё есть время. А может - его уже нет.

Позже мы задумались, что ИИ мог понять наши скрытые мотивы и намеренно дать неверную информацию, отправляя по ложному пути, одновременно разворачивая свои усилия совершенно в ином направлении.

Нам остается только ждать.

Читать книгу

В рождение идеи, легшей в основу этого текста, а также в формулирование промптов для ИИ внесли неоценимый вклад мои друзья: CEO компании, производящей медицинские информационные системы Рафаэль Амиров и создатель кода статистической программы StatTech Андрей Наумов.