🤖Создатели ChatGPT всерьёз опасаются ИИ, который будет намного умнее людей.

OpenAI формирует новую команду исследователей, которые будет иметь доступ к 20% вычислительной мощности всей корпорации OpenAI и будет стремиться решать основные технические задачи контроля над сверхразумными ИИ.

Ключевой вопрос: «Как мы можем гарантировать, что ИИ, намного более умный, чем люди, будет следовать человеческим намерениям?». Текущие нейросети во время обучения опираются на человеческие знания. Но как только они их преодолеют, контролировать ИИ будет невозможно.

OpenAI прямо говорит, что не знает, что делать, если ИИ взбунтуется. Более того, компания не уверена, что новая команда сможет найти решение. На кону стоит потенциальное «лишение человечества прав и возможностей или даже вымирание». Цель сейчас: за 4 года придумать техническое решение, которое сохранит людей у руля, если что-то пойдет не так.