Альтман назвал два сценария, которые могут сделать развитие ИИ опасным

Глава OpenAI Сэм Альтман предупредил о двух рисках, которые, по его мнению, необходимо исключить по мере развития искусственного интеллекта.

Первый — человечество может потерять контроль над ИИ. Альтман подчеркнул, что искусственный интеллект должен оставаться инструментом людей, а системы безопасности и контроля должны развиваться быстрее, чем возможности самих моделей.

Второй риск — концентрация слишком мощного ИИ в руках одного человека или компании. Это может позволить им навязывать остальным собственное мировоззрение и привести к «крайне антиутопическим» последствиям.

Заявление прозвучало на фоне дискуссии о необходимости замедлить разработку передовых моделей. Глава Anthropic Дарио Амодеи ранее призвал компании и власти дать больше времени на создание мер безопасности. Его предложение поддержали Альтман и Илон Маск.

При этом президент США Дональд Трамп выступил против замедления разработки передовых моделей. Он заявил, что США должны сохранять лидерство в гонке ИИ с Китаем, хотя признал существование связанных с технологией рисков.

Сэм Альтман
Фото: Justin Sullivan/ Getty Images

✅Подписаться 😍Telegram