ИИ — «потенциально катастрофическая» угроза 🤬

Недавний пост от OpenAI на их официальном сайте немного взбудоражил людей. Компания не просто делится новыми достижениями, но и бьет тревогу: супер-ИИ может стать настоящей угрозой для человечества. Это не просто пустые слова, а серьезные предупреждения о рисках, которые мы, возможно, будем сталкиваться уже в ближайшие годы.

Авторы поста акцентируют внимание на том, что ИИ развивается с такими темпами, что скоро может «переплюнуть» человека по умственным способностям. Уже сейчас некоторые модели ИИ демонстрируют уровень интеллекта, сопоставимый с человеческим, и, что важно, стоимость единицы интеллекта в год падает аж в 40 раз. Это значит, что стоимость создания мощного ИИ будет снижаться, а его возможности расти с каждым годом.

Так что, если мы будем продолжать двигаться в том же темпе, в ближайшем будущем вполне возможно столкнуться с ИИ, который не только будет понимать, но и предсказывать, и возможно даже, развивать свои собственные алгоритмы обучения.

В ответ на эти риски OpenAI предлагает несколько важных шагов для улучшения безопасности:

• Универсальные стандарты безопасности для всех ведущих лабораторий ИИ, чтобы не было «лазеек».
• Надзор за ИИ по уровням: от базовых моделей до более сложных. Чем мощнее ИИ, тем больше контроля нужно.
• Экосистема устойчивости, подобная кибербезопасности: создание протоколов, команд реагирования, мониторинга, чтобы быть готовыми к любым непредвиденным ситуациям.
• Регулярные измерения влияния ИИ на экономику и занятость. Ведь ИИ может повлиять не только на рабочие места, но и на весь рынок.
• Сделать доступ к продвинутому ИИ базовой утилитой, но только в рамках, которые общество примет как безопасные.

Особое внимание — публичной подотчетности разработчиков ИИ. Это, по мнению OpenAI, поможет избежать хаоса и ускоренной разработки без должного контроля. В США, например, призывают к тому, чтобы регуляция не была «лоскутным одеялом», а действовала на уровне всего государства.

В одной стороны, нам нужно прогрессировать, и без ИИ уже не обойтись. С другой — если с ним не справиться вовремя, он может стать угрозой. Возможно, стоит уделить больше внимания именно безопасности, чтобы использовать ИИ в мирных целях, а не позволить ему стать разрушительным инструментом.

Data Science