Глава OpenAI заявил о возможной потере контроля человечества над ИИ

Генеральный директор OpenAI Сэм Альтман 23 сентября заявил о рисках, связанных с быстрым развитием искусственного интеллекта (ИИ).

«Опасения становятся особенно актуальными по мере приближения к созданию систем, способных совершенствовать самих себя и свои будущие версии — процесс, известный как рекурсивное самосовершенствование. Автоматизация разработки ИИ может привести к стремительному ускорению темпов прогресса в этой области. В такой ситуации требуется предельная осторожность», — сказал он на заседании Совета Безопасности Организации Объединенных наций по ИИ.

По словам Альтмана, есть вероятность, что ситуация будет развиваться настолько стремительно, что люди не смогут вовремя понять происходящее и при необходимости повлиять на ход событий. Подобный сценарий может иметь крайне негативные последствия.

Согласно информации Института Алана Тьюринга в Великобритании, в ближайшие пять лет могут появиться системы ИИ, превосходящие человека по всем когнитивным задачам, что создаст риск потери значимого человеческого контроля над ними.

Отмечалось, что в ближайшие пять лет могут появиться более мощные и автономные системы ИИ, поведение которых людям будет сложнее оценивать, контролировать и при необходимости отменять.

iz.ru