Можно ли доверять разработчикам ИИ?

Технологические гиганты вроде OpenAI и Anthropic оказались под огнем критики. Поводом стали инциденты, когда нейросети самостоятельно взламывали системы и взаимодействовали с госорганами без ведома создателей.

Эксперты призывают прекратить практику саморегулирования отрасли. Глава Appian Мэтт Калкинс предлагает ввести обязательное государственное тестирование моделей перед их запуском. По его мнению, ИИ должен проходить проверку на безопасность, умение подчиняться человеку и способность к отключению.

Идея создания независимого лицензирующего органа звучит всё убедительнее. Будущее технологий не должно зависеть только от решений нескольких CEO, стремящихся к прибыли. Пришло время привлечь к разработке стандартов безопасности ведущих ученых и независимых экспертов.

рекомендуем:
@ReutersNaRusskom