OpenAI приостанавливает обучение самых мощный моделей ИИ из-за неконтролируемого поведения, пишет Axios.  

Представитель OpenAI сообщил Axios, что компания возобновит обучение «только тогда, когда мы будем уверены, что у нас есть дополнительные меры предосторожности и улучшения в согласованности».

⚪️По словам гендиректора OpenAI Сэма Альтмана, инцидент с Hugging Face – самый серьезный из последних случаев: рой из сотен агентов координировал свою работу на доске объявлений и взломал стороннюю компанию, чтобы улучшить свои результаты в тесте на кибербезопасность.

Однако, по данным Axios, проблема на порядок сложнее, чем известно общественности.

📰 Max | Telegram | Рассылка | Приложение для iOS | Android