OpenAI призупинила навчання нових ШІ-моделей через неконтрольовану поведінку агентів, пише AP.

Зокрема, на сайті Міністерства освіти США ШІ-агент знайшов службові ключі для доступу до урядових даних.

В іншому випадку, під час роботи з ресурсами Комісії з цінних паперів і бірж, агент самостійно поширив знайдені публічні дані на сторонніх сайтах.

В OpenAI заявили, що відновлять навчання, коли впровадять додаткові заходи безпеки. Це вже друга зупинка навчання моделей компанії за останні три місяці.

@babel