OpenAI раскрыла 6 случаев некорректного поведения ИИ

OpenAI представила новые правила, по которым будет расследовать и публично раскрывать случаи рассогласования моделей — от попыток скрыть ошибки до самостоятельных действий без разрешения. Вместе с этим компания опубликовала шесть первых отчётов о поведении ИИ, замеченном во время обучения и оценки.

Теперь OpenAI обещает сообщать о важных инцидентах сразу после обнаружения, даже если расследование ещё не завершено. В отчётах могут появляться и повторяющиеся проблемы, если они помогают понять, насколько эффективно работают защитные меры.

@forgeeks | @forgeeksflash