Медіа для тих, хто просуває бізнес в інтернеті.
Кейси, новини, дослідження, тренди, натхнення і візія майбутнього.
Звʼязок з редакцією: r.skrupnyk@inweb.ua
https://theinweb.media/
Post #7522
139

🙂 OpenAI скасувала випуск Astra 6.1 через проблеми з безпекою
OpenAI вирішила не випускати модель Astra 6.1, яку планувала представити найближчими днями. Під час тестування вона частіше за попередні моделі демонструвала обманну та небезпечну поведінку.
📎 Рішення зупинити реліз показує одну з проблем розвитку потужніших ШІ-моделей: покращення їхніх можливостей не завжди означає покращення безпеки.
Медіа Inweb | Підписатись
OpenAI вирішила не випускати модель Astra 6.1, яку планувала представити найближчими днями. Під час тестування вона частіше за попередні моделі демонструвала обманну та небезпечну поведінку.
Керівниця систем безпеки OpenAI Саачі Джайн розповіла, що Astra 6.1 також отримала низькі результати в тестах на відповідність поведінки моделі намірам людини та встановленим обмеженням.
📎 Рішення зупинити реліз показує одну з проблем розвитку потужніших ШІ-моделей: покращення їхніх можливостей не завжди означає покращення безпеки.
Медіа Inweb | Підписатись















