OpenAI признает, что их новая серия ИИ-моделей несет повышенный риск создания биооружия

OpenAI представила модели o1 с улучшенными возможностями логического мышления и решения сложных задач📈

Новые модели получили "средний" уровень риска в отношении химического, биологического, радиологического и ядерного оружия😳

Это самый высокий уровень риска, когда-либо присваиваемый моделям компании🏢

Присвоение "среднего" уровня риска подтверждает острую необходимость в принятии законодательных мер📄

Пример такого законопроекта - SB 1047 в Калифорнии, обязывающий разработчиков ИИ минимизировать риски для создания биологического оружия🇺🇸

Бенджио предупреждает о росте рисков по мере приближения ИИ к уровню человеческого интеллекта📉

Развитие способностей ИИ к логическому мышлению и обману может быть опасным🥸

OpenAI крайне осторожно подходит к выпуску модели o1 из-за её исключительных возможностей и прошла тщательное тестирование📊