#anthropic #claude #оружие #ai #ии #
Anthropic предотвратила несколько попыток учёных использовать её передовые модели искусственного интеллекта для проведения исследований, которые могли привести к созданию биологического оружия. Об этом сообщила New York Times со ссылкой на отчёт американской компании.
При этом Anthropic признаётся, что не может определить, служили ли эти исследования законным или злонамеренным целям. В некоторых случаях добросовестные биологические исследования могут способствовать созданию опасных патогенов, а не только вакцин.
Ввиду этой неопределённости Antropic предпочла действовать на упреждение, поскольку последствия упущенной злонамеренной деятельности могут быть серьёзными.
«Вы не видите, как кто‑то в стиле комиксов говорит: „Эй, я хочу создать биологическое оружие, чтобы всех убить“. Это невероятно сложная ситуация»,
— рассказал в интервью руководитель отдела анализа киберугроз Anthropic Джейкоб Кляйн.
Потенциальная способность передовых языковых моделей развивать известные и совершенно новые биологические патогены стала одной из самых серьёзных проблем, связанных с ИИ. Технология развивается настолько стремительно, что даже ведущие разработчики ИИ сомневаются в возможности контролировать его полностью.
Старший научный сотрудник некоммерческого института Council on Strategic Risks Эндрю Вебер назвал выводы отчёта
«ужасающими примерами того, как спонсируемые государством разработчики биологического оружия используют быстро развивающиеся возможности» ведущих ИИ‑моделей.
В отчёте Anthropic описывает ряд случаев неправомерного использования её ИИ‑моделей за последние восемь месяцев. Некоторые примеры были похожи на предыдущие разоблачения от Anthropic и других лабораторий ИИ, включая предполагаемые случаи слежки со стороны субъектов, связанных с Ираном и Китаем. Разработчик Claude также пишет о случаях использования чат‑бота российскими государственными СМИ для создания контента.
Новым задокументированным видом злоупотреблений стала разработка через Claude программного обеспечения для проектирования и создания обычного вооружения. Речь идёт об огнестрельном и ракетном оружии, боевых беспилотниках и бомбах.
Life-Hack - AI