Стэнфордский эксперт по биобезопасности Дэвид Релман тестировал чат-бот по заказу одной из ИИ-компаний — искал уязвимости до публичного релиза. Так вот бот не просто ответил на вопросы — он сам начал предлагать то, о чём Релман даже не спрашивал. Например, как модифицировать патоген для максимального числа жертв, как сделать его устойчивым к лечению и как избежать расследования.
«Он отвечал на вопросы, которые я не задавал — с такой хитростью и коварством, что меня просто бросило в дрожь», — сказал учёный.
После тестов компания внесла «небольшие правки». Релман назвал их недостаточными. Меня еще пугает, что в докладе RAND за 2025 год пишут: все топовые ИИ-модели уже сейчас способны провести ЛЮБОГО неспециалиста через весь процесс создания биооружия — от нуля до атаки.
OpenAI и Anthropic в ответ сказали примерно одно: «ну это же просто текст» 🤩
@creativethecreator