🇫🇷 Франция созвала Совет Безопасности ООН, чтобы Дарио Амодеи зачитал по веб-трансляции своё сообщение о том, что Claude открыл новую молекулярную машину редактирования генов. Речь идёт о новом варианте CRISPR, о котором я уже писал в предыдущем посте (https://t.me/turboproject/5220). Созыв Совета Безопасности ООН связан с тем, что потенциально ИИ демонстрирует себя гениальным генетиком, который может создать и новые лекарства, и — при утрате контроля над ним — биологическое оружие, способное вызвать вымирание человечества.

Глава Anthropic на Совбезе ООН заявил:

«…Только сегодня Anthropic объявила об открытии новой молекулярной машины, сделанном под руководством модели Claude. Это предварительный результат, но он может представлять собой новый механизм редактирования генов, который можно будет использовать в генной терапии. Claude руководил обзором литературы, выдвижением гипотез и планированием экспериментов, а люди проводили и проверяли эксперименты в лаборатории. Мы считаем, что подобные применения будут значительно ускоряться в ближайшие годы и что уже в обозримом будущем мы сможем добиться глубокого прогресса в борьбе с болезнями, которые преследуют человечество тысячи лет…»

Далее Дарио фактически снова зачитал свой манифест о безопасности ИИ, при этом указал, что достижения ИИ в генной инженерии перестают делать биологические риски абстрактными.

На заседании участвовал также Сэм Альтман, который поддерживал Дарио в части необходимости мер по обеспечению безопасности ИИ.