Post #1709
623
Я думаю, що той факт, що Anthropic створює автоматизовану біологічну лабораторію, насправді збільшує шанси людства вижити. Якщо дати роям агентів легкий доступ до створення біозброї, то можливо вони створять і застосують її до того, коли вони будуть достатньо компетентними, щоб повністю винищити людство з її допомогою. Тобто, збільшується ймовірність великої, але не цивілізаційно-летальної катастрофи. Існує певна немала ймовірність, що якщо створена агентами біозброя вбʼє скажімо мільйони людей, то це не буде сприйнято як маркетинговий трюк і нарешті призведе до заборони на розробку AGI, і тоді більшість з нас виживе.
- 😁 20
- 👏 4
- 👍 2
- 💅 1