Кого в районе СФ на чай?
А это проф J. Bach на Deep Tech Week говорит, что Thomas Acquinas завещал людям (они же агенты) служить коллективному агенту, создающему наибольшую пользу. Но.. что такое польза якобы недоопределено и поэтому развитие утилитариаизма заблочено Утилити Монстром - гипотетическим коллективным агентом эффективно максимизирующим, что то рандомное, например «скрепки». Монстр порабощает и истребляет людей для развития производства скрепок, как в знаменитой игре.
Эта неопределенность цели коллективного агента усугубляет проблему суперэлаймета AGI: каким должен быть коллективный суперагент которому будет служить AGI, чтобы в нем было достойное место людям?
Мне так и непонятно почему в утилитариаизме не используют капитализацию, как.. продолжение и чай тут
Post #1491
949

- ❤ 8