​​Этическое

5 января 2017 года 1000 лучших умов планет собрались в Калифорнии, в конференц-залах парка-пляжа Асиломар (исп. asilo - убежище и mar - море), где нет ни телефонов, ни телевизоров, ни интернета. Собрались они на закрытую конференцию, на которой обсуждалось будущее искусственного интеллекта. Это было не первое собрание такого рода, в 1975 году конференция собиралась по поводу рекомбинантной ДНК, в 1994 году - по поводу прогнозирования структуры белка. В 2017 году результатом обсуждения стал перечень постулатов, которые должны были бы заменить "Три закона робототехники Айзека Азимова" и подготовить человечество к эпохе ИИ.

Для понимания приведу некоторые из "законов Асиломара":

Закон №2. Финансирование исследований ИИ должно сопровождаться равнозначным финансированием исследований изучающих вопросы ИИ и экономики, ИИ и права, ИИ и этики.
Закон №3. Должен быть конструктивный диалог между исследователями ИИ и политическими руководителями
Закон №9. Ответственность за злоупотребления, связанные с ИИ лежит на плечах его разработчиков и создателей
Закон №10. Цели и поведение ИИ систем с высокой степенью автономности должны согласовываться с общечеловеческими ценностями.
Закон №12. Люди имеют право на доступ к персональным данным, их обработку и контроль, если ИИ анализирует и использует эти данные.
Закон №16. Люди определяют целесообразность передачи системе ИИ функции принятия решений при выполнении целей, поставленных человеком.
Закон №19. Невозможно делать прогнозы относительно верхнего порога возможностей ИИ
Закон № 20. Продвинутый ИИ может привести к коренным изменениям для жизни на Земле, поэтому разработка и управление такими системами должны осуществляться в условиях особой тщательности.
Закон №22. Системы ИИ, способные повышать эффективность собственных алгоритмов должны жестко контролироваться.

Но вот прошло 6 лет, про искусственный интеллект говорят даже бабушки на лавках около подъездов. Но лично я ни разу не слышал, чтобы кто-то вспомнил про Асиломар-2017 (касается это не только ИИ-визионеров, но и простых ML/AI работяг-кодеров). Да и найти эти "23 закона ИИ" достаточно сложно несведущему человеку, например в Википедии имеется только беларуская страница (тыц!) и немного общей информации в английской версии (тыц!)

Наверное опять он, дамоклов меч короткой коллективной памяти? (ссылка)