До рассылки и постов в канале на этой неделе никак не доходят руки — все внимание поглощает подготовка к встрече про этическое использование нейросетей, которая должна состояться в четверг.

Очень часто обсуждаются два типа проблем, которые связаны с последствиями использования AI.

Первый тип проблем — угрозы, связанные с предполагаемым всемогуществом технологий.

Вот сообщают, что кто-то пытался использовать AI для разработки биологического оружия. Anthropic выпускает отчет о том, как Claude применяют для самых разных подозрительных активностей. Специальная команда Threat Intelligence внутри компании обнаруживает такие попытки и их пресекает: «В каждом случае мы пресекали противоправную деятельность, использовали полученную информацию для усиления мер защиты и, где это было необходимо, представили данные правоохранительным органам и партнерам по индустрии». (Так что будьте осторожнее, когда обсуждаете с AI рецепт приворотного зелья, например, или сценарий фильма с ограблением банка).

Второй тип проблем — как бы инверсия, разговор о том, насколько технологии неполноценны и несовершенны. Здесь в основном разные курьезы, хотя иногда дорогостоящие. Например, совершенной эпидемией стали случаи ошибок при использовании AI в судах, когда юристы готовят иски с помощью нейросетей, а те выдумывают им прецеденты: «Как было в случае Джон Смит против Сэма Джонса». Когда их ловят на этом, то последствия бывают разными, включая не только крупные штрафы, но и неприятности для людей, интересы которых эти адвокаты взялись защищать. (Учет таких историй ведет на своем сайте исследователь Дэмиен Шарлотин — ну, вот такая фамилия).

Итак, с этической точки зрения нас беспокоит как вероятность всемогущества AI, так и его несовершенство. Это вечный сюжет о помощниках человека: джинны из бутылки, Голем, чудище Франкенштейна и вплоть до «Терминатора» — силы, которые выходят из-под контроля. В приложении к архитектуре есть такие же разговоры, в диапазоне от «AI сделает все города одинаковыми» до «если AI спроектирует мост, тот обязательно рухнет» (не обязательно, см. статью в журнале STRUCTURE).

#технологии #практика