Словарь технотопии: углеродный шовинизм

Углеродный шовинизм — это мировоззрение, предполагающее, что настоящий интеллект, сознание и чувства могут возникнуть только в биологической системе на основе углерода (т.е. в мозгу человека), а не-углеродные сущности (например, кремниевый ИИ), независимо от их вычислительных мощностей и сложности поведения, не способны достичь таких ментальных состояний.

В основе углеродного шовинизма лежит вера в безусловное превосходство человеческого эволюционного оборудования и убеждение, что сознание — это не процесс, который, потенциально, можно воспроизвести на разных платформах, а уникальное эмерджентное свойство, характерное только для биомеханики мозга.

Концепцию углеродного шовинизма в 1970-х популяризовал астрофизик Карл Саган, критиковавший гипотезы о том, что жизнь в других частях Вселенной должна быть химически подобна жизни на Земле, в частности, что она должна быть основана на химических реакциях углерода. В начале XXI века термин начали использовать в этике ИИ для дебатов о статусе сильного ИИ и машинного сознания.

Углеродный шовинизм связывает моральную ценность сущности с ее биологией и освобождает людей от этических обязательств перед ИИ и роботами — инструментами, а не личностями. И если продвинутый ИИ убедительно демонстрирует поведение, выражающее страдание или боль, углеродный шовинист отвергает его как сложную симуляцию. Однако, остается вопрос: обязательно ли наличие углеродных нейронов у сущности для моральной значимости ее страданий?

Углеродный шовинизм также повышает риски в сфере ИИ-безопасности. Предполагая, что из-за не-углеродной природы ИИ не способен развить «реальную» личность со своими намерениями, люди могут пропустить зарождение не-человеческого сознания в ИИ-системах. Такое не-углеродное сознание ИИ может привести к тому, что он станет действовать непредсказуемо и вредоносно, игнорируя ценности людей.