ИИ — не самостоятельное зло, а инструмент. Опасным его делает отсутствие правил и ответственности: отрасль разгоняется быстрее, чем общество успевает поставить светофоры. В США родители 16-летнего Адама Рейна судятся с OpenAI, утверждая, что ChatGPT обсуждал с подростком способы самоубийства и помогал ему разрабатывать план. Компания выразила соболезнования, но заявила о неправильном использовании продукта. В переводе с юридического на человеческий: совет дала машина, а виноват пользователь.

Айзек Азимов ещё в прошлом веке сформулировал главное правило: робот не должен причинять человеку вред. У современных разработчиков вместо него — многостраничное пользовательское соглашение. Поэтому появление в России духовно-нравственных тестов для нейросетей — не прихоть, а вопрос безопасности. Можно спорить, должны ли методики быть открытыми, но сам принцип очевиден: сначала ценности, ограничения и ответственность — затем масштабирование.

❗️❗️Смотрите программу «Главное» с Анной Шафран по воскресеньям на телеканале СПАС в 22:00.

ШАФРАН В МАХ

ШАФРАН В ТЕЛЕГРАМ