На прошлой неделе я разбирал статью Кларка, который предлагает описывать ИИ как "диалогического партнёра". А на дискуссии в Яндексе мы сошлись на том, что отвечать за решения, принятые ИИ, всё равно должен человек (разработчик). Сегодня эссе двух философов из Университета Монаша (Австралия), которые строят свою аргументацию на идее ответственности.
Тем, кто опасается ИИ, часто напоминают, что когда-то Платон так же боялся письма, а оно ничего не разрушило. Авторы эссе перечитывают диалог "Федр" и находят там ещё одну тревогу: записанные слова отчуждаются от автора, и рядом нет никого, кто мог бы за них ответить. Похожую мысль много позже высказал Ролан Барт в эссе "Смерть автора", только для него это не беда, а освобождение читателя. В университетской жизни эту проблему решают так: тексты всегда кем-то подписаны, а читателя учат оценивать прочитанное.
Авторы опираются на понятие bullshit, которое ввёл философ Гарри Франкфурт. В русском переводе его книги это "брехня" ("К вопросу о брехне", 2008), по смыслу близко к "чуши" или "пустословию" (в народе этот термин переводят и покрепче). Это речь, которой безразлично, правда в ней или нет. Брехун — это не лжец. Лжец знает правду и искажает её, а брехуну важна только реакция слушателя. Авторы эссе считают тексты ИИ брехнёй именно в этом смысле: системы созданы выдавать убедительный, а не точный текст, хотя результат может оказаться и верным.
ИИ — не моральный агент, его нельзя призвать к ответу. А любое утверждение о мире — это обязательство его обосновать. Получается, что люди принимают текст, полученный от машины, за сообщение о мире, за которое она не несёт никакой ответственности. Этот феномен авторы называют testimony gap, "разрыв свидетельства": машина сообщает, но поручиться за сказанное не может. Термин построен по аналогии с "разрывом ответственности" (responsibility gap), о котором Спарроу писал ещё в 2007 году применительно к боевым роботам.
Кажется, что эту проблему можно решить, если проверять факты за ИИ. Но и здесь есть сложность. Можно ли доверить такую проверку студенту? Авторы считают, что нет, и называют это педагогически извращённым: студент ещё не обладает достаточными компетенциями, чтобы оценивать такие утверждения. Слова "соавтор" и "тьютор" предполагают взаимную ответственность. Если студент должен отвечать за своего "тьютора", то это не тьютор.
По мысли авторов, ответственность перед стандартами академических дисциплин вырастает из отношений с живыми людьми, которые эти стандарты представляют. Если студент пишет "с машиной и для машины", это чувство ослабнет, и критически проверять ИИ он будет всё реже. Сами авторы называют такой прогноз правдоподобным: данных в его пользу пока немного.
🤍 Что же делать? Запрещать ИИ авторы не хотят и называют запрет "невозможным и нежелательным". Они предлагают начать с языка: перестать называть ИИ соавтором и тьютором.
GenAI — не такой агент, которого можно хотя бы потенциально привлечь к ответственности.
🤍 Мои замечания
Кларк и Фленади со Спарроу отвечают на один вопрос по-разному. Первый хочет заменить "ассистента" на "партнёра", вторые отказывают ИИ в любой роли, которая предполагает ответственность. Для меня как исследователя трансформации агентности и субъектности обе эти точки зрения интересны, потому что по сути артикулируют ключевую характеристику субъекта — способность отвечать за свои слова. А этой характеристикой агент не обладает.
🤍 Flenady G., Sparrow R. Cut the bullshit: why GenAI systems are neither collaborators nor tutors // Teaching in Higher Education. 2026. Vol. 31, no. 1. P. 163–172.
#субъектность #агентность #ответственность #этикаИИ #ИИ #образование
