#дед_инсайд

Привет, коллеги!

Прочитала новость, что кто-то там создал очередной ИИ, который ищет по базе статей в PubMed и выдаёт какой-то результат. Не буду говорить, кто, этот пост не рекламный, но скажу, что сделано это не для учёных, а для врачей. До этого также слушала про попытки создать ИИ, который будет собирать статьи, выдвигать новые гипотезы, дизайнить эксперименты, а человеку только и останется, что капать в пробирки.

Все эти идеи имеют свойство ломаться об одну фундаментальную проблему: кризис воспроизводимости. Те, кто никогда не бился месяцами над тем, чтобы получить хоть что-то похожее на опубликованное (а зачастую и на то, что получил сам месяц назад), часто принимает на веру то, что написано в статьях. Но ни хороший журнал, ни великое имя учёных не дают гарантии, что результат действительно истинный.

Я думаю, что в разных областях науки проблема с воспроизводимостью стоит по-разному. Мне кажется, что для математиков это не так остро, а для биомедицины с воспроизводимостью самая большая жопа. Но, может, это потому, что я сама в ней работала и повидала всякое. В комментариях можете поделиться ощущениями про свои области наук.

Конечно, я и сама пользуюсь ИИ для первичного скрининга статей. После этого я обычно открываю сами статьи и смотрю, что в них. Честно скажу: моя экспертиза очень узкая, и в ней я могу засечь признаки нечестной игры. Но дай мне статью по ботанике или биоинформатике — я поверю как лошара, потому что не могу опровергнуть. Как и многие, кто просто увидит результат статьи из PubMed, выданной им нейросетью.

Мы не можем научить всех выискивать признаки нечестной игры во всех областях наук. Более того, даже имея эти знания, мы не можем внимательно прочитать вообще все статьи, нам хочется видеть какое-то саммари, чтобы продолжать двигаться вперёд. Кстати, саммари нейросети часто тоже делают весьма плохо, но это отдельная история. Создавая подобные ИИ и тем более продавая к ним доступ, мы в итоге не даём людям правдивых знаний, но даём иллюзию, что они у них есть.

Можем ли мы обучить ИИ распознавать признаки невоспроизводимых исследований? Не знаю. Формальные показатели работают не очень хорошо, даже из высокорейтинговых журналов статьи отзывают. Смотреть, повторяется ли результат у разных исследователей? Тоже сомнительно: один сфабриковал данные, а следующие побоялись ему противоречить. Оценивать как-то репутацию учёных? Но если у кого-то нет ретракций, то, возможно, он просто ещё не попался? Да и вообще, невоспроизводимость возможна не только из-за нарушения научной этики. Мне кажется, это могла бы быть отдельная интересная работа. Даже захотелось провести какое-то теоретическое исследование на эту тему. Может, кому-то ещё интересно и есть идейки, пишите в комментариях.

Но пока такая работа не проделана и статьи максимум ранжируются по уровню авторитетности журнала, мне кажется, важно быть честным в своей коммуникации. Если вы создаёте ИИ, который выдаёт результат анализа статей из базы, так и пишите, что результат — сборная солянка, которую нейросеть могла ещё и неправильно прочитать, а не рекомендация для работы специалиста. И пожелайте всем покупателям вашей ИИшки думать своей головой.