Сейчас очень многие говорят о том, что стоит
запретить использование ChatGPT и ей подобных систем. Вся эта шумиха подогревается еще и тем, что некоторые авторитетные и влиятельные люди в медиа, такие как Yoshua Bengio, Elon Musk, Steve Wozniak и еще 5 тысяч значимых персон подписали
открытое письмо. Хотят приостановить разработку подобных ИИ хотя бы на 6 месяцев, чтобы выработать протоколы и правила работы с такими системами. С одной стороны, порыв хороший, но как и всегда,
любая сложная задача имеет простое, легкое для понимания неправильное решение.Что тут интересного?
Из каждого утюга слышу, что GPT-4 умеет испытывать и понимать эмоции, что это большая проблема и тд. Но так ли это?
Смотрите, любая сетка, будь то Midjourney или ChatGPT - это большие трансформеры. Ни о каких эмоциях там речи не идет. Да, сети большие, очень большие. И поэтому они могут давать невиданные ранее результаты. Есть множество задач, где сетки лучше человека, но есть не менее большое множество задач, где сеткам до людей еще очень далеко. Надо понимать, что сети решают конкретные прикладные задачи и что сети семейства feed-forward, к которым относятся Midjourney и ChatGPT, имеют ограниченное количество этапов принятия решения и сигнал у них идет строго от входного к выходному слою. Они всегда сталкиваются с проблемой увеличения объема данных. Например, если им подавать каждый раз массив больше предыдущего для сортировки или большие арифметические выражения, то настанет момент, когда сеть не справится. Это говорит о том, что увеличение количества параметров в таких сетях позволяет ей лишь обрабатывать больше входных данных, находить чуть более сложные зависимости и чуть лучше подстраиваться под датасет. Ни о каких эмоциях речи не идет. Эти сети не умеют принимать решение о том, как долго им обдумывать свои решения. И это фундаментальное ограничение feed-forward моделей.
Конечно, есть сети, которые лишены некоторых недостатков подобных систем, но специфика их архитектуры такова, что мы пока не можем обучать большие сети подобного рода - наша техника ограничена проблемой бутылочного горлышка фон Неймана. И это делает такие модели промышленно неэффективными в существующих реалиях.
Не стоит забывать про вопрос методики оценки модели и поиска критериев признания наличия интеллекта, о которых договоренностей пока нет. Есть большие датасеты вроде
BIG-bench, на которых оценивают модели, но вот с признанием интеллекта есть интересный эффект - когда интеллектуальная задача решается компьютером, люди перестают её считать интеллектуальной. Еще Тьюринг занимался разработкой подобных методик оценки.
Конечно, есть риски, связанные с GPT-подобными моделями, вроде лжи, оскорблений и прочего, но на мой взгляд, такая шумиха отвлекает общество от действительно важных проблем в индустрии в целом.
Например, проблема цифрового тайного суда или вопросы применения в медицине. Надо понимать, что решения таких систем сопоставимы с решением суда, с той лишь разницей, что оно безапелляционно и вы не имеете права посмотреть на доказательства, отстоять свою позицию или реализовать право на состязание. Есть реальные ситуации и примеры того, как люди доверяли подобным системам и отдавали им бОльшую часть работы. И мы знаем случаи, когда подобные системы имели заложенные неэффективности, которые привели к печальным последствиям. Например,
история про почтовую службу Великобритании или
алгоритм для вычисления мощности лучевой терапии.Что с этим делать?
Кажется, что вместо того, чтобы заниматься популизмом и кричать «запретить ChatGPT» или «у нее есть эмоции» стоит сконцентрироваться на задачах легитимизации и прозрачности работы подобных алгоритмов, на создании этически корректных датасетов и протоколов применения подобных систем.
Я понимаю, почему люди не из индустрии так восторженно смотрят на это и поэтому, как мне кажется, люди из индустрии должны доступно объяснять остальным, что происходит и как это работает.
Если вы думали, что ИИ уже наступил и Скайнет близко - выдохните и расслабитесь, этого не происходит … пока
