Любопытное исследование о глубине проникновения генеративного ИИ в программирование от учёных из Complexity Science Hub (исследовательский центр при нескольких европейских университетах, занимается анализом и интерпретацией данных).
К декабрю 2024 года:
- 30% Python-функций от разработчиков из США написаны с помощью ИИ.
- В Германии — 24.3%, Франции — 23.2%, Индии — 21.6%, России — 15.4%, Китае — 11.7%.
- Молодые пользователи GitHub используют ИИ чаще, чем ветераны.
- Мужчины и женщины применяют ИИ одинаково активно.
- Использование ИИ повышает количество коммитов на 2.4% в квартал.
- Экономический эффект в США: от $9.6–14.4 млрд до $64–96 млрд в год (в зависимости от оценки продуктивности).
Как они это вычисляли?
Исследователи обучили классификатор, способный отличить, сгенерирована ли функция ИИ. Для этого
cобрали датасет «человеческих» функций: код до 2018 года (до появления генеративного ИИ), функции из HumanEval 2022 и 2024. Затем сгенерировали «ИИ-аналог»: 1. одну LLM попросили описать функцию на английском, а другой дали задачу сгенерировать новую функцию по описанию. Обучили классификатор на этих парах с точностью Average Precision = 0.969. Обработали 80 млн коммитов из открытых репозиториев GitHub и разметили классификатором 31 миллион Python-функций. Июньский препринт на arxiv.
Post #328
2.44K

- 👍 4