Эдиториал Science о том, что способность понимания ИИ людьми стремительно убывает и, если не пересмотреть политику развития моделей/агентов, шанс на понимание будет утрачен навсегда. Вместо того, чтобы гнаться за бенчмарками, нужно прокачивать интерпретируемость:
“Цель состоит не просто в повышении возможностей ИИ, а в том, чтобы ИИ был более понятным, подотчетным и соответствовал целям человека. Окно возможностей для достижения этого будущего сужается. Без постоянных усилий по поддержанию понятности ИИ мы можем стать зависимыми от систем, которые мы не можем ни адекватно понять, ни эффективно управлять ими, — что трансформирует отношения между людьми и системами, которые они создают”.
Лонгрид Anthropic о рекурсивном самосовершенствовании. ИИ программирует все лучше, они видят это в собственных разработках, скоро он будет писать 100% кода компании и создавать все более мощные версии себя. Отсюда призыв думать, как это контролировать.
Следом уже сам Д.Амодеи выдал очередное эссе с рекомендациями по изменению политики в отношении ИИ, от обязательной проверки безопасности моделей и защиты рынка труда до регуляторики в биомедицине и геополитических союзов. Это попытка осмыслить экспоненциальный рост ИИ и предложить план действий.
“Модели, вычислительная мощность которых превышает определенный порог, должны пройти обязательное тестирование квалифицированной третьей стороной на предмет уровня риска в четырех конкретных областях: кибербезопасность, биологическое оружие, потеря контроля над системами ИИ и автоматизированные исследования и разработки, которые могут ускорить возникновение этих других рисков”.
Самое неожиданное, MAGNIFICA HUMANITAS, энциклика Папы Римского Лва XIV, объемный текст о том, как оберегать человеческую личность в эпоху искусственного интеллекта (версия на русском). Тут и манифест, и призыв и даже план действий. Тоже предчувствие «смены эпохи».
Ученые не отстают. Математики приняли Декларацию, где заявляют об ИИ как угрозе для математики и ее ценностей. По их мнению ИИ подрывает долгосрочное будущее дисциплины. В ответ они дают практические рекомендации. — Их коллеги, напротив, воодушевлены.
Science пишет про уныние в рядах астрофизиков:
“Многие ученые, опрошенные журналом, опасаются, что, если инструменты ИИ будут внедрены во все сферы научного процесса, это может привести ни к чему иному, как к гибели астрофизики как человеческого занятия”.
Кратко о развитии “платформенной науки” на базе ИИ, как это фрагментирует практику международного сотрудничества:
“Решения, принятые в ближайшие 5 лет о том, кто сможет получить доступ к научной инфраструктуре с использованием ИИ и на каких условиях, определят географию глобальных открытий на целое поколение”.
✍️ Это далеко не все по данной теме даже из того, что появилось почти одновременно.