Желание предрасположено интерфейсами, но разве это плохо?

Из относительно недавних новостей заинтересовало т.н. открытое письмо за остановку исследований в сфере ИИ, подписанное, наряду с медиамагнатами, бывшими и настоящими (лево?)консервативными философами.

Так, в письме указывается, что «...системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезную опасность для общества и человечества, как показывают обширные исследования и признают ведущие лаборатории ИИ. Как говорится в широко одобренных Асиломарских принципах ИИ, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его подлежит планировать, а так же управлять им необходимо с соответствующим вниманием и ресурсами. К сожалению, такого планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ втянулись в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать».

В твиттере уже отметили то, что авторы заявления сами совершили ошибку в интерпретации данных, сославшись на научное исследование, которое полностью противоположно выводам в в заявлении. Так «обширные исследования» показывают, что самый главная угроза не в том, что большие языковые модели представляют экзистенциальную опасность, а в том, что опасность представляют приравнивания LLM к человеческому интеллекту при их разработке.

С открытием модели GPT-4 от OpenAI, алармистские заявления от бывший айти компаний становятся все более частыми. И хотя нельзя отрицать того, что за разработкой сложной и разумной технологии необходим общественный контроль и открытый программный код, очень много страхов перед ней исходит от фундаментального непонимания природы разума, или, если цитировать Резу Негарестани, того, что всякий разум является искусственным, для разработки и выяснения критериев Обобщенного искусственного интеллекта необходима как автономия разума (sapience), функционально отличающегося от чувственности (sentience) способностью участвовать в дискурсивных практиках, обмениваться причинностями, так и пересмотр автоматизации разума в ключе абдуктивного синтеза и дедуктивного анализа, конструирования и управления её разноуровневыми переменными.

Негарестани, как и Симондон, ставит фигуру инженера, творчески кооперирующегося с техникой в свою инженерную эпистемологию — форму познания, которая включает в себя нацеленное управление причинно-следственной тканью и организацию функциональных иерархий, которая является антагонистом либерального мышления о разуме и индивидуальных свобод в пользу автономной концепции разума, обновлению обязательств в соответствии с прогрессивной самоактуализацией разума. Свобода сознания, это свобода его постоянной (само)рефлексии, поломок феноменологической машины.

Впрочем, принцип открытого и свободного кода уже нарушен компанией OpenAI: «Мы ошибались. Мы правда ошибались. Если вы, как и мы, считаете, что ИИ на каком-то этапе станет крайне могучим, то попросту неразумно раскрывать его подробности. Это плохая идея. Я полностью уверен, что через пару лет всем станет очевидно, что открывать источники ИИ — глупая затея».

После публикации компанией множества результатов тестов GPT-4 в частности и некоторых демонстрационных материалов, эксперты подвергли критике решение OpenAI из-за того, что им не предоставили сведения об использованных при обучении системы данных, о затратах на энергию, об оборудовании, а также задействованных при ее создании методах. Специалисты считают, что такое решение подрывает дух исследовательской компании, а её работу не смогут проводить другие организации. Такой подход также препятствует разработке методов защиты и угроз, которые может представлять искусственный интеллект.

Сооснователь и ведущий учёный OpenAI Илья Суцкевер рассказал, что причина такого решения — большая конкуренция и необходимость соблюдения безопасности. Рынок в очередной раз показывает, что он не ускоряет, а наоборот, тормозит развитие эмансипаторной техники.