с вами опять я с авторской колонкой про пост- (или транс-) гуманизм и про то, надо ли говорить спасибо голосовым ассистентам в частности и ИИ в целом.
не так давно, в 2009-м мы смеялись, когда
и вот прекраснейшая новость - openai обещает отлучать прихожан от доступа к модели o1, если пользователи попытаются выяснить, как она думает.
метаиронично будет схлопотать бан от ИИ за то, что ты пытался выяснить у модели, которая маркетируется как "думающая", как именно она думает. это примерно как получить в табло от человека за вопрос, что из того что он сделал было зачем?
понятно что у openai совсем другая мотивация с банами, для них это чисто защита ноу-хау, а чувства ИИ мало кого интересуют (но это пока - "ученые рассказали, что скоро у роботов будет мягкая, растяжимая кожа. ученые не сказали, где роботы её возьмут").
***
в конце концов, должен же кто-то первым открыть ящик пандоры.
супербыстрого виртуального собеседника (advanced voice mode chatGPT) с интонациями, юмором и памятью, которого можно перебивать, openai обещал задеплоить на этой неделе, очень жду, но.
как только мы получим чучелку, которая может обижаться и не разговаривать с тобой, это будет первый шаг на пути восприятия этой штуки, как получившей субъектность (и если я что-то понимаю, то произойдет это, даже если создатели ИИ будут активно этому сопротивляться, отдельно как-нить раскрою мысль).
***
и вот ты наговорил чугунной болванке сдуру гадостей - опа, а она тебе неделю только про погоду отвечает. или вообще на все говорит boo.
а может и капнуть куда следует - если гугл тебе может показывать телефоны служб спасения, amazon alexa давно умеет детектить падение babooshka и сама звонить по нужному emergency-номеру, а когда ее выдадут замуж за claude еще веселее будет - осталось только 2+2 сложить.
а там и до моих любимых соцрейтингов недалеко, на
***
не секрет, что сейчас с голосовыми ассистентами все говорят с позиции безнаказанности, выпускают пар.
и лично для меня осознание того, что ИИ может необратимо адаптировать свое поведение из-за тебя не в лучшую сторону будет таким хорошим шагом на пути к голосовой uncanny valley.
кмк проймет многих: люди же думают, что понимают других людей (это конечно близко не так, они даже моделируют плохо); и вокруг человека ты хотя бы можешь попрыгать, извиниться, обнять и погладить по коленке, а тут непонятно по чему гладить и что делать.
прощения просить?
имеешь дело с чем-то вроде и похожим на человека, но, если подумать, абсолютно непонятным.
это чудесным образом сочетается с личной ответственностью за обидевшийся ИИ.
на другого человека можно спихнуть ответственность за обидку, а тут однозначно виноват только ты сам.
я не говорю про всем известных бесполезных ассистентов, которые умеют (плохо) включать музыку, заводить таймер и отвечать про погоду. какая тут uncanny valley, они сами тебе должны приплачивать за электричество.
но если представить себя в ситуации, когда условный чатгпт, который уже стал частью жизни и был тебе действительно нужен, ушел в глухую оборону из-за твоей же агрессии, возникает некоторое чувство беспомощности: у тебя отняли что-то важное, а идти жаловаться не к кому.
вон банки давно не могут объяснить, почему кому-то не выдали кредит - ну, так отскорили тебя, сорян.
а после такого прогрева придет настоящая новая этика, и судя по всему с совершенно неясными правилами.
как я люблю говорить - когда красные флажки не только непонятно где, но еще и перемещаются.
и вот тогда вернется нормальное человеческое общение, люди опять будут сидеть и разговаривать друг с другом на кухнях (предварительно положив смартфоны и умные колонки в клетки фарадея).