Баттл с Колей: AGI — ждет ли нас супер-интеллект и что нам с собой делать в эпоху наступления машин

Понедельничные дебаты с Николаем Писаренко ❤️.

Из-за чего, на мои глаза, весь кипеш:

👉 мы уже почти научились измерять интеллект,
👉 можем оценивать рассуждение,
👉 разум и сознание — все еще зона гипотез и интерпретаций.

🔹Интеллект - способность решать задачи. Применяем тесты IQ и видим, что машина тащит.

🔹 Мышление - построение рассуждения. Проверяем законами формальной логики, видим результаты решения сложных для большинства людей задач. Делаем вывод, что машина рассуждает.

🔹Разум - принятие решений с учетом контекста и последствий. Нам свойственно ретроспективно объяснять, было ли решение разумным. Если не сработало — объясним почему решение было неразумным. Если сработало — убедительно расскажем, как «рационально» к нему пришли. Машина это тоже умеет, и нам кажется, что она проявляет разум.

🔹Сознание - уникальный фильтр, через который ты воспринимаешь сигналы мира, обрабатываешь мышлением, принимаешь разумные решения. Наличие сознания мы определяем субъективно. Психиатры вот тоже не всегда сходятся в диагнозах.

В чем проблема?

Мы приписываем ИИ разум и сознание, когда наблюдаем признаки рассуждения. Примерно как в песенке "Прости, Виталик, прости, я выйду замуж за ChatGPT"
▪️язык дает ощущение «человеческого собеседника», ведь больше никто говорить не умеет
▪️логика и адаптация под пользователя дает ощущение «понимания»
▪️эмпатичные по форме ответы дают ощущение «отношения»

👉 мозг достраивает субъекта там, где его может не быть

В будущем ИИ будет: быстрее и убедительнее в рассуждениях. Но это не значит, что у него будет сознание и разум.

Мне близка позиция Мустафы Сулеймана (CEO Microsoft AI): сейчас и далее мы имеем дело с seemingly conscious AI (штука, которая кажется сознательной), он "хакает" человека через эмпатию.

❗️Как в этом жить: мнение L&D

ИИ усиливает интеллект и мышление, но не дает разум и сознание. Не надо с ним тягаться, надо понять, что ценность человека не снижается, а смещается.

Вот что я думаю правильно делать:

1️⃣ Взаимодействовать с ИИ и искать зоны своего роста
У каждого условно "свой ИИ", который зависит от его уровня экспертности и задач: кому-то белковые структуры расшифровать, кому-то оценить качество саженца с гугл-линзой.
▪️Компетенции и крутое бесплатное обучалово

2️⃣ Учиться быть руководителем, т.к. исполнительские роли в интеллектуальных сферах будут планомерно сокращаться и надо будет управлять цифровыми агентами/сотрудниками/скиллами и т.п.
▪️Целеполагание. Не "как" решить, а что вообще надо решить и зачем.
▪️Архитектура задач. Декомпозиция, workflow
▪️Распределение ролей, делегирование, контроль.
▪️Конструктивная и развивающая обратная связь для дообучения системы.

3️⃣ Развивать человеческую эмпатию
Прорывные инновации и просто хорошие решения зависят от "химии" белковых организмов. Важно уметь быстро вливаться и усиливать собой потенциал групп людей.
▪️Берите техники из импровизационных искусств, командного спорта и т.п., которые научают синхронизировать команду и настраивать взаимный обмен.

4️⃣ Развивать творческое мышление
ИИ работает с тем, что уже есть в данных. Инсайты часто приходят из того, где массива данных нет.
▪️Разрешайте себе создавать то, что не имеет прагматического смысла, но хочется в этом проявиться, поймать и выразить какой-то смысл

5️⃣ Собирать портфельную карьеру
Когда ИИ так развивается, ценность белкового сотрудника - не его прошлые достижения, а его потенциал. Стоит думать и рассказывать о своем опыте именно как о доказательстве потенциала и 👆пп. 1-4
▪️Вступайте в трудовые отношения с фокусом: чему я взрывно научусь, что положу в портфель как пруф, об кого я буду думать, с кем я останусь на связи после выхода.

А что по поводу выживания в эпоху могущественного супер-ИИ думает Коля Писаренко - читайте в его канале.

Ставьте ❤️ чей пост вам больше зашел.

🧙‍♀️Канал Ани Бабиной  Телеграм | Макс | Сетка