Когда суперинтеллект заменит даже учёных (не говоря уже о бариста и программистах), все равно останется две вещи, которые он не может сделать без помощи человека:

Иметь предпочтения

То есть, выбирать между вариантами развития событий: и в мастштабе планеты (что должна оптимизировать экономическая система: равновесие и доход каждого или возможность идти на риск и выигрывать много?), и в масштабе человека (какое настроение ты хочешь сегодня и какую еду хочешь съесть).
В обоих случаях наша роль сводится к тому, чтоб ставить “лайки” и обучать ИИ. Он сам с этим не справится, потому что он не может решить за нас, чего мы хотим (как будто бы мы сами можем).

“Переводить" на язык людей свои исследования и находки

Будет должность человека, который обучает ИИ максимально понятно для людей формулировать новости, научные статьи, математику. Точнее, ИИ сам обучается, но для этого все равно нужен человек как датасет. И не любой человек подойдёт.

Очевидно, что мы захотим знать, как работает “новая экономика”, придуманная ИИ, как он пришел к идее нового лекарства от рака и как оно работает. Ответ “просто статистика” нас не устроит. Объясняй, железяка.

(Конечно, это все при условии, что ИИ дружественный и ему есть дело до наших желаний)