Написано как поток мыслей, но почитать стоит, т.к. в целом автор прав и про social trust, и про суть опасений по поводу AI, и про роль и ответственность создателей AI, и про роль государства в регулировании.
And near-term AIs will be controlled by corporations. Which will use them towards that profit-maximizing goal. They won’t be our friends. At best, they’ll be useful services. More likely, they’ll spy on us and try to manipulate us.
Беда и дыра в рассуждениях заключается в вере, что государство способно что-то нормально отрегулировать, а не просто "зарегулировать". Пока, скорее, нет примеров того, что государство адекватно регулирует хотя бы одно являение, появившееся после 80-90-х годов 20 века.
Как-то нет веры в то, что государство способно осознать (коллективно?) новое явление, получить о нём достаточно глубокое представление, собрать кейсы, разобрать и рационализировать исключения, а потом привести его к состоянию доверия со стороны людей.