Так, друзья, нужно с вами кое-чем поделиться. У меня когнитивный диссонанс. 😃

Сижу я на днях, читаю новости. В Непале чат-бот выбирает лидера молодёжного движения. В Албании ИИ-министр борется с коррупцией. С одной стороны — фантастика! Я же техно-гик, я должен хлопать в ладоши. С другой — мой внутренний скептик (и опытный переговорщик) сразу спрашивает: «А кто, простите, дергает за ниточки?»

Представьте. Вы приходите к ИИ и говорите: «Друг, найди нам идеального кандидата». А он вам: «Окей, но скажите, что для вас важнее — его диплом Гарварда или то, что он 10 лет работал на земле? Дайте цифры. В процентах».

И вот тут-то и начинается магия. Вернее, не магия, а чистая математика. Ведь эти проценты — «веса» в алгоритме — кто-то же выставляет? Люди. Со своими интересами, заблуждениями и «добрыми советами».

И самое изящное, что после этого можно будет сказать: «Это не я решил! Это нейросеть такая объективная!» ИИ не берёт взятки, но его можно «подкупить» правильным вопросом и нужными настройками. Он — гениальный оправдатель для любого решения.

Это не бред и не теория заговора. Это алгебра, Карл.

Вот я и думаю вслух. Мы внедряем ИИ, учим ему, а эта история — идеальный повод задуматься о том, что самый главный алгоритм — это наша собственная голова и её моральные настройки.

А вы как думаете? Я один такой параноик, который видит в блестящей технологии ещё и отличный инструмент для манипуляций? 🤔

👍 @chupritski 👍