ИИ год нормально консультировал фермера, а потом за сутки угробил ему 25 акров кунжута.

Китайский фермер около года пользовался ИИ для сельхозсоветов. Тот достаточно часто оказывался прав, чтобы человек перестал его перепроверять. Потом ИИ посоветовал гербицид против широколистных сорняков, забыв о маленькой детали: кунжут тоже широколистное растение. Наутро почти 25 акров всходов были мертвы.

Когда ИИ постоянно несет чушь, ему никто не доверяет, но когда ИИ ошибается редко, но очень метко, начинаются настоящие проблемы.

Из мануала IBM 1979 года: компьютер нельзя наказать за ошибку, поэтому компьютер никогда не следует допускать к принятию решений.