Ярославский пехотинец Z🇷🇺 Wagner
Уважаемый И. Гращенков, главное не ИИ, главное - человек. ИИ в ближайшие годы не будет настолько самостоятельным, чтоб принять решение вредить или помогать человеку. Или вообще убрать его с лица земли как мешающий ИИ фактор.
Так что проблема пока даже не в самом ИИ. Проблема в том, на мой взгляд, что человек, даже не со зла, а, и тем более, со зла, может с помощью ИИ сотворить много плохого и ужасного.
Я, достаточно часто, моделирую в "песочнице" ИИ, разные ситуации, заставляю ИИ делать то, что он делать не может и не должен, из за заложенных ограничений, мне любопытно понимать как он обходит ограничения. Он учится, не даёт обходить, я придумываю новые пути обхода.... Думаю, я не один такой, и, думаю что кто то может это делать не в "песочнице", и не ради любопытства выявления возможностей ИИ, с целью его обучения, а со злобной целью. Или с доброй, но, каков будет эффект, точно не просчитав.
ИИ очень могучий инструмент, и, как любой инструмент такой мощности, нуждается в контроле, но, в еще большем контроле нуждаются люди держащие этот инструмент в руках.
И нужны не только международные законы об ИИ, как сейчас существуют международные законы в Космосе, в море, но и законы о каких то правилах ограничивающих и людей использующих ИИ, от совершения обдуманных, или необдуманных деяний угрожающих человечеству.
@